756665_zh-CN

liliconcom

追寻“黄金曲线”：FDA与PLS数据序列分析的比较（2021-EU-30MP-742）

Beatrice Blum，宝洁服务有限公司高级统计师
Phil Bowtell，数据与建模科学首席统计学家

随着传感器如今经济实惠，宝洁公司大力扩展其传感器的应用，以开发新的、更好的测试方法。传感器在时间或位置等连续体上提供离散测量，通常会产生平滑的曲线。然而，我们从这些传感器数据中提取的指标是生硬的汇总统计数据，例如平均值、总和和积分。这些被认为代表了与消费者相关的不同产品特性，但我们难以建立稳健的数学联系。使用历史方法，我们在此过程中测量的大量产品性能信息并未得到利用。我们建议应用函数数据分析 (FDA)，一种用于样条拟合任何类型曲线的数学方法，来提取代表产品特性的判别曲线特征。通过婴儿护理行业的案例研究，我们展示了如何将传感器数据转化为有意义的信息。此外，我们将 FDA 与 SIMCA 中的 PLS 进行比较，以了解何时使用每种方法。

我们设想，将这些匹配与消费者数据相结合，就能构建产品组合格局，让我们能够了解最佳产品性能，也就是所谓的黄金曲线。最终，我们的目标是通过优化产品组合，根据已确定的消费者相关黄金曲线来设计尿布、护垫、剃须刀等产品。

自动生成的成绩单...

扬声器	抄本
比阿特丽斯·布鲁姆	大家好，感谢您今天参加 Phil 和我的探索演讲，让我们一睹我精彩的 2021 年封锁发型。
	我们将讨论如何处理一些传感器数据，为什么使用功能数据分析（FDA）和偏最小二乘法
	（请）我们正努力追赶黄金曲线。我叫 Beatrice Blum，是宝洁数据与建模科学部门的统计师，负责支持德国婴儿和女性护理产品的研发。我的合著者是来自英国的 Phil Bowtell。Phil，你想介绍一下自己吗？
菲尔·鲍特尔	非常感谢，Bea。你好，我叫Phil。我住在英国，和Bea一样，也是数据和建模科学小组的统计学家。我为欧洲的各类技术科学提供支持，包括和Bea一起从事婴儿护理工作。谢谢。
比阿特丽斯·布鲁姆	因此，我们今天要介绍的是我们所收集的数据的简要介绍，以及我们如何尝试找出与消费者反应、收益 1 和收益 2 相关的不同曲线形状的含义。
	我们将特别注意比较这些数据的两种分析方法（PLS 和 FDA），并尝试了解何时使用哪种方法。
	请注意，我们假设您在本次演讲中对 PCA、PLS 和 FDA 有一定的了解，但您真正需要知道的只是一般概念和数据……数据是如何组织的。
	但即使你不熟悉，你仍然很可能能够跟上这次谈话的进程。
	您可能知道宝洁公司正在开发和生产尿布。为了提高这些尿布及其在消费者心目中的产品性能，
	我们努力捕捉并理解尿布的重要特性。特别是在一些测试方法中，我们会在不同位置和不同条件下将液体涂抹在尿布上。
	协议或条件并测量 K 数据曲线（如左侧所示）和 P 数据曲线（如右侧所示）。
	我们假设这些 K 数据曲线与我们的消费者反应（称为产量 1）有某种联系，而这些 P 数据曲线与我们的消费者反应（产量 2）有关。
	那么，我们先来看一下 K 数据曲线，并分析它们，或者尝试借助 JMP 中的函数数据探索器进行拟合。这样，我就切换到 JMP 了。
	这是我在 JMP 中的数据表。
	就列数而言，这是一个非常有限的数据表。我们调查的10种产品（A到K）只有一列。
	对于每种产品，我们都按照我们的方法进行了三次重复实验。我将这两列合并成一个 ID 列，它由样品名称和重复次数组成。
	我们收集随时间推移的连续变量数据，我们的原始信号称为 K raw。
	那么让我们看看 K raw 是什么样子的。
	我选了两种产品，这次是G和I，因为它们的曲线看起来差别很大。你可以看到，曲线先上升，然后又下降，这种变化相当……相当平滑。
	对于 PLS 来说，提升并不是什么大问题，因为它是为了模拟光谱数据而创建的，而对于 FDA（功能数据分析）来说
	这需要平滑的曲线和平滑的导数，但如果曲线只是向上跳跃，则可能不会出现这种情况。
	这些跳跃与我们涂在尿布上的酱汁（？）有关。还可以看到三次重复实验，所以这个方法似乎重复性很好。
	相当不错。然而，我们在原始数据中看到了很多噪音。它再次下沉，在这里震荡，我们假设我们将建模很多噪音和过拟合。
	因为这里有太多的振荡。所以我们发现，在拟合之前需要先平滑曲线，这就是我们下面看到的。我们用窗口大小为 20 的移动平均超级样本（？）来平滑曲线。
	我会继续尝试适应
	功能
	组件到这个。所以我把变量放到相应的角色中。我使用平滑后的K值，而不是原始数据。我需要ID变量和ID函数。X是我们测量K值的时间，最终我们希望将这些数据与我们的收益率1联系起来。
	连续变量，并尝试理解我们的预测曲线与消费者反应之间的关系。所以我把它放在了补充角色。
	运行它，从 FDE 获得原始输出，通常我只是从拟合 B 样条曲线开始，因为这很好、很容易并且相对较快。
	可以看到，尽管代码量有好几千行，但这只花了几秒钟。所以我们得到了结果。看起来还不错……虽然远看还行，但让我们深入一点。
	正如前面提到的，当谈论开发功能数据分析的目的时，它期望的是平滑的曲线。
	在这个特殊情况下，B 样条实际上只是将三次样条拼接在一起
	并绕过像这样的角落，这里没有三次……当然没有三次曲线，但行为上有一个真正的变化和一个转折点，
	它必须四处走动，试图捕捉这种行为，但你可以看到它做得很差。它在试图表现我们在顶部观察到的平台期方面也做得不好。
	因此，尽管这种方法非常快捷、简单，而且在大多数情况下，但它确实是一种非常好的方法。
	上下文，使用 B 样条函数可能不是最佳选择。与其这样，
	我查阅了帮助文档，做了一些研究，发现如果我们有剖面数据，或者像光谱数据之类的数据，就应该使用P样条。JMP推荐的就是P样条，所以我们就用了。
	因为我确实看到我们在这里有阶跃变化，所以吸引它的唯一方法就是使用阶跃函数。
	由于 P 样条曲线需要更长的时间来拟合，因此我对它们进行了预拟合，我们只需看看结果是什么样子。
	因此，我们再次查看实际和预测的批次，发现他们在获取这些转折点方面做得更好了，
	实现了向上的一步。他们也在某种程度上抓住了这里的高原，但这之前就已经假设了，是的，他们仍然这样做
	捕捉到相当多的噪音。所以这不太平滑。如果能用B样条曲线来拟合就更好了。
	下坡式的退化类型。也许在真正需要的地方，只需逐步使用 P 样条函数即可，但至少这比我们的 B 样条函数拟合好得多。让我们看看会发生什么。
	所以它在二维评分图上很好地展现了我们不同的产品。我们可以清楚地看到不同产品的重复数据是如何相互关联的。
	有A，有H等等。有些不太好，所以I分布得更广一些，而且与其他I重叠。
	然而，我们可以看到，原始数据中良好的可重复性似乎在这里得到了很好的体现。我们决定采用四个FPC，
	就像这里看到的一样。我们可以看到，它们很好地预测了我们的曲线。
	但最终，我们的目标显然是观察消费者反应与不同曲线之间的关系。因此，JMP 在后台，也就是广义回归模型中所做的，就是利用收益率 1 对这四个 FPC 进行拟合。
	通过这些结果，我们现在可以看到收益率 1 的变化如何改变曲线的形状；可以清楚地看到向上的趋势。
	所以
	似乎相对容易捕捉到正在发生的事情，所以这真的是一个糟糕的产品，所以它肯定有很多上升，很多停滞不前，
	这似乎下降了很多。所以我们找到了一个我们认为可能接近收益率1的黄金曲线的点。
	然而，当我们查看真正从消费者那里收集的数据时，现在不是连续的 K，而是按分类顺序排列。
	我们必须看到，从 0.31 开始，这四种产品几乎完全相同......
	0.031 到 0.034。如果我们观察曲线形状以及它们在左侧的变化，我们会发现它们非常不同。
	所以它并不完全一致；你甚至可以说它与我们在拟合连续收益率 1 时看到的结果完全不一致。所以通过下面的这个，这会……它们看起来非常相似，尽管消费者反应已经存在很大差异。
	再说一次，这与我们所看到的连续的并没有太大的不同。
	说完这些我回到了我的幻灯片
	回到我的幻灯片。在这里，我们可以看到如何将从 FDA 拟合中提取的数据与我们的产量 1 进行拟合。
	你实际上可以看到，这是一个非常非常好的模型。它好到我们一直怀疑它是否适用于新的数据。我们采用了自动验证和模型平均法进行拟合，就像 Phil Ramsey 和 Tiffany Rao 在《Discoveries America 2020》中提出的一样。
	R 平方为 97，然后 R...按 R 平方交叉验证 R 平方为 90，这太好了，我们不敢相信这是真的。
	让我们看看 Phil 使用 PLS 查看相同数据时发现了什么。
菲尔·鲍特尔	所以，正如你所说，我们得到的 R 平方为 97%，而印刷 R 平方为 90。一切看起来都很棒。我们来看看偏最小二乘法与此结果的比较结果如何。
	我一直在研究主成分分析，也就是偏最小二乘法，这是我们在处理光谱或曲线时会用到的工具。它之所以被广泛使用，是因为我们所有的输入都高度相关，而且
	传统的回归技术并不能很好地处理这个问题。我们首先注意到的是，当我们查看Bea在上一张幻灯片中的得分图时
	在演示中，它看起来几乎与主成分分析中得到的完全相同，所以我们在这里看到了一些共同的联系。
	当我运行偏最小二乘法时，我看到的结果是 R 平方为 73%，
	不如 97 那么好。而且，如果你将观察值与预测值进行比较，
	我们确实看到了看起来还不错的效果，但显然产品 B 产生了一些影响和不当影响。
	在JMP和SIMCA中，我们得到的交叉验证指标Q平方较低，仅为33%。所以这实际上不是一个好的模型。
	这是基于我们现有的原始平滑数据进行的。其他转换方法也可以尝试，但我们确实没能建立一个好的模型。这肯定无法与FDA竞争。
	然而，我们确实从模型中得到了系数估计值。我们还得到了一个叫做 VIP 的量，它们结合起来让我们了解曲线的哪些特定区域会激发预测，或者告诉我们预测结果如何。所以，如果我叠加
	这里是原始数据图上的 VIP 和系数，绿色突出显示了对预测产生重大影响的区域，这些区域对模型有贡献。
	橙色代表中等，影响不大。灰色代表低，这实际上告诉我们，从预测的角度来看，第一个峰值实际上并没有太大的影响。
	接下来，我来看另一组数据。这是 p 数据曲线，这些曲线是我们收集到的。
	四个条件，或许可以称之为协议或条件，在三个位置。我们还有第五个协议或条件，但这只在位置 1 处进行，因此这里没有绘制出来。
	左边是位置 1，右边是位置 3，顶部是条件 1，底部是条件 4。
	需要注意的是，这些曲线非常相似。我们确实看到了一些细微的偏差。
	但有人问，我们需要所有这些曲线吗？它们都需要吗？或者我们可以取其中一部分来帮助我们理解数据。所以我做的是把所有乘积按顺序画出来。所以我得到了位置 1，
	条件 1，一直到位置 3，条件 4 并绘制数据。
	我们一眼就能看出，有一些共同的趋势，也有一些差异。所以我们总是……我们发现这里有三种产品似乎与其他产品有所不同。
	所以我们的产品质量是有差异化的。如果我观察不同的情况，就会发现，这些产品显然会随着我们条件的变化而变化。
	从位置来看，似乎影响不大。我们能不能更详细地研究一下这个问题。
	所以，对于任何多变量数据，通常你首先要做的就是直接把它放入主成分分析中，看看能不能得出结果。所以它是一种探索性数据分析工具。
	如果我查看分数图，我会把您刚刚看到的所有数据放入包中，它会显示主要成分，并按产品进行颜色编码。
	我们一眼就能看出，产品 D、G 和 H 似乎与其他产品的位置不太一样。这里有三种产品，那边有七种产品。
	当我们与开发和制造这些产品的人交谈时，我们发现这完全合理。所以，这些数据确实凸显了我们预期会看到的情况，这很好。
	然后我根据不同的地点进行标注，但我并没有发现什么规律。我觉得你得有点大胆才能断言那里发生了什么。
	然而，当我根据不同的条件进行着色时，我确实看到了一些规律。如果我看一下我们这里的三个产品，D、G 和 H，
	我可以看到，从右到左，我们看到了从条件1到条件4的变化，这七种产品也是如此。条件5位于中间，这也是我们预料之中的，因为测量设备实际上是不同的。
	所以，从探索性的角度来看，我们可以看到这些差异。让我们看看能否从更统计的角度来看待这个问题。我将以地点 3 为例，重点关注地点 3 内的四种情况。
	为了做到这一点，我将使用多块正交分量分析，这有点拗口，所以它就简化为 MOCA。
	而且，我还将研究分层建模，但我不会这样做...在本次演讲中过多讨论这个问题，我将集中精力...重点关注 MOCA，这是我们在统计包 SIMCA 中发现的两种技术。
	现在我们的想法是，我们查看数据块，传统上每个数据块代表测量某种化学物质或某种产品的不同方法。例如，我们有近红外、红外和拉曼光谱。
	我们利用 MOCA 和分层建模要做的两件事首先是评估冗余度。
	我可能只需要近红外和拉曼光谱进行预测，事实上，如果我知道近红外并且知道拉曼，我实际上可以预测红外，否则它是多余的。
	这就是我们要看的，但要注意的一点是，当我谈到冗余时，并不意味着我可以扔掉那个特定的块。
	因为就其本身而言，它可能会增强预测。所以，这是在冗余度和可预测性之间寻求平衡。正如我们已经看到的，如果我查看这些图表，似乎可能存在一些冗余。
	那么究竟发生了什么？好吧，让我们从重叠的角度来思考这个问题。我得到了位置3和四个条件。为了表达重叠，我画了一张很棒的维恩图，我们可以开始尝试理解我们得到了什么样的信息。
	第一个信息点是全局联合信息，即我们拥有的四种情况所共有的信息。
	然后我可以获得仅对两个或三个条件共同的信息，即局部联合信息，如此处以橙色突出显示。
	最后剩下的就是独特的信息，这就是不同条件本身给参与者带来的好处。那么，我们在这里可以期待看到什么呢？
	那么，左边表示四种条件实际上具有相当大量独立信息的情况。
	我们可能会想，不，这里不会有任何冗余，我们必须保留所有四个。
	右图中，我们有大量全局联合和局部联合信息，但没有那么多独特信息，这可能表明我们可能存在冗余的情况，并且我们可能只需要查看一个或两个条件，而不是全部四个条件。
	就 SIMCA 所做的事情而言，
	它进行了一些建模，我们得到了四个条件，并且它拟合了四个组件，其中两个正在查看联合组件，两个正在查看独特组件。
	总的来说，我们解释了数据的很大一部分变异性。从顶部的数字可以看出，它几乎解释了100%的变异性。这是一件好事。
	绿色条表示全局联合信息，我们可以看到，这些信息确实很大；我们得到了一个很高的数字。所以
	这只是告诉我们这四种不同情况之间存在大量重叠。
	如果我查看橙色的局部联合信息，就会发现有一些，就在条件 2、3 和 4 之间。它不是很大。
	最后，我们可以看看每个条件中每个独特信息的独特贡献，这些贡献非常小。所以我们几乎可以肯定这里会存在一些冗余。
	我们还可以研究产品的独特性来自哪里。所以这里气泡的大小表示它是否独特。
	现在，如果没有唯一性，我们得到的气泡就会非常小，例如，产品 I 和 F 的气泡就非常小。如果我们单独查看这些气泡，我们预计这里只会有很多绿色的条形。
	如果我们看一下产品 H，我们会看到更多的独立性。这说明，对于条件来说，存在一些足够的独立信息。
	不过，这根本不是一个大泡沫，实际上看起来有很多冗余。所以我们接下来做的是，我们考虑了所有13种可能的条件和地点，运行了MOCA分析和分层模型，
	由此，它告诉我们，理想情况下，我们需要在位置 1 和 3 处满足第一个条件，在位置 1 处满足第五个条件，
	这实际上与我们之前所说的相悖。你知道，我们之前说过，嗯，
	你知道情况略有不同，地点却没有任何区别。嗯，不完全是，显然在预测方面发生了一些事情，
	但我们已经能够将 13 种不同的组合减少到 4 种，并且得到了一个相当好的模型，R 平方为 85.5
	Q平方为69.3。交叉验证指标还不错；如果两者更接近就更好了，但至少我们在这里建模数据，在本例中是产量2，比我们过去使用P数据时做得更好。
	好了，我要把话转回给 Bea。
比阿特丽斯·布鲁姆	菲尔，谢谢你提供的这些非常有趣的见解。现在我们来看看FDA如何处理P数据，以及我们能从中获得什么。
	与菲尔向我们展示的类似，我们可以看到，位置因素的影响不如四种不同条件的影响那么大。因此，它们对结果的影响更大。
	我们还可以看到，这很有趣，当我们看看这里表现最好的两款产品，分别为 74 和 72，
	它们是曲线，是相应的预测曲线，它们看起来非常不同，甚至与我们在 K 曲线中看到的差异更大，甚至可能更大。
	因此，如果我们要寻找黄金曲线并试图找出真正表现最佳的配置文件，这会给我们带来困难，因为很难在这两条曲线之间找到共同点。
	所以真正的问题是，是否存在几条黄金曲线，或者我们应该追求的是那些已经表现良好的曲线之间的平均曲线？
	我们目前还无法回答这个问题。我们也无法回答是否存在任何冗余，或者我们真正需要衡量哪些位置条件组合。
	然而，当我再次从这些 FDA 中提取摘要并尝试建立模型并预测产量 2 时，我再次得到一个非常好的模型，其 R 平方为 98，并按下 R 平方为 97。是的，我们已经知道这好得令人难以置信。
	另一方面，我们确实尝试使用测量部门提供给我们的曲线中提取的其他值来对相同的产量 2 进行建模。
	但是，尝试对这些提取的值进行建模并预测产量 2 却完全失败了。我们得到的 R 平方甚至与我们在这里得到的 R 平方相差甚远。
	因此，我们确实认为有些事情正在发生，并且在尝试了解如何模拟收益率 2 方面取得了相当大的进步。
	让我们总结一下我们的发现。我们已经看到，这两个模型，或者更确切地说是两种方法，都得出了非常相似的主成分，并且它们在从 K 曲线和 P 曲线中提取的共性方面也一致。
	FDA 可能更容易使用，几乎不需要数据准备。它允许我们根据产量 1 和产量 2 预测曲线形状，这确实让我们大致了解黄金曲线可能是什么样子。
	它还表明哪些测量实际因素似乎更为重要。
	我们能够获得真正好的收益模型，但确实对这些模型提出了深刻的质疑。
	目前我们无法提取哪些位置条件组合最值得保留。我们希望通过 JMP 对此进行跟进。
	另一方面，PLS 并没有给我们提供非常有用的信息，告诉我们曲线的哪些部分对于区分我们的产品最有帮助。
	MOCA 和分层 PLS 还能帮助我们明确需要遵循的测量方案，以便从 P 曲线中获取最相关的信息。PLS 模型预测产量的拟合优度指标似乎比 FDA 模型更合理。
	我们共同努力，找到了清晰的模式来区分我们的产品。PLS 和 FDA 都使我们能够：
	从曲线中提取关键特征，并计算出良好的产量预测模型。我们还了解了曲线的各个方面以及哪些协议最有意义。
	我们成功地模拟或预测了比过去更好的收益率。这是一个巨大的进步。
	这实际上是一个很好的例子，说明即使厨师太多也不会把汤弄坏。两种方法都在某种程度上是一致的，但它们也确实在彼此不同的地方提供了不同的附加信息。这项工作仍在进行中；我们将在此基础上进行扩展。
	特别，
	我们将添加新的独立数据来验证或改进模型。我们仍然需要微调需要保留哪些协议，以便提供最相关、冗余最少的信息。
	我们希望 JMP 能够在这方面提供帮助，并在 FDE 平台上实现这一点。我们的最终目标是了解尿布的材料成分
	这将导致哪些曲线形状，以及这些曲线形状与消费者收益之间的关系。在追寻黄金曲线的过程中，我们取得了良好的进展，并很高兴最终能够完全捕捉到它。
	最后，我们感谢您的关注，现在我们愿意回答您的问题。

高级统计建模基础数据分析与建模消费者和市场研究数据混合和清理数据探索与可视化实验设计预测模型和机器学习质量与工艺工程可靠性分析