349210_zh-CN

liliconcom

追求“黄金曲线”：FDA 和 PLS 数据系列分析的比较 (2021-EU-30MP-742)

级别：中级

 

Beatrice Blum，宝洁服务有限公司高级统计师
Phil Bowtell，数据和建模科学首席统计学家

 

随着传感器现在变得经济可用，宝洁公司大规模扩展了传感器的使用，以开发新的、更好的测试方法。 传感器在时间或位置等连续体上提供离散测量，通常会产生平滑的曲线。 然而，我们从这些传感器数据中提取的指标是简单的汇总统计数据，例如平均值、总和和积分。 这些被认为代表了不同的与消费者相关的产品特征，但我们很难建立强大的数学联系。 使用历史方法，我们一路上测量的有关产品性能的许多信息都没有被利用。 我们建议应用功能数据分析（FDA），一种对任何类型曲线进行样条拟合的数学方法，来提取代表产品特征的区分曲线特征。 通过婴儿护理的案例研究，我们展示了如何将传感器数据转化为有意义的信息。 此外，我们在 SIMCA 中将 FDA 与 PLS 进行比较，以了解何时使用每种方法。

我们设想，将这些拟合与消费者数据相匹配将能够创建产品组合景观，使我们能够了解最佳产品性能，即所谓的黄金曲线。 最终，我们的目标是通过优化产品成分，根据已确定的与消费者相关的黄金曲线来设计尿布、护垫、剃须刀等产品。

 

 

自动生成的成绩单...

 

扬声器	成绩单
比阿特丽斯·布鲁姆	大家好，感谢您今天参加 Phil 和我的 Discovery 演讲，让我们一睹我精彩的 2021 年锁定发型。
	我们将讨论如何处理一些传感器数据，为什么使用功能数据分析 (FDA) 和偏最小二乘法
	（PLS）我们追求抓住黄金曲线。 我叫 Beatrice Blum，是宝洁公司数据和建模科学部门的一名统计学家，负责支持德国的婴儿和女性护理研发。 我的合著者是来自英国的 Phil Bowtell。 菲尔，你想自我介绍一下吗？
菲尔·鲍特尔	非常感谢你，碧。 你好，我叫菲尔。 我住在英国，和 Bea 一样，我是数据和建模科学小组的一名统计学家。 我支持欧洲的各种技术科学，包括 Bea 的婴儿护理。 谢谢。
比阿特丽斯·布鲁姆	因此，我们今天要介绍的内容是快速介绍我们收集的数据，以及我们如何尝试找出不同曲线形状相对于消费者反应（产量 1 和产量 2）的含义。
	我们将特别注意比较这些数据的两种分析方法（PLS 和 FDA），并尝试了解何时使用哪种方法。
	请注意，在本次演讲中，我们假设您了解 PCA、PLS 和 FDA 的一些知识，但您真正需要知道的是一般概念和数据……数据是如何组织的。
	但即使您不熟悉，您仍然很可能能够理解本次演讲的内容。
	所以您可能知道宝洁公司正在开发和制造尿布。 为了改善这些尿布及其在消费者眼中的产品性能，
	我们试图捕捉并理解尿布的重要特征。 特别是在我们的一些测试方法中，我们在不同位置和不同条件下将液体涂抹到尿布上。
	协议或条件并测量 K 数据曲线（如左图所示）和 P 数据曲线（如右图所示）。
	我们假设这些 K 数据曲线在某种程度上与我们的消费者响应（称为产量 1）相关，并且这些 P 数据曲线与我们的消费者响应（产量 2）相关。
	因此，让我们首先查看 K 数据曲线并分析这些曲线，或者尝试借助 JMP 中的函数数据浏览器来拟合这些曲线。 这样，我将切换到 JMP。
	这是我在 JMP 中的数据表。
	这是一个列数非常有限的数据表。 我们有一栏列出了我们一直在调查的 10 种产品，从 A 到 K。
	对于每一种产品，我们都在我们的方法中进行了三次重复。 我将这两列组合成一个 ID 列，它由样品名称和重复编号组成。
	我们随着时间的推移收集连续变量数据，我们的原始信号称为 K 原始信号。
	那么让我们看看 K raw 是什么样子的。
	我只选择了两种产品，在本例中是 G 和 I，因为它们的配置文件似乎完全不同。 你可以看到，我们有一些曲线向上跳跃，然后以一种相当……相当平滑的行为变平的情况。
	对于 PLS 来说，升级并不是什么大问题，PLS 是为了尝试对光谱数据进行建模而创建的，而对于 FDA（功能数据分析）来说
	这将期望平滑的曲线和平滑的导数，如果曲线只是向上跳跃，则可能不会给出这些。
	这些跳跃与我们应用于尿布的酱汁（？）有关。 还可以看到三个重复，因此该方法似乎具有很好的重现性。
	相当不错。 然而，我们在原始数据中看到很多噪音。 它再次下沉，在这里振荡，我们假设我们将模拟大量噪音和过度拟合
	只是因为我们这里有太多的波动。 所以我们发现它表明在拟合之前平滑曲线，这就是我们在这里看到的。 我们通过使用窗口大小为 20 的移动平均超级样本（？）来平滑曲线。
	然后我会过去尝试适应
	功能性的
	组件到此。 所以我把我的变量放入相应的角色中。 我使用平滑后的 K 代替原始数据。 我需要我的 ID 变量和我的 ID 函数。 我的 X 是我们测量 K 的时间，以及最终我们想要实现的目标，即将这些数据链接到我们的产量 1
	连续变量，并尝试了解我们的预测曲线与消费者反应的关系。 所以我把这个放到了辅助的角色里。
	运行它，从 FDE 获取原始输出，通常我只是从拟合 B 样条线开始，因为这很好、简单且相对较快。
	可以看到，尽管我们有几千行，但这只花了几秒钟。 这样我们就得到了结果。 它看起来并不算糟糕……从远处看确实很糟糕，但是让我们深入了解一下。
	正如已经提到的，当谈论功能数据分析的开发目的时，它期望平滑的曲线。
	在这种特殊情况下，B 样条实际上只是将三次样条拼接在一起
	并绕过像这里这样的拐角，那里没有三次……当然没有三次曲线，但行为的真正变化和转折点，
	它必须四处走动并尝试在某种程度上捕获该行为，但您可以看到它做得非常糟糕。 它在试图代表我们在顶部观察到的这些高原方面也做得不好。
	因此，尽管速度非常快、简单，并且在大多数情况下，在这个特定的情况下是一个非常好的方法
	就上下文而言，B 样条可能不是最好的选择。 相反，
	我在帮助中阅读了一些内容并做了一些研究，发现好吧，如果我们有轮廓数据，如果我们有光谱数据之类的东西，我们应该使用 P 样条线。 这就是 JMP 的建议，因此我们选择了 P 样条曲线。
	因为我确实看到我们这里有阶跃变化，所以吸引……吸引这一点的唯一方法是使用阶跃函数。
	由于 P 样条线需要更长的时间来拟合，因此我预先拟合了它们，我们只需看看结果是什么样子。
	因此，我们再次查看这里的实际和预测批次，然后发现，哦，他们在实现这些转折点...转折点方面做得更好
	实现向上的一步。 他们也在某种程度上捕捉到了这里的高原，但之前已经假设是的，他们仍然这样做
	捕获相当多的噪音。 所以这并不是很顺利。 如果有一个适合这个的 B 样条实际上会非常好
	下山退化型风格。 也许只需在真正需要的区域中步进 P 样条即可，但至少这比我们的 B 样条拟合要好得多。 让我们看看发生了什么。
	因此，它在将我们的不同产品放在其上（二维得分图）方面做得非常好。 我们可以清楚地看到不同产品的复制品如何相互分组。
	有A；我们有 H 等等。 其中一些不太好，所以 I 的分布有点远，并且与其他的重叠。
	然而，我们可以看到，我们在原始数据中看到的良好再现性似乎在这里表现得很好。 我们决定选择四个 FPC，
	正如这里所看到的。 我们可以看到他们很好地预测了我们的曲线。
	但最终，我们的目标显然是了解消费者的反应如何与不同的曲线相关。 因此，JMP 在广义回归的后台所做的就是使用 Yield 1 拟合这四个 FPC。
	通过结果，我们现在可以看到产量 1 的变化如何改变曲线的形状；可以清楚地看到一条向上的线。
	所以
	似乎相对容易捕捉正在发生的事情，所以这是一个非常糟糕的产品，所以它肯定上涨了很多，这里停滞不前，
	而这似乎又下降了很多。 因此，我们发现了一些我们认为可能接近收益率 1 的黄金曲线的东西。
	然而，当我们查看我们真正从消费者那里收集的数据时，现在不是连续的 K，而是我们只是按类别将它们排序。
	我们必须看到这四种产品从 0.31 开始几乎完全相同......
	0.031 至 0.034。 如果我们观察左侧的曲线形状以及它们如何变化，我们会发现它们有很大不同。
	所以它并不完全一致；你甚至可以说它与我们在拟合连续产量 1 时所看到的完全不相符。 因此，通过这里的这一点，这……它们看起来非常相似，尽管消费者的反应已经存在很大差异。
	再说一遍，这一期与我们从连续期中看到的情况并没有太大不同。
	然后我回到我的幻灯片
	回到我的幻灯片。 在这里，我们可以看到如何将从 FDA 提取的数据与我们的产量 1 相匹配。
	你实际上可以看到这是一个非常非常好的模型。 它太好了，以至于我们总是怀疑这是否适用于新数据。 我们通过使用自动验证和模型平均来进行拟合，正如 Phil Ramsey 和 Tiffany Rao 在 2020 年 Discoveries America 中所提倡的那样。
	R 平方为 97，然后 R...按 R 平方交叉验证 R 平方为 90，这太好了，让我们相信这是真的。
	接下来，让我们看看 Phil 使用 PLS 查看相同数据时发现了什么。
菲尔·鲍特尔	所以，正如你所说，我们的 R 平方为 97%，而压力 R 平方为 90。 一切看起来都非常好。 让我们看看偏最小二乘法与此相比如何。
	所以我一直在研究主成分分析、偏最小二乘法，这是我们在拥有光谱或曲线时使用的工具。 它被广泛使用是因为我们所有的输入都将高度相关并且
	传统的回归技术不能很好地解决这个问题。 我们注意到的第一件事是，当我们查看 Bea 在上一张幻灯片中的得分图时
	在演示中，它看起来几乎与主成分分析中的完全相同，因此我们可以在其中看到一些常见链接。
	当我运行偏最小二乘法时，我看到的是 R 平方为 73%，
	没有97那么好。 而且，如果你将观察到的情况与预测相比较，
	我们确实看到了看起来很合适的产品，但显然产品 B 产生了一些影响和不适当的影响。
	在 JMP 和 SIMCA 中，我们得到了交叉验证度量 Q 平方，较低为 33%。 所以这并不是一个好的模型。
	这是根据我们拥有的原始平滑数据完成的。 您还可以尝试其他转换，但实际上我们无法构建一个好的模型。 它当然无法与 FDA 竞争。
	然而，我们从模型中得到的一件事是系数估计。 我们还得到了这个称为 VIP 的量，这些量一起让我们了解曲线的哪些特定区域令人兴奋或告诉我们预测发生了什么。 所以如果我只是覆盖
	这里是原始数据图上的 VIP 和系数，绿色突出显示了这对预测确实产生重大影响的区域，以及对模型的贡献。
	橙色是中等的，不是那么多。 灰色很低，这实际上告诉我们，从预测的角度来看，第一个峰值确实没有太大影响。
	接下来，我正在查看另一组数据。 这是 p 数据曲线，这里我们有已收集的这些曲线。
	三个地点的四个条件，也许可以称之为协议或条件。 我们还有第五个协议或第五个条件，但这仅在位置 1 处进行，此处未绘制。
	我们所拥有的是左侧的位置 1，右侧的位置 3，顶部的条件 1，一直到底部的条件 4。
	值得注意的是，这些曲线非常相似。 我们确实看到了一些轻微的偏差。
	但有人提出的一个问题是，我们需要所有这些曲线吗？ 它们都需要吗？ 或者我们可以提取一个子集并使用它们来帮助我们理解数据。 所以我所做的就是获取所有产品并按顺序绘制它们。 所以我有位置 1，
	条件 1，一直到位置 3，条件 4 并绘制数据。
	我们可以立即看到一些共同的趋势；我们还可以看到一些差异。 所以我们总是......我们看到这里有三种产品似乎与其他产品不同。
	所以我们有一些产品差异化。 如果我观察不同的条件，我可以看到，显然，随着我们改变条件，这些产品肯定会发生变化。
	从位置上看，似乎影响并不大。 让我们看看是否可以更详细地研究一下这个问题。
	因此，对于任何多变量数据，通常情况下，您要做的第一件事就是将其投入主成分分析，看看是否会产生任何结果。 所以它是一个探索性数据分析工具。
	如果我查看分数图，我会获取您刚刚看到的所有数据，将其放入包中，它会显示主要组件，并按产品进行颜色编码。
	我们可以立即看到产品 D、G 和 H 似乎与其他产品相距甚远。 我们这里有三种产品，这里有七种产品。
	当我们与开发这些产品和制造这些产品的人交谈时，这是完全有道理的。 因此，数据实际上突出了我们期望看到的东西，这是件好事。
	然后我通过不同的位置进行突出显示，但我并没有真正看到这里的模式。 我认为你必须非常冒险才能说那里正在发生一些事情。
	然而，当我根据不同的条件着色时，我确实看到了一些图案的出现。 如果我看看我们这里的三种产品，D、G 和 H，
	我可以看到，当你从右向左看时，我们看到从条件 1 到条件 4 的转变，这里的七种产品也是如此。 条件 5 位于中间，这也是我们所期望的，因为它实际上是不同的测量设备。
	所以，从探索的角度来看，我们可以看到这些差异。 让我们看看是否可以从更统计的角度来看待这个问题。 对于我要查看的示例，我将重点关注位置 3 并查看位置 3 中的四个条件。
	为此，我将使用多块正交分量分析，这有点拗口，所以它只是简化为 MOCA。
	而且，我还将研究分层建模，但我不会那样做……在本次演讲的背景下讨论太多，我将重点关注……重点关注MOCA 和这些是我们在统计包 SIMCA 中找到的两种技术。
	现在这里的想法是，我们查看数据块，传统上每个块代表测量某种化学品或某种产品的不同方法。 例如，我们有近红外、红外和拉曼光谱。
	我们希望通过 MOCA 和分层建模完成的两件事首先是评估冗余。
	可能我只需要近红外和拉曼光谱来进行预测，事实上，如果我知道近红外并且我知道拉曼，我实际上可以预测红外，否则它是多余的。
	这就是我们要考虑的问题，但需要注意的一件事是，当我谈论冗余时，它并不自动意味着我可以扔掉那个特定的块。
	因为它本身可能会增加预测。 因此，这是冗余和可预测性之间的平衡行为。 正如我们已经看到的，如果我查看这里的这些图表，看起来可能存在一些冗余。
	那么到底发生了什么？ 好吧，让我们从重叠的角度来考虑这个问题。 我已经有了位置 3，并且已经有了四个条件。 为了表达重叠，我有一个很棒的维恩图，我们可以真正开始尝试理解我们所获得的信息类型。
	第一个信息点是全球联合信息，这是我们拥有所有四种情况所共有的信息的地方。
	然后我可以获得仅对两个或三个条件通用的信息，即局部联合信息，如此处橙色突出显示的那样。
	最后剩下的就是独特的信息，这就是不同的条件本身给聚会带来的东西。 那么在这里我们会看到什么呢？
	好吧，左侧表示这四个条件实际上具有相当大量的独立信息的情况。
	我们可能会想，不，这里不会有任何冗余，我们必须保留所有四个。
	右边的图像中，我们有大量的全局联合和局部联合信息，并且没有那么多独特的信息，这可能表明我们可能存在冗余的情况，并且我们可能会逃避查看其中的一两个信息条件，而不是全部四个。
	就 SIMCA 的工作而言，
	它进行了一些建模，我们得到了四个条件，并且安装了四个组件，其中两个正在查看联合组件，其中两个正在查看独特的组件。
	总的来说，我们解释了数据的很多变异性。 我们可以从顶部的数字看到解释了近 100% 的变异性。 这是好事。
	绿色条是查看全局联合信息，我们可以看到，这些信息确实很大；我们的人数很多。 所以
	这只是告诉我们这四种不同的条件之间存在大量重叠。
	如果我查看橙色的局部联合信息，就会发现有一些位于条件 2、3 和 4 之间。 它并不大。
	最后，我们可以看看每个条件的每个独特信息所具有的独特贡献，而且这是相当小的。 所以我们非常确定会有一些冗余。
	我们还可以调查产品的独特性来自哪里。 所以这里气泡的大小就表明了它是否是唯一的。
	现在，如果我们没有唯一性，我们就会得到非常小的气泡，因此，例如，产品 I 和 F 非常小。 如果我们单独查看这些，我们会期望这里有很多绿色的绿色条。
	如果我们看看产品 H，我们会看到更多的独立性。 它告诉我们有一点独立的信息足以满足条件。
	但这并不是一个大泡沫，一点也不，而且实际上看起来存在很多冗余。 所以接下来我们采取了所有 13 种可能的条件和位置，我们运行了 MOCA 分析以及层次模型，
	由此，它告诉我们，理想情况下，我们需要位置 1 和 3 处的第一个条件，以及位置 1 处的第五个条件，
	这确实有点违背我们所说的。 你知道，我们之前说过，嗯，
	您知道条件略有不同，但地点根本没有不同。 嗯，不完全是，在预测方面显然发生了一些事情，
	但我们已经能够从 13 种不同的组合减少到 4 种，模型相当不错，R 平方为 85.5
	Q 平方为 69.3。 交叉验证措施还不错；如果这两个更接近就好了，但至少我们在这里对数据进行建模，在本例中为产量 2，比我们过去能够做到的更好，使用的是 P 数据。
	那么，我将回到Bea。
比阿特丽斯·布鲁姆	菲尔，谢谢你提供的这些超级有趣的见解。 现在让我们看看 FDA 对 P 数据做了什么以及我们可以从中得到什么。
	与菲尔向我们展示的类似，我们可以看到位置作为一个因素，如果你可以说，它的影响不如不同的四个条件那么大。 所以他们的结果差异更大。
	我们还可以看到，这非常有趣，当我们查看这里表现最好的两款产品（74 和 72）时，
	它们是曲线，相应的预测曲线，它们看起来非常不同，甚至比我们在 K 曲线中看到的更不同，甚至可能。
	因此，如果我们要寻找黄金曲线并尝试找出真正性能最佳的配置文件，这会给我们带来困难，因为很难找到这两条曲线之间的共同点。
	所以问题是，是否存在几条黄金曲线，或者已经表现良好的曲线之间的平均曲线是否是我们必须追求的？
	我们还不能回答这个问题。 我们也无法回答是否存在任何冗余或我们真正需要从中测量哪些位置条件组合。
	然而，当我再次从这些 FDA 中提取摘要并尝试构建模型并预测产量 2 时，我再次得到一个 R 平方为 98 的超级好模型，并按 R 平方为 97。 是的，我们确实已经知道这好得令人难以置信。
	另一方面，我们确实尝试使用测量部门提供给我们的曲线中的其他提取值对相同的产量 2 进行建模。
	但尝试对这些提取的值进行建模并预测产量 2 根本没有成功。 我们能够实现的 R 方甚至与我们在这里得到的 R 方相差甚远。
	因此，我们确实认为正在发生一些事情，并且我们在尝试理解如何对 Yield 2 进行建模方面迈出了相当大的一步。
	让我们总结一下我们的发现。 我们已经看到，这两种模型，或者更确切地说，两种方法，都会产生非常相似的主成分，并且它们在从 K 和 P 曲线中提取的共性方面是一致的。
	FDA 可能更容易使用，几乎不需要准备数据。 它使我们能够根据产量 1 和产量 2 预测曲线形状，这确实让我们对黄金曲线的外观有所了解。
	它还表明保留哪些测量实际因素似乎更重要。
	我们能够获得非常好的产量模型，但确实对这些模型提出了深刻的质疑。
	目前，我们无法提取哪些位置条件组合与保留最相关。 我们希望通过 JMP 跟进此事。
	另一方面，PLS 并没有为我们提供非常有用的信息，即曲线的哪些部分在区分我们的产品方面信息最丰富。
	MOCA 和分层 PLS 还为我们指明了我们确实需要保留的测量协议，以便从 P 曲线中捕获最相关的信息。 就拟合优度指标而言，预测产量的 PLS 模型似乎比 FDA 模型更为合理。
	我们的共同努力帮助我们找到了使我们的产品脱颖而出的清晰模式。 PLS 和 FDA 都使我们能够，
	从痕迹中提取基本特征并为我们的产量计算良好的预测模型。 我们还了解了曲线的各个方面以及哪些协议最有意义。
	我们能够比过去更好地建模或预测我们的产量。 这是向前迈出的一大步。
	这是一个很好的例子，实际上太多的厨师并没有破坏肉汤。 两种方法都同意某一点，但它们也确实提供了彼此不同的不同附加信息。 这项工作正在进行中；我们将从这里开始扩展。
	特别，
	我们将添加新的独立数据来验证或改进模型。 我们仍然需要微调我们需要保留哪些协议，以便为我们提供最相关和最少冗余的信息。
	我们希望 JMP 能够在这方面提供帮助，在 FDE 平台中实现这一点。 我们的最终目标是了解纸尿裤的材料成分是什么
	将产生哪些曲线形状以及这些曲线形状与消费者收益的关系。 在追求黄金曲线的过程中，我们取得了良好的进展，并且很高兴最终能够完全捕捉到它。
	在此，我们感谢您的关注，并欢迎提问。

峰会精选爆发数据探索预测建模