扬声器
|
成绩单
|
| 菲尔·凯 |
好的,我们将讨论重新思考实验的设计和分析。 我是菲尔·凯。 我是全球技术支持团队的学习经理,Pete Hersh 也加入了我的行列。 |
| 彼得·赫什 |
是的,我也是全球技术支持团队的成员,很高兴谈论 DOE 以及我们今天正在探索的一些新技术。 |
| 菲尔·凯 |
首先要说的是,我们是能源部的忠实粉丝。 这很棒。 长期以来,它在科学和工程领域具有巨大的价值。 |
| |
话虽如此,为了大量使用能源部,我们必须接受一些假设。 |
| |
作为一名科学家或工程师,他们并不总是感到非常舒服。 所以像效果稀疏这样的东西,所以这个想法并不是你所看到的一切都很重要 |
| |
事实上,只有少数你正在尝试的事情被证明是重要的。 或者说效应遗传是另一种假设。 |
| |
因此,这意味着我们只期望看到以简单形式活跃的因素的复杂行为或高阶效应。 |
| |
而且,正是这种主动效应和非主动效应的想法,通常情况下,实验设计的顺序过程就是从非主动效应中筛选出主动效应。 |
| |
有时这感觉像是一个太多的二元决定。 我认为,很多时候,这似乎有点疯狂,我们正在完全不活跃地试验一些东西, |
| |
我想我们真的知道,一切都会产生一些影响。 这可能不太重要,但是 |
| |
它仍然会产生一些影响。 这些很大程度上是我们使用的假设 |
| |
当您无法承担大量运行的费用时,可以克服设计实验的一些挑战,是的。 Pete,我不知道你是否也想从你的角度对此发表评论。 |
| 彼得·赫什 |
是的,我完全同意。 我认为温度不活跃这样的想法是……我认为很难想象温度对实验没有影响。 |
| 菲尔·凯 |
是的,这有点荒谬,不是吗? 所以, |
| |
是的,如果这是在你的实验中,那么它总是会以某种方式活跃,但可能不像其他事情那么重要。 |
| |
所以我要直接跳到结果 |
| |
我们所看到的。 所以我们一直在研究 Chris Gotwalt 和 Phil Ramsey 发明的自动验证技术 |
| |
并在设计实验的分析中使用它,它确实提供了疯狂的结果。 我们只是认为它们不可能。 |
| |
因此,首先我查看了一个具有 13 种主动效应的系统,并分析了 13 次运行的最终筛选设计,从中我能够识别出 13 种效应是活跃的,这就是……这就是我们所说的饱和情况。 我们不会... |
| |
通常,我们讨论过明确的筛选设计,当我们存在效应稀疏性时,当只有少数实际上重要或活跃的效应时,它可以有效地识别主动效应。 但在本例中,我成功识别了所有 13 种主动效应。 |
| |
不仅如此,实际上能够从这 13 次运行的最终筛选设计中建立一个包含所有 13 种活性效应的模型。 |
| |
所以,这又有点令人难以置信;我们不期望能够拥有一个具有与我们构建模型的数据行一样多的主动效果的模型。 |
| |
皮特,你研究了其他一些东西并得到了一些其他非常有趣的结果。 |
| 彼得·赫什 |
是的,绝对如此,而且菲尔的成绩非常非常令人印象深刻。 我认为 |
| |
我们尝试的下一步是制作超饱和设计,这比跑步效果更活跃,我们尝试了以下方法: |
| |
非常小的 DOE。 因此,六次运行的 DOE 具有七个主动效应,如果我们采用标准 DOE 技术,则无法分析 |
| |
正确地说。 我们将其与 8 次和 10 次运行的 DOE 进行比较,以及这给我们带来了多少钱。 所以我们得到了相当有用的模型,即使是来自六次运行的 DOE,这是 |
| |
比我预期的要好。 |
| 菲尔·凯 |
是的,这比你想象的要好,不是吗? |
| |
因此,我们得到了这些非常令人印象深刻的结果,并且能够从很小的影响中识别出大量的活性效应。 |
| |
明确的屏幕设计并实际构建具有所有这些主动效果的模型。 在皮特的例子中,我已经能够从非常小的数据中建立一个具有七个主动效果的模型 |
| |
设计了实验。 |
| |
那么,我们是如何做到这一点的呢? 自动验证方法如何工作? 嗯,它从机器学习中汲取灵感,而机器学习中真正有用的工具之一就是验证。 因此,坚持验证是确保您构建的一个非常好的方法 |
| |
最有用的模型。 所以这是一个稳健的模型。 因此,我们保留了一部分数据,用它来测试我们构建的不同模型,并且 |
| |
基本上,对我们所提供的数据进行最佳预测的模型就是我们所使用的模型,并且这只是经过真正尝试和测试的模型。 |
| |
实际上,这几乎是构建最有用模型的黄金标准,但对于 DOE 来说,这是一个更大的挑战,不是吗,Pete? 它显然并不适合这样做。 |
| 彼得·赫什 |
是的,是的,能源部背后的整个想法是尽可能有效地探索设计空间。 如果我们开始坚持跑步或坚持 |
| |
运行分析,那么我们将错过部分设计空间 |
| |
我们确实无法通过许多能源部技术(例如最终筛选设计)来做到这一点。 |
| 菲尔·凯 |
是的,是的,所以如果有一些技巧可以让我们从这种保留验证中受益,并且不会因保留关键数据而受到影响,那就太好了。 这给我们带来了自动验证 |
| |
想法,皮特,你想描述一下它是如何工作的吗? |
| 彼得·赫什 |
绝对,所以这是克里斯和菲尔·拉姆齐开发的一个真正聪明的想法,他们基本上从能源部获取我们的原始数据,然后重新采样,所以你 |
| |
重复结果。 因此,如果您注意到幻灯片底部的表格,灰色的运行与白色的运行结果相同。 它们只是重复而已。 |
| |
他们解决这个问题的方法是制作一个配对的加权列。 所以基本上,如果一个人的体重很高, |
| |
重复运行的速率较低...重量等等。 这……这……使我们能够使用经过验证和加权的数据,我们将更详细地介绍如何完成此操作。 |
| 菲尔·凯 |
是的,当我们进行演示时,您会看到它是如何发生的。 因此,我们基本上有两个模拟示例的案例研究,我们用它们来说明这种方法。 所以我要讲的第一个案例研究 |
| |
我强调这是一个模拟的例子。 在某些方面,这是一个不切实际的例子,但我认为它很好地展示了这种方法的力量。 |
| |
我们有六个因素,为了让它看起来更真实,我们从这里的案例研究中选择了一些真实的因素,他们试图种植一些生物有机体并优化它们输入系统的营养物质以优化增长率。 |
| |
所以我们有这六种不同的营养素,这些就是我们的因素。 我们可以添加不同数量的这些因素,因此我设计了一个 13 次运行的最终筛选设计,以探索具有这种增长率响应的这些因素。 |
| |
而且反应数据完全是我模拟的,模拟出有13个强活性效果。 所以 |
| |
我对其进行了模拟,因此所有主要效果(所有六个主要效果)均处于活动状态。 |
| |
然后,对于每个因素,二次效应也很活跃,因此我们有六个二次效应。 |
| |
另外,我们还有一个始终需要估计的截距,因此总共有 13 个活跃效应,这对于理解系统非常重要。 |
| |
1 信噪比,但这对于标准方法来说仍然是一个真正的挑战,以便对其进行建模,我们将在演示中讨论这一点。 |
| |
所以,实际上,问题是,我们能否识别所有这些重要影响,如果可以,那么我们是否可以建立一个具有所有这些重要影响的模型? 因为正如我所说,那将是非常了不起的 |
| |
与我们使用标准方法可以做什么。 |
| |
然后是案例研究#2,皮特? |
| 彼得·赫什 |
是的,绝对是。 与菲尔的案例研究非常非常相似。 同样的想法,我们向有机体提供不同水平的不同营养物质并检查其生长速度。 在这种情况下,我简化了菲尔所做的事情,并将其分解为三个营养因子。 这是 |
| |
构建不同类型的设计,即 I 最优过饱和设计,我们正在研究完整的响应曲面 |
| |
以过饱和的方式,我们看了六次、八次和十次 |
| |
设计。同样的想法。 |
| |
的 |
| |
效果非常非常 |
| |
高信噪比,所以真的希望能够挑出这些影响(如果它们处于活动状态)。 就像菲尔一样,我保留了二次方程中的主要效应以及截距,我们正在尝试将它们挑出来。 |
| |
同样的想法,那么我们需要运行多少次才能看到这些主动效果,以及我们可以从这些非常小的设计中制作出多准确的模型? |
| 菲尔·凯 |
是的,因为你知道,就像我说的,你真的没有权利期望能够从如此小的设计中构建出一个好的模型。 |
| 彼得·赫什 |
是的,完全正确。 好的。 |
| 菲尔·凯 |
现在我将演示案例研究#1。 |
| |
我通过 JMP 项目来展示这一点,因此这是展示结果的一种非常好的方式。 我建议尝试一下。 |
| |
这就是我们的 |
| |
设计,所以这是我们 13 次运行的最终筛选设计,我们改变这些营养因子,并且我们有模拟的生长率响应。 正如我所说,这是经过模拟的 |
| |
主要影响,所有这些因素的二次方都非常活跃,而且我们必须估计这个截距。 |
| |
现在,通过明确的筛选设计,我通常建议您使用适合的明确筛选作为查看结果的一种方式,作为您可以进行的分析之一。 |
| |
当我们的稀疏性原理成立时,它会非常有效。 因此,只要只有少数效果是强烈活跃的……活跃的,而其余的则不重要, |
| |
然后它会找到那些……少数重要的影响,并将它们与不重要的影响区分开来。 |
| |
但在这种情况下,我没想到它能很好地工作,而且效果并不好。 它并没有表明所有六个因素都是活跃的。 事实上,它仅识别出此处活跃的因素之一。 |
| |
所以这并不奇怪,对于这种类型的分析来说,这太困难、太具有挑战性了。 |
| |
如果我们知道所有这些主动效应都是主动的,并且我们尝试拟合一个具有所有六个主要效应、所有六个二次项和截距的模型, |
| |
那么这就是一个饱和模型。 我们需要估计的参数与数据行一样多,因此我们可以拟合该模型,但我们没有获得任何统计数据。 |
| |
无论如何,你知道,除了我模拟了这些数据之外,在现实生活中,我们不知道哪些数据是活跃的,所以我们甚至不知道适合哪个模型。 |
| |
现在,使用自动验证方法,我实际上能够非常令人信服地识别出主动效果,我将介绍我们是如何做到这一点的。 |
| |
这只是我的结果的可视化。 您不一定需要以这种方式可视化它。 这是出于演示目的。 |
| |
我首先能够确定拦截是活跃的。 我已经得到了所有六个主要效果, |
| |
以及我的二次效应,然后是我的两个因素相互作用,我模拟其效果为零。 你可以看到他们很沮丧 |
| |
与其他的相比。 实际上这里有一个我们使用的零因子……所以是一个虚拟因子。 因此,如果您愿意,任何小于零因子的东西我们都可以声明为不重要或不活跃。 |
| |
我们实际上......我们在这里看到的指标是所谓的非零比例,我将在我们讨论这个问题时解释这意味着什么。 这就是我们在这里用来确定效果强度和效果重要性的指标。 |
| |
简单介绍一下我是如何经历这一切的。 因此,我采用了最初的 13 次运行最终筛选设计,然后将其设置为自动验证,因此现在我们已经复制了 26 行。 |
| |
我们的同事之一迈克·安德森 (Mike Anderson) 有一个插件可以执行此操作。创建了一个插件,您可以使用它在 JMP 15 中执行此操作。 |
| |
在 JMP 16 中,他们实际上在验证列平台的预测建模工具中添加了功能。 |
| |
这是做什么的,我们得到了数据的重复集,然后我们得到了这个权重,正如皮特所说,我们......每一行都在训练集中和验证集中。 |
| |
在训练集中,如果它的权重较低,那么它在验证中的权重就会较高。 因此,如果它在训练集中的权重较高,那么它在验证集中的权重就会较低。 |
| |
我们实际上所做的是,我们阅读……这些基本上是随机分配的。 |
| |
我们重新分配这些,我们能够迭代数百次,每次拟合模型,然后查看聚合......多次模拟运行的聚合结果。 那么你会怎么做 |
| |
是为了拟合模型,我在 JMP Pro 中使用 GenReg。 |
| |
无论如何,您都需要 JMP Pro,因为您需要能够指定此验证角色,因此我们将...训练验证列纳入验证。 |
| |
权重进入频率,然后我们按照通常的响应方式设置其他所有内容。 然后我得到了一个模型,这是包含所有这些效果的响应面模型,然后我将单击“运行”。 |
| |
它将适合模型,我们可以使用前向选择或套索。 在这里,我使用了套索。 |
| |
在这种情况下,这并不是很重要。 |
| |
实际发生的情况是,在这种情况下,我们仅确定截距很重要,因此我们实际上只在模型中获得了截距。 |
| |
但是,如果我们更改权重,如果我们返回数据表重新模拟这些权重,我们可能会从模型中得到不同的结果。 |
| |
我们对不同行的数据、实验中的不同运行进行加权,这会改变适合的模型。 因此,我们将重复执行数百次,而我要做的实际上是使用 JMP Pro 中的模拟功能。 |
| |
我们所做的就是关闭权重列并切换到权重列的重新计算版本。 你可以这样做几百次。 在这种情况下,我实际上做了 250 次。 我实际上不会让它运行,因为这需要一两分钟。 |
| |
完成后,您将得到一个如下所示的表格。 |
| |
现在我已经获得了这 250 个模型中每种效应的参数估计值。 所以 |
| |
在我运行的第一个模型中,这是柠檬酸主效应的参数估计。 在下一个模型中,当我们重新采样权重时, |
| |
柠檬酸的主效应未进入模型,因此在这种情况下它为零。 |
| |
您实际上可以对所有这些参数估计值运行分布。 你可以做的事情之一就是 |
| |
自定义此统计数据,即摘要统计数据,以查看非零比例。 所以你可以在这里看到拦截, |
| |
我们对拦截的估计。 你可以看到柠檬酸,很多时候它被估计为零,所以这些模型是, |
| |
柠檬酸的主效应不在模型中,而且很多时候它被估计为 3 左右,这就是我模拟的结果。 |
| |
因此,我们关注的是非零的次数比例,我们可以根据这些比例制作一个组合数据表。 我已经这么做了,而且只是做了一点点…… |
| |
这里有一点额外的增强。 我刚刚添加了一列来说明它是主要效果还是其他什么,然后这就是我创建的方式 |
| |
这个可视化在这里。 因此,您看到的是每个效应不为零的次数比例,即每个效应在我们的模型中出现的次数占所有效应的比例 |
| |
我们已经进行了 250 次模拟运行,其中我们重新模拟了分数加权。 这就是我们用来识别的 |
| |
积极的效果,那就是……它做得非常出色。 它能够完成我们标准方法无法完成的任务。 从 13 次运行中识别出 13 种有效效果 |
| |
最终筛选设计。 |
| |
现在,您下一步想做什么? 我们可能想让该模型真正适合所有这些效果,我已经能够做到这一点。 我正在比较我适合这里的模型 |
| |
与真实的模拟响应相比,您可以看到它们的匹配程度。 所以我已经能够建立一个具有所有这些主效应、所有这些二次方程和截距的模型。 |
| |
所以我这里有一个 13 参数模型,我已经能够适应这个 13 次运行的最终屏幕设计,这又是非常了不起的。 |
| |
我不会详细讲述我是如何到达那部分的。 我现在就把任务交给皮特。 他将更多地讨论自我验证集成模型的想法。 |
| 彼得·赫什 |
绝对地。 谢谢你,菲尔。 让我们来看看。 我将在这里分享我的屏幕,我们来看看这个项目。 所以 |
| |
你可以在这里看到 |
| |
在相同的 |
| |
作为菲尔,我们正在看一个项目,我有 |
| |
从六次运行过饱和 DOE 开始,在这里你可以看到,我有三个因素, |
| |
我的实际基础模型增长率是多少,然后增长率是多少……模拟增长率是多少,然后就像菲尔提到的那样, |
| |
我创建了这个自动验证列,这可以通过 Mike Anderson 开发的 JMP 15 中的插件来完成。 或者在 JMP 16 中,它直接内置于软件中,您可以在分析预测建模平台制作验证列下访问它。 |
| |
就像菲尔展示的那样,他展示了一个很好的例子,说明我们如何找到哪些因素是活跃的,因此进行因素筛选。 这通常是我们与能源部的主要目标,但如果我们想更进一步并以此为基础建立一个模型, |
| |
我们会经历同样的过程,对吧。 所以我们构建我们的 DOE,我们将自动验证添加到该 DOE,我们构建我们的模型,就像菲尔展示的那样,使用广义回归和其中之一 |
| |
变量选择技术。 Phil Ramsey 和 Chris Gotwalt 研究了许多不同的技术,它们似乎都运作良好。 因此,无论您使用套索还是两阶段前向选择,它们似乎都有相似的结果,并且 |
| |
工作得相当好。 因此,一旦你设置并启动它,你就会得到一个模型,就像菲尔展示的那样,你知道其中一些模型将具有 |