349237_zh-CN

liliconcom

21 世纪筛选设计 (2021-EU-45MP-772)

级别：中级

 

Bradley Jones，JMP 杰出研究员，SAS

 

JMP 在筛选实验设计和分析方面一直处于创新的前沿。 过去十年的发展包括确定性筛选设计、用于最小化系数估计平均方差的 A 最优设计和组正交过饱和设计。 本教程将给出这些方法中的每一种方法来筛选许多因素的示例，并提供经验法则来选择适用于任何特定问题类型的方法。

 

 

自动生成的成绩单...

 

扬声器	成绩单
布拉德·琼斯	您好，感谢您加入我。 我叫 Bradley Jones，在 JMP 的开发部门工作，今天我们将讨论 21 世纪的筛选设计。
	并且 JMP 在过去一直是筛选实验的创新者。
	好吧，我会说过去十年左右。 我将谈论三个
	不同种类的筛选设计，并告诉您它们是什么，以及如何使用它们，以及何时应该优先使用另一种。
	因此，我将要讨论的三种筛选设计是 A 最优筛选设计、确定筛选设计（或 DSD）和组正交过饱和设计（或 GO SSD）。
	因此，让我首先介绍 A 最优筛选设计。 A 最优设计最小化模型参数估计的平均方差。
	记住……记住这一点的方法，A-optimal 代表平均值，所以 A 平均值。
	相比之下，D 最优设计通过最大化信息矩阵的行列式来最小化参数估计周围的置信椭圆体的体积。 所以有很多话
	而且很难从行列式中看出为什么所有这些都是正确的。 但是您可以记住 D-optimal D-optimal 中的 D 代表行列式。
	那么为什么我说我们应该做 A 最优筛选设计呢？ 20 年来，D 最优设计一直是定制设计器的默认设置。 我们为什么要改变？
	嗯，我的第一个原因是 A 最优……A 最优标准比 D 标准更容易理解。
	每个人都知道什么是平均值。
	参数估计的平均值是
	直接相关
	参数估计的平均方差与您检测特定主动效应的能力直接相关。
	D 标准，谈论这个全局置信椭球，并没有告诉你任何
	精确估计任何一个参数的特殊能力。
	所以，所以我认为 A 最优性标准更容易理解。
	但更重要的是，当 A 最优设计与 D 最优设计不同时，A 最优设计通常具有更好的统计特性。 确实，很多时候，A 和 D 最优设计……A 和 D 最优筛选设计将是相同的。
	但有时它们是不同的，当它们不同时，男孩，我真的更喜欢 A 最优设计。
	所以我想用一个例子来激励你。 我的第一个例子是我有......假设我有四个连续因素。
	我想用这些因素的所有主要影响以及它们所有的两个因素相互作用来拟合一个模型。 所以有四个主效应和六个二因素交互作用，但我只能承受 12 次运行。
	所以我要做一个 JMP 演示。 在那个演示中，我将为这个案例做一个 D 最优设计，一个针对这个案例的 A 最优设计，然后比较这两个设计。
	因此，我将在这里打开我的 JMP 日志并转到第一个案例，这是具有两个因素相互作用和 12 次运行的四因素。
	这是一个脚本，它使我不必实际创建 D 最优设计。 只要相信它是 D 最优的。 这是 D 最优设计。 您注意到设计中的所有数字都是正数或负数。
	这是 A 最优设计，这里有一个惊喜。 在第一列中，您看到 X1 中有四个零，
	而 X2、3 和 4 都有正数和负数。 所以这有点令人惊讶。 这是一件好事，这是……所有这些因素都是连续的，但现在让我们比较这两种设计。
	因此，为了开始比较，让我们看看参数估计的相对效率。
	这是 A 最优设计对 D 最优设计的效率。 因此，当...当数字大于 1 时，这意味着 A 最优设计比 D 最优设计更有效。
	并且有一个参数对于 A 最优设计效率较低，但所有其他参数
	参数的估计至少与 D 最优设计一样好，其中许多参数的估计比 A 最优设计好 15%。
	我想告诉你另一件事，就是这个。
	这是这两个设计的相关单元图，您可以看到 D 最优设计在...上具有各种相关性
	此处对角线外，最高 33.33；那是三分之一。
	而且，还有很多其他的，而 A 最优设计只有三个
	成对相关性不为零。 其他一切……在这组成对相关性中实际上为零，并且主效应彼此正交，第一个主效应与所有两个因素的相互作用正交。
	许多两个因素的相互作用也是相互正交的。 所有这些正交性意味着它会更容易制作
	与 D 最优设计相比，A 最优设计的模型选择决策。 然后我认为您可能感兴趣的另一件事是 A 最优设计的 G 效率比 D 最优设计高 87% 以上。 什么是 G 效率，是
	最大值......它是参数空间内预测的最大方差的度量。 所以
	D 最优设计的最大方差预测为
	几乎是最大方差和预测的两倍
	A 最优设计。
	和
	此外，A 最优设计的 I 效率比 D 最优设计高 14% 以上。 因此，出于所有这些原因，我认为在这种情况下 A 最优设计优于 D 最优设计是非常明确的。
	所以让我清理一下。
	回到幻灯片，这只是您刚刚看到的图片。
	但我想在 JMP 中向您展示它。 因此，让我们继续讨论我喜欢 A 最优设计的另一个原因。
	A 最优设计允许对参数组施加不同的权重。 那是什么意思？ 在 D 最优设计中，您可以，
	理论上，对不同的参数加权更多……一些参数比其他参数更多，但是
	这样做，您不会更改创建的设计。
	......无论你使用什么权重仍然会给你相同的......相同的设计，所以这意味着 D 最优设计中的权重是没有用的。 实际上，
	对于大多数方差最优性标准，包括 I 最优设计，加权并不能帮助您更加强调
	在设计上就参数。 但是在 A 最优设计中，当您对参数进行加权时，您可以实现不同的设计，这可能在某些情况下有用
	案例。所以这是我的加权 A 最优设计示例。 假设我现在有五个连续因素，我想拟合一个包含所有主效应和所有两因素交互作用的模型。 所以我有
	五个主效应和十个二因素交互作用，我只能承受 20 次运行。 所以我更关心能够准确估计主要影响，因为我认为
	主要影响将大于两个因素的相互作用。 我想要...我想要对它们进行非常好的估计。
	所以我要做的是……再次为这个案例做一个 D 最优设计。 我将为这种情况做一个加权 A 最优设计。 然后我将比较这些设计。 所以这里有一张图片
	的演示。 所以这是 D 最优设计，我们再次看到它都是正负值。
	这是 A 最优设计，其中...我对主要影响进行了加权，因此它们的重要性是两个因素交互作用的 10 倍。 现在我想比较这两种设计。
	现在，在这种情况下，
	我现在正在研究 D 最优设计的 D 效率相对...相对于 A 最优设计，因此 A 最优设计在以下情况下更好
	数字小于一。 我们看到，对于所有主效应，A 最优设计在估计它们方面做得更好
	比 D 最优设计。 当然，您必须为此付出代价，因为在加权...降低这两个因素相互作用的权重时，您估计它们的精度会稍差。
	所以这是一个权衡，但你说......你说你更多......或者我说我对两个因素相互作用的主效应更感兴趣，所以这就是我得到的。
	但是在这里进行比较...相关性的比较是您可能喜欢 A 最优设计而不是 D 最优设计的另一个原因。
	在 D 最优设计中，有更多的成对相关性。 请注意，在 A 最优设计中，所有主效应都与所有两个因素的交互作用完全正交。
	您可以看到相关单元图的整个区域......是白色的，这意味着零相关性。
	主效应互不正交，只是 X1 和 X2 都与 X3 和 4 或 5 正交，也就是说它们的成对相关性为零。
	但有一些小的相关性
	之间
	X1 和 X2 以及 X3、4 和 5 之间，
	0.2 的相关性。
	但是在这个情节中有很多正交性，远远超过
	在里面
	D 最优设计。
	因此，如果您真的想要，如果您确定希望能够比估计两个因素交互作用更好地估计主效应，那么 A 最优设计将优于 D 最优设计。
	我不想关闭所有内容，因为那样也会关闭我的日记。
	好的，回到幻灯片。
	那么我什么时候想使用 A 最优筛选设计？
	出色地，
	我要告诉你关于 DSD 和 GO SSD
	在此之后，但当它们不合适时，您将使用 A 最优筛选设计，这在现实世界中可能经常出现。
	当您有许多分类因素并且某些分类因素可能有两个以上的级别时，您不能使用 DSD 或 GO SSD。
	如果某些因素水平组合是不可行的，例如，如果设计空间的某个角落运行没有意义，
	那么您将不得不使用 A 最优设计，因为 JMP 中的自定义设计器支持该设计，并且可以处理不可行的组合，
	通过不允许的组合或不等式约束。 或者，例如，如果您想安装一个非标准模型，您可能
	想要适合
	三向交互
	一些因素，然后DSD或GO SSD在那里不合适。 然后，最后，当你想比其他效果更重视某些效果时
	您唯一的选择是使用 A 最优设计。
	所以，关于 A 最优性的部分到此结束，我现在将继续进行最终的筛选设计。 这些设计首先在 2011 年发表在文献中，所以它们现在已经 10 岁了。
	这就是他们的样子。 这是六因素确定性筛选设计，但确定性筛选设计存在于任何数量的因素，所以它...
	他们非常灵活。
	什么...如果我们首先查看第一次和第二次运行，我们会注意到
	第 1 行的每个位置加一，第 2 行的每个位置减一，第 1 行的每个位置减一，第 2 行的每个位置加一。
	所以运行 1 和 2 就像彼此的镜像，如果我们查看所有这些运行对，它们都是这样的。 每一个……每一个奇数
	运行是每个偶数运行的镜像。 最后我们以一行零结束。
	我们可能会注意到的另一件事是每个都有几个零
	设计中的因素。
	事实证明，这是一件有用的事情，因为它允许我们估计所有因素的二次效应。
	这个整体中心运行允许您估计所有因子的所有二次效应，以及截距项。
	那么，运行确定性筛选设计的积极后果是什么？ 出色地，
	如果存在活跃的两因素交互作用，则不会对任何主效应的估计产生偏差，因此两因素交互作用和二次效应都与主效应不相关。
	此外，任何单一的主动两因素交互作用都可以通过这种设计来识别，以及任何单一的……单一的二次效应。 它和...最后，非常有用
	这种设计的特点是，如果只有三个因素是活跃的，那么无论是哪三个因素，您都可以在这三个因素中拟合一个完整的二次模型。 所以和它，如果...
	当然，这也适用于两个因素或一个因素是活跃的。
	因此，作为筛选实验的后续，您也许可以避免进行响应面实验。
	现在，为了全面披露，确定性筛选设计在将它们与 D 最优筛选设计进行比较时必须做出权衡，即主效应的参数估计值比参数估计值长约 10%为了
	D 最优筛选设计。 所以
	因此，对于这种能力，这是一个很小的代价。 它还估计所有...所有二次效应，并具有并具有针对两个因素相互作用的保护。
	因此，让我们看一个实际筛选设计的小演示。
	所以
	我最近和 Chris Nachtsheim 一起写了一篇关于如何分析确定性筛选设计的论文，以及
	当我们提交原始论文时，审稿人要求我们提供一个真实的例子。 为一个新的例子提供一个真实的例子有点困难
	一种设计，因为以前没有人会这样做，因为他们没有听说过。 因此，但是我们有这种方式来检测定制设计器，以便我们知道设计需要多长时间才能运行它。 所以我们，我们有一套
	可以使设计更长的各种因素......需要更长的时间来生产。 例如，其中之一是
	您使用的随机启动次数。 所以这里是所有人的时间......定制设计师为所有这些示例采取了。 接着
	如果我们查看 DOE 确定性筛选，有一个名为 Fit Definitive Screening 的自动分析工具，如果您使用 JMP 创建确定性筛选设计，
	脚本总是可用的，所以我们可以看到什么
	分析是什么。 分析分为两个阶段。 首先，主效应拟合，然后二阶效应拟合，然后将它们组合。 事实证明，这
	这个因素 E 是一种类型错误，但所有其余的这些影响实际上都是活跃的，我们知道因为
	我们还进行了全因子设计
	在所有这些因素上，以及
	所以我们知道在这种情况下真正的模型是什么。 并且因子 E 没有出现在全因子设计的分析中，但所有这些其他效应，包括因子 A 的平方效应和这三个两个因素的交互作用都是已确定的真实效应
	通过明确的屏幕设计。 因此，它被插入到论文中，最终由 Technometrics 发表。
	那么我什么时候会使用 DSD 呢？
	当大多数因素是连续的时，DSD 效果最好。
	我们确实有一篇论文展示了如何添加最多三个二级因子或二级分类因子，但是当您继续添加更多二级因子时，
	DSD 表现不佳。 所以你……所以大多数因素需要是连续的。 此外，如果您希望因子效应存在曲率，那么
	比如，如果你认为可能存在一个活跃的二次效应，那么你会想要
	使用 DSD 优先于两级筛选设计。 然后，您还可以在使用 DSD 时处理一些两因素交互作用。 因此，这些就是您使用 DSD 的时代。
	这就是我现在要对它们说的全部内容，但我想继续对正交过饱和设计或 GO SSD 进行分组。
	对不起，嗯。
	所以这是组正交过饱和设计的相关单元图的图片，关于它们的很酷的事情是因子是
	在一组。 这里，一组是W1到W4。 这些因素是相关的，但它们与任何其他组因素不相关，因此这些因素是
	在组之间相互不相关但组内有一点相关性的组中。 而且，当然，由于设计是过饱和的，因此必须存在一些相关性。 我们只是将相关性放在非常方便的地方。
	所以这里有一篇关于
	我们如何构建这些组正交过饱和设计以及许多合著者，包括另一位作者 Ryan Lekivetz
	开发商在
	JMP DOE 组。
	这是我的合著者的照片。
	这是瑞恩。
	克里斯是一个
	长期的，大概 30 年，我的同事。 Dibyen Majumdar 是芝加哥伊利诺伊大学的副院长，Jon Stallrich 是北卡罗来纳州立大学的教授。
	因此，我将稍微谈谈进行过饱和设计的动机，告诉您如何构建 GO SSD，分析 GO SSD，然后将它们与我们的自动分析方法与其他分析方法进行比较。
	因此，过饱和设计是具有比游程更多的因素的设计。 因此，例如，您可能有 20 个您感兴趣的因素，但运行成本很高，您只能负担 12 次运行的预算。 所以问题是，这是个好主意吗？
	当我去 SAS 的一位同事询问他对超饱和设计的看法时，他说：“我认为超饱和设计是邪恶的。”
	所以
	我觉得我的耳朵有点后退，但我还是继续……继续实施过饱和设计。
	不过，我理解兰迪为什么会有这种感觉。 过饱和设计的问题是设计矩阵是奇异的，所以你甚至不能做多元回归，这是拟合模型的标准工具。 还有因子混叠，因为
	这些因素通常是相关的。 事实上，所有的相关因素……在大多数过饱和设计中，所有因素都与所有其他因素相关，所以你有这种感觉，你不应该期望白白得到一些东西。
	在早期文学中
	它们是由 Satterthwaite 在 1959 年引入的，然后 Booth 和 Cox 在 1962 年引入了这个标准
	为了
	一种最佳选择过饱和设计。
	这个标准在这里基本上是最小化平方相关，平方相关之和，在设计中。 因此，John Tukey 在他对 Satterthwaite 论文的讨论中首次使用了“过饱和”这个术语。
	是……这篇论文是在讨论中发表的。
	很多讨论者都非常讨厌。 但从 Tukey 的讨论中，他说：“当然，Satterthwaite 的方法，即所谓的恒定平衡，只能使我们达到饱和
	（George Box 精心挑选的术语之一）“饱和设计是一种设计，其中所有的影响都被参数估计所占据。
	我的意思是所有的运行都被参数估计占用。
	但 Tukey 说，“我认为做一些过饱和实验是非常自然和明智的，”但基本上其他讨论者
	在很大程度上推翻了这个想法，30年来这个领域没有发生任何事情。
	然后在 1993 年有两篇论文得到
	几乎同时出版。 一个是 Jeff Wu 的 Biometrika，另一个是 Dennis Lin 的 Technometrics。
	Jeff 是佐治亚理工大学可口可乐讲座教授，Dennis Lin 现在是普渡大学系主任。
	那么什么时候会使用过饱和设计呢？ 出色地，
	你当然想在运行成本高的时候使用它，因为你知道你的运行次数可以少于因子，因此有很多
	比使用标准方法所需的设计成本更低，标准方法总是要求至少……至少与因素一样多。
	如果你对实验进行过头脑风暴，你就会知道当每个人都拿出他们的便利贴并写下他们认为重要的因素时，
	你最终可能会在墙上贴上几十个便签，这代表了一个至少一个人认为很重要的不可能因素。
	然后，发生的事情是
	随后，只有少数……在过去，这些因素中只有少数被选择进行试验，而其他的则被忽略了。
	这对我来说似乎没有原则，消除......在没有数据的情况下消除一堆因素似乎是个坏主意。
	您可能想要做的另一件事是在计算机实验中使用它们，因为如果您可能有一个非常复杂的计算机实验......
	计算机实验所具有的数十甚至数百个调整参数，您可以进行过饱和设计。
	那就是……如果计算机实验需要很长时间才能运行，那将特别好，因此您不会想坐下来等待数周才能运行
	很大
	不饱和实验。
	那么我们如何构建这些 GO SSD 呢？
	这是一个小数学，但是
	我们从一个 Hadamard 矩阵 (H) 开始，我们有并且我们有另一个 Hadamard 矩阵 (T)，我们已经删除了几个
	行，然后我们取这两个矩阵的 Kronecker 乘积（这里这个有趣的符号是 Kronecker 乘积），然后创建一个 GO SSD。
	所以当你形成它的 X 转置 X 矩阵时，你得到的是这个东西，它创建了一个看起来像这样的东西，这个矩阵是一个块方阵，并且
	并且 X 转置 X 或信息矩阵中的所有其他元素都为零。
	这就是创建组正交性的原因。 所以这里是
	一个小例子。 在这里，这个 H 是一个正交的 Hadamard 矩阵，这个 T 就是去掉最后一行的 H。
	因此，T 和...的 H 和 T 的克罗内克积只是替换了每 1...每
	矩阵 T 中 H 中的元素 1，以及矩阵中 H 中的每个减一，
	这是T的否定。
	所以
	因为 H 是四乘四，T 是三乘四，所以我们用一个三乘四的矩阵来代替每个矩阵
	H 的元素，所以我们想出的是一个 16 列和 12 行的设计。
	所以它 展开
	那个例子。 现在在这里，这就是当你使用......当你做我刚才谈到的事情时发生的事情。 所以我们有 12 次运行和 16 列。 第一列是...是用于估计截距的列，所以我们不认为这是一个因素。
	这是相关性...这是此设计的相关性。 前三个因素是……它们之间的相关性更高，而且它们也不平衡。
	这些列...没有相同数量的优缺点。
	其他...所有其他因素具有相同的相关结构，
	他们都
	有平衡的列。
	另一件有趣的事是他们的专栏是
	折叠，因此每组因素的主要影响与这些因素的两个因素相互作用不相关。
	现在我和我的合著者所建议的是我们对待前三个因素......不要将它们用作因素，而是因为它们与所有其他因素正交，您可以使用这些列来估计方差
	以一种不受任何其他因素的任何主要影响的方式......任何因素。 这样，我们就得到了一个无偏的估计……一个相对无偏的方差估计，我们可以……这对建模非常有帮助。
	所以这个特定的明确屏幕的设计属性....或 GO SSD，对不起，GO SSD
	是我们有三个独立的四个因素组，因此每个因素组的等级为三，这意味着我可以估计三个......三个因素的影响。
	在这种情况下，假因子列的等级为 2，因为您是……您正在使用其中之一……其中一个列来估计截距，因此您可以估计 Sigma 平方与两个自由度。
	假设二阶效应可以忽略不计，该估计是无偏的。
	所以现在，我可以估计...
	在这三组四个因素中的每一个中，我可以估计其中三个。
	我可以，而且我可以测试每组因素，用一个度数......用 Sigma 平方，它有两个自由度。
	我已经指出，这些因素组是折叠的，而且
	对两个因素的相互作用提供了实质性的保护。
	所以这张表出现在...在 Technometrics 论文中。 我很高兴送你
	那篇论文的副本，如果你给我写一封电子邮件。
	我是 Bradley.Jones@jmp.com。
	只是我的名字@JMP .com。
	因此，您可以使用很多选择来创建这些设计。 它是
	相当灵活。
	所以
	在论文中，我们讨论了如何创建设计，但我们也讨论了如何分析设计。 所以那些......第一组因素，我们想用来估计方差而不是......而不是将它们用作实际因素。
	我们使用正交组结构来激活...识别活动组，然后在活动组内，我们进行逐步或所有可能的回归以
	识别组内的活跃因素。 随着我们的进行，我们可以将非活动组的平方和合并到 Sigma 平方的估计中，这为我们提供了更多的力量
	在活跃的因子组中找到活跃的因子。
	如果你能猜出你的影响迹象的方向，而且你通常知道……你可能不知道影响会有多大，但你知道它们会朝哪个方向发展，那么你
	您可以猜测效果是积极的还是消极的。 如果你有一个你认为是负面的效果，你可以联系起来……将优点重新标记为缺点，将缺点重新标记为优点，这样效果……新的效果将是积极的。
	如果你对所有的负面影响都这样做，那么每个
	在每个组中都是积极的，这可以最大限度地提高您检测活跃组的能力。 所以我们建议这样做。
	所以我们做了一个模拟研究来比较 GO SSD，我们对 GO SSD 的分析程序与标准
	通用回归分析...现代回归分析，如 Lasso 和 Dantzig 选择器，因此我们有三种不同的分析方法。
	Dantzig 选择器、套索和我们的两到两阶段方法。 我们有三种不同的设计，三种不同的 GO SSD。 我们有我们...的活跃组的数量
	要么是一个活跃的群体……当你……当你得到更多活跃的群体时，当然，你会……让设计更难找到所有东西。 接着
	所有方法的功率都很高，除非所有组都处于活动状态。 所以
	在这个设计中，只有三个组和所有的......当你让它们全部激活时，Dantzig Selector 和 Lasso 的力量很差。
	但是，我们提出的两阶段分析基本上具有 1 的幂，用于估计所有可估计的事物。
	在这两种设计中，有七个……七个活动组和
	因此，当所有这些都处于活动状态时，Dantzig Selector 和 Lasso
	表现不如我们推荐的两阶段方法。 所以
	我们的两阶段方法正在做的是使用设计的结构来告知我们的分析方法。 Dantzig 选择器，套索不...不关心数据的结构是什么。 事实上，它们被用于任意观察
	分析，以及分析设计的实验。 所以你会期望一个通用的过程可能不如一个有建设性的过程那么好
	分析这种设计的纯粹目的。
	434
	258
	259
	260
	261
	262
	263
	264
	265
	266
	267
	268
	269
	270
	271
	272
	273
	274
	275
	276
	277
	278
	279
	280
	281
	282
	283
	284
	285
	286
	287
	288
	289

爆发美国能源部预测建模