我想用以下方法揭开实验设计 (DoE) 的神秘面纱：一系列带有简单解释的帖子一些术语和概念在人们刚开始使用时可能会感到困惑。 在本系列的第一篇文章，我们着眼于多因素系统中巨大可能性空间的挑战，并介绍了因素、响应和全因素设计的概念。 在第二个帖子，我们研究了如何利用视觉和统计模型来理解过程中的行为，包括因素相互作用。 在第三个帖子，我们展示了如何使用有效实验的数据构建过程模型，并解释了多元线性回归、主效应和二次效应的含义。
我们通过现实案例研究说明了所有这些，在该案例研究中我们需要了解如何在 GC-MS 分析系统中设置大容量进样器 (LVI)。 目标是优化水样中低含量污染物的检测。 在这篇文章中我们讨论清晰度似乎是合适的。
在这里，当我们谈论清晰度时，我们指的是不同因素（进样量、进样速度等）对我们的响应（所有峰高之和）的影响的清晰度。 我们将看到我们引入的 26 次运行实验如何几乎唯一能够提供这种清晰度。
作为对比，我们还将看一个数据示例，但它并不能加深我们的理解。 在此过程中，我们将解释正交性、混杂性和混叠性。 我想让您更清楚地理解这些概念。 因此，我们需要从简单的开始。
相关效应、正交性、混叠和混杂的简单示例
让我们首先考虑 LVI 设置的前两个因素以及这三种不同的实验设计：
图上的每个点代表三个实验之一的一次运行。
- 设计 #1 是两个因子的三个水平（低、中和高或 L、M 和 H）的全因子。
- 设计 #2 是相同的，但删除了两个组合 - LH 和 HL。
- 设计 #3 仅具有 LL、MM 和 HH 组合。
可能性空间的覆盖范围明显从#1 到#2 减少到#3。 另一件正在改变的事情是相关性我们的因素。
全阶乘因子之间的相关性为 0。 我们说设计是正交这些因素的主要线性影响。 #2 的置信椭圆更紧密，因为它具有中等相关性， r ，0.5。 我们说有部分混叠在本设计中的这些效果之间。 由于存在完美的相关性 (r = 1)，#3 的密度椭圆已崩溃为零。 我们说主要影响是完全别名或者困惑的在这个设计中。
这种别名的后果是什么？ 为了证明这一点，我们模拟了每个设计每次运行的一些响应数据。 图中的点现在标有运行的响应值 SimResp。
只需查看设计 #1 中的数字，您就可以了解改变 Vol(Inj) 和 Speed(Inj) 对响应的影响。 您或许也可以从设计 #2 中感受到这一点，但并不那么清楚。
尝试从设计 #3 的数据中了解两个因素的影响存在一个明显的问题：不可能将这些因素的影响分开。 我们对一个因素所做的每一项改变都与另一个因素的改变精确匹配。 你可以明白为什么我们称之为混淆！ 我们对因素的影响完全不清楚，因此对我们的流程了解甚少。
正如本系列之前的文章中所讨论的，了解因素影响的最佳方法是拟合模型。 我们将把主效应模型拟合到每个设计的数据中–或者至少我们会尝试这样做。
在设计 #3 的情况下，不可能拟合具有两个因素的主效应的模型，我们得到奇点当我们尝试将该模型拟合时发出警告联合管理计划:
这告诉我们，我们可以适应其中一种效果，但不能同时适应两种效果。
我们可以根据设计#1 和#2 的数据拟合主效应模型。 以下是分析器图：
Profiler plot of main effects model from Design #1.Profiler plot of main effects model from Design #1.Profiler plot of main effects model from Design #1.Profiler plot of main effects model from Design #1.设计#1 中主效应模型的刻画图。
Profiler plot of main effects model from Design #2.Profiler plot of main effects model from Design #2.Profiler plot of main effects model from Design #2.Profiler plot of main effects model from Design #2.设计 #2 的主效应模型的刻画图。
这些图包括代表我们对因素真实影响的不确定性的置信区间。 毕竟我们的模型只是一个估计。 我们期望代表效果的线位于置信区间的阴影带内。 您可以看到，在设计 #2 的模型中，我们对效果的不确定性更大。 部分原因是我们的数据较少（七次运行与九次运行），但也因为效果的部分混叠。 这有时被称为方差膨胀。
带回家的信息：
- 通过正交实验设计，我们可以最清楚地了解因素的影响。
- 我们可以应对一些锯齿——我们可以了解其影响，但精度较低。
- 我们无法了解混杂因素的影响。
为了清晰起见的实验设计
现在让我们考虑一下 26 次运行的设计。
下一个图是前三个因素的散点图矩阵。
散点图矩阵显示每对变量的散点图。 这个显示所有这些因素对之间的相关性为 0；该设计对于这些主要效应是正交的。 我们对这些效应的理解不会与其他效应混淆。 到目前为止，这看起来是一个很好的设计。
我们可以使用相关颜色图更有效地表示效果的相关性：
该地图具有与散点图矩阵相同的九个正方形。 现在，一对效应的相关性由方块的颜色表示。 我们的主要效应之间缺乏相关性可以从淡蓝色方块中看出。 从左上角到右下角的深蓝色对角线是每个效果与其自身的相关性（当然是 1！），并且是为了完整性而存在。
通过这种更有效的相关性表示，我们可以查看所有主要影响。
连续主效应都是相互正交的。 这带来的清晰度是这 26 次运行能够实现如此有用的设计的主要原因之一。 Liner 下稍深的蓝色方块告诉我们，分类 Liner 效应与其他主效应存在部分混叠 (r = 0.0836)。 这不应该是一个问题。 事实上，可以计算出与正交设计相比，这会使置信区间大多少（不超过 2.5%）。
我们还可以查看所有主效应和二次效应的相关颜色图[1]。 下面的颜色图是相同的，只是我在右侧图中标记了两个方块以帮助解释。
右上象限的淡蓝色区域代表主效应和二次效应之间的相关性。 例如，我们可以看到，注射量 Vol(Inj) 和 Vol(Inj)*Vol(Inj) 的主效应和二次效应之间的相关性为 0。 该图显示，每个二次效应和每个主效应之间的相关性为 0：二次效应和主效应彼此正交。 这并非偶然。 这也是选择实验设计的原因之一。
右下角较强的蓝色代表二次效应中较高的相关性。 例如，我们可以看到，注射量和注射速度的二次效应 Vol(Inj)*Vol(Inj) 和 Speed(Inj)*Speed(Inj) 之间的相关性为 0.4091。 该图显示，所有二次效应之间存在相同的相关性 0.4091：二次效应彼此部分混叠。 在这种情况下，这是我们可以接受的妥协。 这意味着我们应该能够以稍微低一点的精度来理解任何因素的重要曲线行为。 重要的是我们所看到的效果没有混淆。
我们已经看到，由于效应的相关性极小，26 次运行的实验设计的数据如何能够让我们清楚地理解过程中的重要行为。 没有像这样的软件中的方法联合管理计划，找到一个既具有相对较少的运行次数又具有这些有用的相关属性的实验计划将是一项挑战。
清澈如泥
当没有计划地收集数据时，不可避免地会出现更多的相关性，从而更难以理解驱动系统行为的因素。 一个典型的例子是这个计量经济学数据（朗利数据集可在 JMP 示例数据目录中找到
y 是就业的衡量标准，x1 到 x6 是潜在的预测变量（x6 似乎是日历年）。 主效应的相关颜色图显示 x1、x2、x5 和 x6 之间的相关性非常接近 1：
从完整主效应模型的刻画器图中可以看出对我们理解因素影响的影响：
最宽的置信区间是最相关效应的置信区间，并表明尝试从具有高度相关因素的数据来理解系统是困难的。 例如，模型估计 y 随着 x2 的增加而减少，但置信区间表明该因素的影响也可能是强烈的正值。 我们对 x2 的效果几乎一无所知。
我们已经看到，如果我们想清楚地理解我们的流程和系统，我们需要从实验中生成数据，这些数据与我们关心的效果之间的相关性最小。 我们已经看到，相关颜色图是一个强大的视觉工具，可以帮助您了解设计在这方面的好坏。 到目前为止，我们只研究了主效应和二次效应。 更复杂的行为（例如我们之前提到的交互）又如何呢？ 在本系列的下一篇文章中，我们将研究这些影响，并了解为什么如果我们想确保这些复杂的行为不会影响我们对系统的理解，实验中的 26 次运行是一个不错的选择。
笔记
[1] 如果您想手动确定二次效应的相关性，有几个步骤。 例如，假设您想要查看两个因子 X1 和 X2 的二次效应的相关性。 您首先需要重新编码这些因素，使它们处于相同的范围内。 通常将因子编码在 -1 到 +1 范围内，其中 -1 是范围内的最低设置，0 是中点，+1 是最高值。 您经常会在有关 DoE 的书籍中看到这种编码。 通过以这种方式编码的因子，您可以计算二次效应 X1*X1 和 X2*X2，并查看相关性。 这同样适用于研究其他更高阶的效应，包括相互作用。 美国能源部软件工具，例如JMP 中的设计评估，将使您能够评估效果的相关性，而无需执行这些步骤。
您是否错过了本系列中有关为何选择 DoE 的任何帖子？ 没问题。 看整个系列都在这里。
你好@阿西尔,
是的，我可以看到这似乎是一个矛盾：预测变量（因素）之间的相关性很差，但模型能够做出良好的预测。 其实这并不矛盾。 模型没有理由不能很好地拟合并且具有可怕的相关预测变量。
相关因素的问题并不在于我们无法做出好的预测。 相关因素的问题在于我们无法很好地理解每个因素的影响。
在这种情况下，如果我们知道 X，我们就可以对 Y（就业）做出很好的预测。 但我们无法理解每个 X 的效果是什么。
因此，这些因素的相关结构并不能告诉我们建立拟合良好的模型并做出准确预测的能力。 它告诉我们如何精确地衡量每个因素的单独影响。
我希望这有帮助。
菲尔
嗨菲尔，
我再次重读这些关于美国能源部的精彩系列文章，我的脑海中浮现出另一个问题。
我使用朗利数据来重新创建您的分析。 我得到了你在这里提到的因素之间相同的相关性，但我很惊讶地看到拟合的图表（实际与预测）。 如果我看到下面的拟合具有如此好的拟合度和如此窄的置信区间，我想我会毫不犹豫地假设该模型非常好。 然而，从您的分析和分析器中，我们还发现我们对效果 x1、x2 和 x5 的影响知之甚少......
造成这种“矛盾”的原因是什么？我敢打赌这个“明显的矛盾”有一个很好的数学理由
谢谢
阿西尔
感谢您的评论和积极反馈，Asier。
是的，在运行实验和收集响应数据之前，您可以查看效果的相关性。 当我们考虑效果的相关性时，我们根本没有考虑响应。
如果您具有强相关效应，您可以通过额外的运行来增强数据以减少相关性。 JMP DOE 菜单中的增强设计平台为此提供了工具。
如果您无法收集额外的运行数据，可以使用一些有用的建模方法。 主成分分析 (PCA) 可用于确定数量减少的正交（零相关）变量。 这些主成分是原始变量的组合。 例如，上述计量经济学数据中的 x1、x2、x5 和 x6 将有效地组合成单个主要成分，因为它们都彼此强相关。 然后，您可以使用主成分作为模型中的变量。 通常，主成分可以解释为“潜在”变量，描述系统中的某些潜在因果因素。
然而，这并没有什么魔力。 你的影响越相关，你就越无法理解它们。
我希望这有帮助。
问候，
菲尔
你好菲尔，
我祝贺这些有关能源部的系列文章。 我认为他们对 DOE 的描述非常好、清晰且解释性强。 我个人发现，虽然DOE的概念并不复杂，但背后的数学和对概念的真正理解并不那么容易，特别是从书本案例研究到现实生活问题的过渡......
我有一个关于因素相关性或混杂因素的问题。 我理解这个概念并且我理解正确，可以在实际完成运行（测量）之前计算这种相关性或混杂性，让您知道您面前的实验（一组运行）是否适合很好地理解你的问题。
一个很好的例子是计量经济学数据示例，您可以从颜色图中看出某些因素（X1-X2 和 X5-X6）之间存在严重的相关性。
您能否在获得测量数据（回答 Y）之前确认是否可以确定该颜色图？ 那么颜色图是否仅根据因素信息生成（因此不需要响应）？
然后，一旦您知道了这一点，您实际上可以做什么？
我想，如果您实际上正在设计实验，JMP 可以帮助您给出使相关性最小化的因子设置（这是对的吗？）
但是，如果我们使用现有数据（如计量经济数据）来进行我们自己的研究，我们还能做些什么吗（不仅仅是知道，正如您所注意到的，模型“像泥一样清晰”，真实信息很少关于因素 X1、X2 和 X5 的影响（对 Y1 可能产生负面或正面影响）？
再次感谢您的这些系列，我认为它们很棒，我会推荐给任何试图在能源部做某事的人
阿西尔
