作者
William D. Kappele,Objective Experiments 总裁
Julie Kidd,美国合成材料工程师
Heather Schaefer,美国合成材料工程师
介绍
有时,在正常工作过程中,你会遇到一个有趣的问题。这就是发生在我们身上的事情。在使用设计实验来配制合成钻石时,我们进行了一些试验,但无法测量响应——它们低于我们测量系统的检测限。
我们可以改变因子设置直到我们能够进行测量,但如果没有必要,我们不想增加这笔费用。
起初,我们只是简单地将无法测量的所有内容都分配为“零”。但我们对此有点紧张——毕竟,我们在欺骗 JMP——这是我们不喜欢做的事情!
正是怀着对诚实的渴望,我们的冒险开始了。
https://www.youtube.com/watch?v=Zf0REURPFU0
冒险
我们的两个响应低于我们测量系统的检测限。我们对这些响应的了解仅限于它们介于检测限和零之间的某个范围内。仅已知位于某个范围内的数据称为“删失数据”。我们知道在可靠性分析中如何处理删失数据,但我们不知道如何在设计实验中处理它。
我们问 Bill 是否知道该怎么做。他建议我们使用最大似然估计——但他不确定如何在 JMP 中做到这一点。他联系了 Brad Jones(JMP 的),Brad 向他介绍了参数生存平台。虽然该平台的设计目的并不是完全满足我们的需要,但它可以用来得到我们的答案。
我们想分享我们所学到的知识——不同分析的比较以及如何使用 JMP 执行这些分析——但我们的项目是专有的。看起来我们的学习成果必须成为我们的秘密,直到 Heather 想出了一个好主意:把我们的工作伪装成我们正在烤巧克力曲奇饼干!然后她和 Julie 成功地创建了一个与我们的工作相符的“曲奇”数据集,不会泄露任何秘密。
和所有类比一样,我们的饼干类比似乎有点牵强。但是,如果你耐心听完,你就能明白我们真正面临的问题,并学会如何处理工作中出现的此类问题。
一个简单的类比:烤饼干
假设我们实际上正在制作巧克力曲奇饼干。我们的目标是使用我们的配方制作出最薄的饼干。(我们告诉过您,这可能看起来有点做作!我们实际上想要制作厚饼干。)我们使用的配方是图 1 中的经典雀巢 Toll House 饼干配方。

|
图 1 – Toll House Cookie 官方食谱,由雀巢提供。 |
我们以合理的方式对原料进行分组,为我们的实验创建了 5 个因素。这些因素列于图 2 中。
芯片 干(面粉、小苏打、盐) 奶油(黄油、糖、红糖、香草) 温度 时间 |
图 2 – 因素。 |
以下是我们用于创建实验设计的因素和水平:
因素 | 类型 | 低级 | 高级 |
|---|
芯片 | 混合物 | 0 | 0.5 |
奶油 | 混合物 | 0 | 0.5 |
干燥 | 混合物 | 0 | 0.8 |
温度 | 连续的 | 375 | 450 |
时间 | 连续的 | 5 | 12 |
我们也遇到了一些限制。图 4 显示了具有这些限制的实验设计的一部分(见图 3)。

|
图 3 – 创建带约束的设计 |

|
图 4—我们的实验设计的一部分。 |
然后我们烤饼干……
使用 JMP 分析数据
烤好饼干后,我们需要测量厚度。你知道吗!我们没有一把很好的尺子。我们真的无法测量 1 毫米以下的任何东西。我们当然可以说饼干很薄,但无法确切地说出它有多薄。我们的检测极限是 1 毫米。
最初,我们只是简单地输入“零”来表示我们无法测量的饼干厚度——低于检测限的饼干厚度。请记住,我们知道我们有一块饼干,所以“零”不可能是正确的,但我们想试一试。
这些数据很容易分析。我们只需使用“拟合模型”命令和“标准最小二乘法”功能即可。
为了理解我们如何分析审查数据,我们需要了解一些背景知识。
最大似然估计
虽然最小二乘法是一种将数据拟合到模型的出色技术,但它并不容易用于已审查的数据。另一种技术,即最大似然估计,更容易用于已审查的数据。JMP 在“拟合模型”命令中多次使用最大似然估计(例如,如果您选择“广义线性模型”选项),但它仅在参数生存平台中为已审查的数据提供选项。
我们需要“哄骗” JMP 做我们想让它做的事情。
参数生存平台
JMP 的“参数生存”平台使用最大似然估计,并提供了分析删失数据的能力。它旨在处理“失效时间”响应(而不是 Cookie 高度),但事实证明,绕过这一点很容易。当 JMP 要求提供“事件发生时间”时,您只需选择“Cookie 高度”,如图 5 所示。
选择发行版
Parametric Survival 平台要求您选择一个分布。正态分布本来是我们的首选,但当时没有。我们选择了对数正态分布,因为它具有很强的模拟正态分布的能力。此外,由于我们的身高接近零,正态分布可能会模拟噪声,从而导致预测负身高(这是您在饼干中永远不想要的!)。对数正态分布避免了这种麻烦。
添加“审查”栏
在表中添加审查列可以让我们告诉 JMP 哪些运行包含审查数据(低于检测限的数据)。它将以不同于其他测量的方式处理这些数据。(它不会将它们视为零 - 而是以更复杂的方式处理它们。)
优化配方:中位数与平均值
参数生存平台中的优化器将“失败概率”视为一个因素。这对于我们的分析来说是不必要的,那么我们应该将其设置为多少呢?
通常在响应面法中,我们预测的是平均值。由于我们期望对数正态分布接近正态分布,因此中位数应该非常接近平均值。如果我们将“失败概率”设置为 0.5,我们应该会得到我们想要的结果。图 6

|
图 5 – 参数生存平台 |
展示如何将“失败概率”锁定在中间值。
还要注意的是,响应将始终标记为“时间”。当然,你知道它实际上是“Cookie Height”。
您可以像往常一样添加“意愿函数”并设置意愿。您还可以像往常一样使用“最大化意愿”找到“最佳点”。
如果您想制作等高线图,您需要保存预测公式并使用“图形”下的“等高线分析器”。

|
图 6 – 分位数刻画器 |
结果
那么我们发现了什么?
首先,我们找到了一把非常好的尺子,这样我们就可以知道饼干的实际厚度(这非常困难,而且花了很长时间)。然后我们能够制作一个实际值与预测值图(见图 7)。这并没有说明全部情况,因为它忽略了噪音。所以我们还创建了一个实际值与残差图(见图 8)。看看这两个图,你就会发现结果是相似的。残差的大小相似,但偏差不同。
接下来,我们用两个模型预测了最佳点。两个模型预测的最佳点基本相同,预测的烘焙时间只有一点不同(见图 9 和 10)。我们为每个最佳点烘焙了 50 块饼干,并比较了结果(见图 11)。

|
图 7 – 实际曲线与预测曲线 |

|
图 8 – 实际值与残差值曲线 |

|
图 9 – 删失数据分析的最佳点 |

|
图 10 – 归零数据分析的最佳点 |
两个最佳点产生的饼干厚度相同。我们发现两个模型的最佳点基本相同,因此分析技术对于找到最佳点并不重要。
仔细看看图 9、10 和 11。虽然它们预测了相同的 Sweet Spot,但删失模型的实际预测更准确。删失模型预测的置信限度甚至更接近现实。因此,如果您需要准确的预测,删失模型会更好。

|
图 11 – 最佳点比较 |
我们确实遇到了两个问题
- 我们已经审查了数据。
- 我们需要用不会预测负 Cookie 高度的分布来模拟噪声。
数据归零的模型没有解决这两个问题。而考虑删失数据的模型则同时考虑了这两个问题。一个自然而然的问题是:“只解决其中一个问题是否能产生与删失模型一样好的结果?”
虽然我们没有简单的方法来测试问题 1(我们无法在 JMP 中查看具有正态分布的删失数据),但我们可以查看问题 2。我们不能轻易使用广义线性模型平台,因为它不能用于混合。但是,我们可以对数据进行对数变换,并使用标准最小二乘法进行分析。这可以将数据视为对数正态分布。
这种方法的一个问题是将数据归零不起作用。相反,我们用删失范围的平均值(0.5)替换了零。当然,我们仍然在欺骗JMP !我们还分析了这些数据,但没有进行对数转换以进行比较。
该分析的结果如图 12 和 13 所示。请注意,最佳点与使用零点的正态分布数据的标准最小二乘拟合值相同。但是,对数变换的预测值为 0.63(95% 置信限度为 0.53 和 0.76),而删失范围均值的预测值为 0.68(95% 置信限度为 0.42 和 0.93),这比零点数据分析的预测值要好得多。图 14 显示了所有四个模型的比较。

|
图 12 – 对数变换分析的最佳点 |

|
图 13 – 范围分析平均值的最佳点 |

|
图 14 – 三个模型的实际值与残差图 |
您可以看到,删失数据模型和对数变换模型的预测结果都相当好 – 删失模型的预测结果略高,对数变换模型的预测结果略低。看来使用对数正态分布是没有必要的。
概括
- 将“零”分配给低于检测限的响应预测效果不佳,但产生了一个可行的最佳点。
- 将审查范围的平均值分配给预测检测限以下的响应以及产生了一个可行的 Sweet Spot。一般来说这不太可能起作用——看来我们这次很幸运。
- 对 (2) 中的数据集进行对数变换得到与 (2) 类似的结果,但有类似的警告。
- 使用 JMP 的参数生存平台,结合删失数据和对数正态分布来模拟噪声预测以及找到了可行的最佳点中位数. 总体来说这可能是最好的效果。
结论
我们在工作中遇到了两个问题:
- 审查数据
- 我们需要以一种避免负值(至少在低端)的方式来模拟噪声。
利用我们的数据,我们能够通过两种方式解决这些问题:
- 使用参数生存平台对删失数据和对数正态分布进行分析。
- 使用标准最小二乘法分析数据的对数变换,将删失值替换为范围的平均值。
事实证明,正态分布在这里表现良好——没有预测到负的饼干高度。
这两种方法的预测效果都比简单地将数据归零到检测限以下要好。这两种方法找到的最佳点基本上是相同的。
那么我们到底学到了什么呢?
- 为未知值分配零效果很好。这可能是因为运气好。我们并不期望这种方法对所有数据集都有效。
- 分配删失范围的平均值效果更好,但这也可能只是运气好。我们并不认为这是一个好的策略。
- JMP 的参数生存平台让我们能够分析删失数据,尽管在这种情况下,它并没有产生比删失范围平均值更好的结果。尽管如此,这很可能是未来的最佳策略。虽然 (1) 和 (2) 只是猜测,但参数生存平台背后的最大似然估计是成熟的。
- 正态分布和对数正态分布对我们来说都很有效。
现在我们已经与您分享了我们的冒险经历(和我们的学习)。现在是吃饼干的时间了!
想要了解更多?
以下是一些可供进一步了解的有趣参考资料:
Russell B. Millar, 最大似然估计和推断:附 R、SAS 和 ADMB 示例, J. Wiley and Sons,2011 年,ISBN 978-0470094822 。
http://ussynthetic.com/ (有关 US Synthetic 的信息)
http://www.ObjectiveExperiments.com (有关培训和研讨会的信息)
http://www.jmp.com/ (有关 JMP 软件的信息)
http://en.wikipedia.org/wiki/Censoring_(统计) (对审查的详细解释)
http://mathworld.wolfram.com/MaximumLikelihood.html (关于最大似然估计的简要说明)
http://en.wikipedia.org/wiki/Chocolate_chip_cookie (了解巧克力曲奇的历史)
关于作者
Julie Kidd 是 US Synthetic 的材料工程师。她的专长是陶瓷和复合材料系统以及材料特性分析,包括法医冶金学和故障分析。
Heather Schaefer 是 US Synthetic 的材料工程师。她的专长是铸造和压制高能材料,重点是红外诱饵弹的开发。
他们目前正在共同为石油和天然气工业开发改良的合成钻石。
Bill Kappele 是Ob 总裁客观实验。他负责课程的传授和开发。朱莉和 希瑟从比尔那里学习了实验设计。