使用逐步回归分析混合 DOE在 Mixture 案例研究(网络广播和 JMP 文档库)中,我注意到使用向后回归来分析结果。 为什么逐步回归不与常规(非 Pro)JMP 中的正向回归或所有可能的模型一起使用? 由于混合模型的特殊性,逐步不可能吗?
实验设计回复:使用逐步回归分析混合 DOE以下是我的想法,大部分是哲学性的:
我的第一个想法是永远不要逐步进行实验设计。该实验旨在研究因素和这些因素的预测模型(例如,一阶、一阶加二阶等)。 该模型应该是先验预测的。逐步是揭示可能未知或预测的关系的过程。
混合设计在很大程度上是优化设计。也就是说,已知混合物的成分很重要,现在您正在尝试找到要操作的最佳表面“区域”。您应该已经了解模型的术语并正在优化这些术语。还可能有在混合设计中存在相当数量的共线性,这使得逐步具有挑战性。
回复:使用逐步回归分析混合 DOE那么如何找到最好的模型,向后回归呢? Steisee 中所有可能的模型?...
回复:使用逐步回归分析混合 DOE该方法很大程度上取决于您在知识连续体中的位置(例如,筛选、优化、您是在解释还是在预测)。 在筛选阶段进行实验时,我确实建议从完整模型开始(如果可能的话,饱和模型)并从中删除无关紧要的项(向后或减法模型构建)。当您进行优化时,问题会有所不同(就像一般的混合设计一样)。您应该已经对一阶和二阶线性和非线性有了很好的了解。统计意义不太重要(它已经确定)。您正在“微调”级别设置。
回复:使用逐步回归分析混合 DOE你好@弗兰克德鲁伊克,
我同意“哲学”的观点@statman关于逐步回归,更面向“非设计”数据集,以便在没有先验模型的情况下揭示一些因素和影响。使用 p 值的传统模型选择技术对于混合物没有用:由于估计效应之间的多重共线性(效应之间的别名),估计的标准误差相当大,导致误导和扭曲的 p 值。
对于(基于模型的)混合设计,前向逐步回归可能是可能的,但要采取保障措施并谨慎行事(例如,在模型中强制主效应且无截距)。 对于混合设计,有两种选择可能值得考虑,Philip J. Ramsey 博士在他的一次演讲中强调了这一点:“使用 JMP Pro 14 进行约束混合物和混合过程实验的分析策略”:
- 使用米勒伪因子方法的传统前向选择
- 使用分数加权引导和自动验证的传统前向选择:JMP Pro 中的 SVEM、广义回归平台(Gotwalt 和 Ramsey)
Ramsey 博士不建议对混合物使用“所有可能的模型”,部分原因是需要在每个模型中强制使用纯分量项。 从务实和实践的角度来看,“所有可能的模型”方法在计算方面可能要求很高(并且不是很有效),因为无论效果之间的层次结构和遗传性如何,都构建了具有各种效果数量的所有可能模型。 因此,所创建的模型中有很大一部分可能不是很有趣(且相关)值得考虑,但仍然以不可知论和“蛮力”的方式创建和评估。
由于基于模型的混合设计假设有一个先验模型,因此与基于信息标准的验证方法(例如 AICc(JMP Pro 中的广义回归平台,或 JMP 中的向后逐步))一起使用向后回归会更安全。
由于您对预测性能比因素筛选更感兴趣,因此您还可以“手动”进行向后回归,方法是从包含模型(JMP、标准最小二乘法)的所有假定效果的完整模型开始,并删除项只要它有助于降低模型的 RMSE(预测误差)即可。
对于与模型无关的混合设计(例如空间填充设计),使用高效且有效的插值的机器学习方法对于在均匀分布的点上构建预测模型可能非常有用(但过度拟合可能很快发生):SVM 、神经网络、k 最近邻、高斯过程、...
最后,可能需要进行验证运行,以验证和估计模型的预测性能。
我希望这个额外的回复能够帮助你,
回复:使用逐步回归分析混合 DOE我在网络研讨会上看到 -logworth(p-value) 帕累托图用于向后回归;如果 p 值不适合混合物,这是否正确? 注意:我需要对非 jmp pro 用户进行培训,因此我无法使用广义的机器学习。
回复:使用逐步回归分析混合 DOE我正在基于全三次 Scheffé 模型分析三因子 FLA 1、FLA 2 和 FLA 3 混合 DOE。 推动标准最小二乘法,并尝试使用基于对数帕累托的向后回归来删除低效应参数(混合分析的 P 值?)我得到以下结果:我是否还应该删除所有选定的效应或仅删除非包含效应?

我还在逐步中使用“所有可能的模型”进行了分析,并根据 AICC 排名得到了一个非常好的模型,可能是一个错误的模型(基于 P 值的向后回归会生成正确的模型......?),但是对于指定非常有用最佳输出 Y 设置!


我绝对同意,由于混合分析中的强共线性,验证列是必要的,并且使用广义回归和实际机器学习工具是正确的方法;我将仔细研究 SVEM。 对于我的非专业用户DOE培训我必须依靠经典方法; “所有可能的模型”看起来还不错,如上所示? 当然,对于更复杂的情况,超过 3 个混合成分过程效应会产生太多模型,顺序方法绝对是必要的;然而,由于共线性很强,选择好参数以继续下一步将是相当困难的。
回复:使用逐步回归分析混合 DOE你好@弗兰克德鲁伊克,
无论您的 DoE 是阶乘还是混合模型,如果有一个先验的假设模型,您应该尊重实验设计背后的三个原则:
- 效应稀疏性:效应稀疏原则实际上是指实验中只有少数效应具有统计显着性。 响应中的大部分变化都是由少量效应来解释的,因此主效应(单因素)和两因素交互作用很可能是析因实验中最显着的响应。 它也被称为帕累托原则。
- 效果层次:层次原则指出,交互程度越高,交互解释响应变化的可能性就越小。 因此,主效应比 2 个因子交互作用解释更多的变异,2FI 比 3FI 解释更多的变异,……因此应优先考虑低阶效应的估计。
- 效应遗传:与遗传遗传类似,效应遗传原理假定只有在交互作用之前的有序项显着时才可以考虑交互作用项。 该原则有两种可能的实现方式:强的或者虚弱的遗传。 遗传性强意味着只有当两个相应的主效应都存在时,交互项才能包含在模型中。 弱遗传意味着如果至少存在一个相应的主效应,则模型中包含交互项。
在您的情况下,当尝试删除这些影响时,您与效果遗传原则相冲突:您无法删除主效应 FLA1 和相互作用 FLA2xFLA3 ,除非您已经删除了包含这些术语的所有其他效果术语。 所以你应该把它们留在这里。
如前所述,仅根据混合设计的 p 值创建模型可能会产生很大的误导。
您尝试使用 AICc(或 BIC?)标准的第二个选项似乎更合理,因为 AICc(或 BIC)是一种信息标准,试图“平衡”模型的复杂性与其准确性(越低越好)。
关于您的屏幕截图,似乎具有较多项数的模型可能对您的情况有用,因为模型号 9 具有较低的 RMSE 和较低的 BIC。 它还可以纠正似乎表现出某种异方差性的残差图(残差越大,风味得分越高)。
希望这个补充评论对你有帮助,
回复:使用逐步回归分析混合 DOE你好 Victor,我绝对同意你的遗传原则,这就是为什么在这种情况下基于 p 值的向后回归在这里不起作用。因此,我使用了所有可能的模型以及前向 AICC 选择,取得了非常好的结果。 我现在正在研究另一个带有过程变量的混合情况,并再次使用所有可能的模型方法生成一个(可能是错误的)但非常有用的模型! 对于非专业 JMP 用户,我建议使用逐步所有可能的模型方法进行混合 DOE 分析。
回复:使用逐步回归分析混合 DOE嗯,您进行一两次混合实验并得出结论“我建议使用逐步所有可能的模型方法进行混合物 DOE 分析”。我建议你谨慎对待这个建议,否则,正如丹尼尔所说,你将遭遇“过早概括”的失败。
回复:使用逐步回归分析混合 DOE至少我得到的模型满足 Cox 务实的陈述“错误但对实现我的目标有用”在常规非 JMP pro 中什么是更好的替代方案? 这些模型会更好吗?
回复:使用逐步回归分析混合 DOE对于专业用户,我绝对推荐带有验证的机器学习方法
回复:使用逐步回归分析混合 DOE我的想法可能已经在之前的讨论中表达过,但我想明确地表达出来。 首先,我们不会测试主效应参数估计。 为什么不? 成分比例总和为 1 的约束所产生的影响超出了线性模型的数学范围。 效应是当因素改变其水平时响应的变化。 在非混合实验中,因子水平的变化是独立的,因此在正确设计的实验中,改变因子的效果是唯一确定的。 独立于所有其他成分而改变一种混合物成分是不可能的。 因此,我们不能将效果唯一地分配给混合实验中的一个组分。
其次,我们无法检验主效应参数估计。 JMP 错误地根据参数为零的原假设测试主效应的参数估计值。 主要效应参数是平均响应加上纯混合物响应的平均变化,因此零假设是平均响应,而不是零。 此外,联合测试是不可能的,因为平均响应是所有主效应参数的一部分。

该模拟数据集中的真实平均响应为 20。 X1、X2 和 X3 的真实主效应参数(包括平均响应)分别为 10、20 和 30。 参数与 0 显着不同,但这是错误的零假设。 每个主效应估计都标有测试混杂的注释。
我们不询问主效应,但我们可以而且应该询问高阶项,因为它们告诉我们表面的形状并且是可测试的。
回复:使用逐步回归分析混合 DOE非常有趣,Marc,您为非 JMP Pro 用户推荐什么混合物 DOE 结果分析方法? 在我上面的例子中,使用对数帕累托进行向后回归不起作用; AICc 与 Steisee 一起转发所有可能的模型都运行良好。
回复:使用逐步回归分析混合 DOE我不推荐为混合实验选择线性模型的特定方法。 我重申@statman考虑所有的建议先验在设计实验和分析实验时再次了解知识。
回复:使用逐步回归分析混合 DOE这意味着我们应该关注三元图中的内部点来尝试估计高阶项? 那么,空间填充 DOE 是比尝试估计双向交互模型更好的选择吗?
回复:使用逐步回归分析混合 DOE我完全同意,这就是我在上面的示例中所做的,我使用了正确的方法吗?
回复:使用逐步回归分析混合 DOE只是为了澄清使用混合优化设计时如何生成点(在 3 个混合因子的情况下):
- 顶点处的点有助于估计主效应参数,
- 边缘中间的点有助于估计 2 因素相互作用。
- 中心点用于三级交互。
在没有任何先验模型的情况下,空间填充设计在实验空间中创建随机且均匀分布的点。
如果您已经了解将使用的模型类型(例如双向交互模型),则优化设计可能更有用和更有效,因为点的生成将针对效果项的参数估计进行优化您已在假设的模型中指定(与空间填充设计点生成的“随机性”不同)。
空间填充设计在缺乏有关可能模型的任何先验知识的情况下非常有用,具有非线性响应面的概率,并且在不可测量的点(稳定性问题)的情况下,在建模可能性方面具有更大的灵活性,非常高或非常低的值,...)。
希望这能澄清这两种方法的使用之间的区别。回复:使用逐步回归分析混合 DOE假设您正在测试包含 5 种成分的混合物,并且想知道哪些成分对响应有影响,您如何筛选出这些有效成分? 由于混杂,这可能吗?
回复:使用逐步回归分析混合 DOE我想即使有空间填充设计筛选也会很困难?
备注:我在非混合物 DOE 方面拥有丰富的经验,因此我的上述问题对于混合物专家来说可能看起来很幼稚。到目前为止,我的结论是,混合物 DOE 需要经验,并且由于分析方法不如非混合物明确,对于科学家来说,它看起来不太人为。 我正在准备在即将到来的能源部培训中回答很多问题,其中公式很重要。 感谢大家的投入,是一个很大的帮助!
回复:使用逐步回归分析混合 DOE空间填充设计往往更关注内部而不是实验空间的边界,以及优化(由于均匀分布的设计点和多种建模/算法选项,拟合最佳预测模型)。
混合物设计更多地用于优化策略中,以找到特定性能/响应的最佳配方比例,但有些设计可以帮助您“筛选”混合因素(或至少评估混合因素之间的相对重要性,因为由于多重共线性,统计显着性不适合在此筛选效应)。
一般来说,如果您不熟悉混合设计,互联网上有很多可用资源。 以下是一些可以帮助您的示例:
https://reliawiki.org/index.php/Mixture_Design
https://online.stat.psu.edu/stat503/lesson/11/11.3
https://www.lexjansen.com/sugi/sugi21/iv/138-21.pdf
希望这个回答对你有帮助
回复:使用逐步回归分析混合 DOE谢谢维克多!
回复:使用逐步回归分析混合 DOE如果高阶模型是“正确的”,那么空间填充设计不一定是“更好的”。 考虑一个更简单的情况:仅单个连续因素的一阶效应。 最好的 10 次试验设计是什么? 在低设置下运行五次,在高设置下运行五次。 “空间填充”设计会将运行分布在两个以上的级别上,这在统计上效率不高。
当响应在单纯形的狭窄区域中快速变化且该区域未知时,混合物的空间填充设计是有利的。 这是一种针对混合实验的筛选设计。
回复:使用逐步回归分析混合 DOE恕我直言,在对他人进行方法论培训之前,您应该精通许多应用程序。 我建议您阅读康奈尔大学(康奈尔大学是混合物方面的领先专家之一),以开始您了解混合物的旅程。
约翰·康奈尔 (1990)“混合物实验、设计、模型和分析”,威利(SBN:047152221X)
一些最喜欢的论文:
斯尼,罗纳德·D., 混合实验的设计与分析,质量技术杂志,卷。 3、4号,1971年10月
康奈尔,约翰,将混合实验嵌入阶乘实验,质量技术杂志,卷。 1990年10月22日第4期
斯尼,罗纳德·D., 唐纳德·马夸特,混合物实验的筛选概念和设计s,技术计量学,卷。 18、1号,1976年2月
以及我们自己的 Dan Obermiller 的:JMPing 混合实验的技巧
回复:使用逐步回归分析混合 DOE这考克斯混合模型试图帮助实验者回答这个问题。 它需要指定参考混合物。 该模型用于确定每个组件的独特效果。
回复:使用逐步回归分析混合 DOE衷心感谢这些参考资料! 我将深入研究这个具有挑战性的主题
回复:使用逐步回归分析混合 DOE我在 Louis Valente 的演示中看到了一种通过点类型列对混合设计点进行标记和着色的好方法,请参见下文。 如何创建这个点类型列?

回复:使用逐步回归分析混合 DOESample Scripts 文件夹(位于 \Samples\Scripts 下的 JMP 文件夹中)中有一个脚本可以执行此操作。脚本的名称是“LabelMixturePoints.jsl”。
回复:使用逐步回归分析混合 DOE感谢您详细的回答,这激发了我对配方工作的思考。
如果模型中有未知项,您建议如何处理,例如:我想发现效果,特别是由于配方中的新成分而产生的双向相互作用。研究的目的更像是筛选而不是优化,逐步适合这种情况吗?
回复:使用逐步回归分析混合 DOE我对你的问题感到困惑。 你说“模型的未知术语”,然后你说该术语是已知的新成分。 我将通过混合物设计对新成分进行实验,并使用混合物设计分析来评估新成分的效果和可能的相互作用。 在这种情况下我不会使用逐步。 恕我直言,抱歉是多余的,逐步用于暴露尚未识别的因素(例如数据挖掘),而不是用于分析研究中已知因素的实验。