寻找非正交DOE的效应量您好,我是 JMP 的新手,想请教一下关于解释回归效应和正交效应的问题。
我使用模拟方法运行了一个三因素三水平的实验设计(X、Y、Z),以研究主效应和交互作用对响应变量(力)的影响。由于缺少一些实验数据,该设计并非完全正交。
我使用“拟合模型”功能运行了回归分析,并得到了通常的输出结果(估计值、t 比率、Prob>|t|)。我还查看了效应筛选/帕累托图,该图使用了正交编码效应。
我有点困惑,不知道我到底应该用什么:
- 为了判断某种效应是否显著,我应该依赖常规回归输出(p 值),还是依赖正交化回归输出?
- 为了报告对响应的影响程度,是使用回归系数、正交编码值,还是使用类似因子范围内的预测变化之类的指标更好?
- 当 JMP 报告正交编码效应时,这些效应是否仍然基于中心化的 (X − 均值)(Y − 均值) 类型项,还是正交化改变了用于解释交互作用的参考点?
我只是想确保我的理解完全正确,因为这个设计并不是完全正交的。
谢谢!
数据探索与可视化实验设计分享和交流结果回复:寻找非正交DOE的效应量嗨@RandomSquirrel1 ,
欢迎加入社区!
由于您提供的信息和背景有限,很难准确地帮助您。以下是一些其他问题,希望能帮助我们更好地理解您的主题并展开讨论:
- 您的研究目标是什么?是识别具体效应/术语、预测某种现象、优化某种响应、探索实验空间……?
- 你设计的是什么类型的实验设计?你的三个因子各有三个水平,这听起来像是针对连续因子的响应面模型设计,例如 I-Optimal、CCD 或 Box-Behnken 设计,或者针对分类因子的全因子/部分因子/最优因子设计。这个设计有多少次运行?有重复运行吗?
- 你们有多少次实验数据缺失?这些数据分别位于哪些位置?缺失数据的原因是什么(例如,实验无法进行或测量响应值不切实际)?
我首先建议您评估包含缺失运行(排除行)的现有设计,并将其与您完整的预期设计进行比较,以便更好地评估缺失运行可能造成的影响。为此,您可以使用“比较设计”平台,比较包含和不包含缺失运行的设计表。这将有助于您找出别名结构的变化,以及模型中各项相对估计效率的任何可能变化。
然后,在评估了设计情况之后,您还可以通过查看“参数估计”面板中的方差膨胀因子 (VIF) 值和标准误差,来评估缺失的运行数据对模型项估计造成的共线性程度。VIF 值和标准误差将帮助您评估在缺少某些运行数据的情况下,模型中项估计值(以及相关的 p 值)的可靠性。
我还会将正交化项的影响和p值与常规项的影响和p值进行比较。您是否观察到两种输出之间的参数估计值存在实际意义上的显著变化?p值是否相似?是否存在任何对响应具有实际意义的影响?实际意义和统计显著性都需要考虑。
关于您提出的报告问题,答案也与您的问题和目标相关。您想了解/研究什么?这些变化中哪一项对您的研究更有意义?
关于您最后一个问题,正交归一化过程使用原始估计值,并利用协方差矩阵和一个与行数和均方根误差 (RMSE) 相关的缩放因子对其进行缩放。如果您的因子已通过“编码”列属性明确定义,则正交归一化估计值将基于中心化和缩放后的估计值。请注意,这些正交归一化估计值取决于模型中各项的引入顺序,因此请务必按照效应遗传性进行指定。
希望这个讨论话题能对您有所帮助。
回复:寻找非正交DOE的效应量我重新发送这条回复,以防它没有发布(我之前发送的回复似乎没有显示出来)。
嗨,维克多,
感谢您的回复。
为了提供更多背景信息,我的研究着眼于锚点的几何位置(X、Y、Z)如何影响损伤指标。目标是确定哪些方向的影响最大,并量化每个方向的变化如何影响响应(例如,将锚点从最大位置移动到最小位置)。
我将这些因子视为连续变量,其水平值分别编码为-1、0和1,并使用最小二乘法拟合一阶线性回归模型。每种配置均模拟一次。
由于物理条件限制,一些极端地点未能进行跑步测试:
• 第一能源部:27人中缺失3人
• 第二轮能源评估:27人中有7人缺失
拟合模型为:
伤害 = β₀ + β₁X + β2Y + β₃Z + β₄XY + β₅XZ + β₆YZ + β₇XYZ
模型诊断:
- VIF值介于~1.0至1.35之间,表明多重共线性较低。
- 标准误差范围约为0.4至1.1。
我需要解读的输出结果如下:
• 确定哪些主效应和交互效应显著
• 估算每种效应的大小(例如,响应值从 -1 到 +1 的变化)。我的理解是,对于编码变量,这大约是回归系数的 2 倍。
比较常规回归输出和正交化结果,显著性效应总体上是一致的,尽管在少数情况下,交互项在显著性阈值附近略有偏移(例如,p = 0.048 与 0.051)。
鉴于此,使用标准回归输出(估计值、t 比率、Prob>|t|)来确定显著性和解释效应大小是否合适?
非常感谢您的帮助!
回复:寻找非正交DOE的效应量嗨,维克多,
感谢您的回复。
为了提供更多背景信息,我的研究着眼于锚点的几何位置(X、Y、Z)如何影响损伤指标。目标是确定哪些方向的影响最大,并量化每个方向的变化如何影响响应(例如,将锚点从最大位置移动到最小位置)。
我将这些因子视为连续变量,其水平值分别编码为 -1、0 和 1,并使用最小二乘法拟合一阶线性回归模型。每种配置均模拟一次。响应指标的范围为 40 到 55。
由于物理条件限制,一些极端地点未能进行跑步测试:
• 第一能源部:27人中缺失3人
• 第二轮能源评估:27人中有7人缺失
拟合模型为:
伤害 = β₀ + β₁X + β2Y + β₃Z + β₄XY + β₅XZ + β₆YZ + β₇XYZ
模型诊断:
- VIF值介于~1.0至1.35之间,表明多重共线性较低。
- 标准误差范围约为0.4至1.1。
我需要解读的输出结果如下:
• 确定哪些主效应和交互效应显著
• 估算每种效应的大小(例如,响应值从 -1 到 +1 的变化)。我的理解是,对于编码变量,这大约是回归系数的 2 倍。
比较常规回归输出和正交化结果,显著性效应总体上是一致的,尽管在少数情况下,交互项在显著性阈值附近略有偏移(例如,p = 0.048 与 0.051)。
鉴于此,使用标准回归输出(估计值、t 比率、Prob>|t|)来确定显著性和解释效应大小是否合适?
非常感谢您的帮助!
回复:寻找非正交DOE的效应量嗨@RandomSquirrel1 ,
好的,谢谢。您提供的信息和结果对理解上下文非常有帮助。
鉴于您设计中的因子数量、水平数和总运行次数,我假设您采用的是全因子设计。这类设计会测试因子水平的每种组合,因此对(部分)缺失值具有较强的鲁棒性。您获得的结果似乎也印证了这一判断。考虑到您的设计中方差膨胀因子 (VIF) 值较低,且正交化值与常规值之间的差异较小,使用标准回归输出似乎是可以接受的。
是的,你说得对,主要效应的参数估计值表示当因子从 0 变为 1(或 -1 变为 0,一个单位尺度)时响应值的变化,也就是当其他因子保持不变/固定时,响应值的一半。
补充几点:
- 请通过检查行诊断图(实际值与预测值图和残差图)中是否存在异常模式,来验证您的模型是否符合回归假设。这样做是为了确保您的模型能够充分拟合数据,并且模型中没有遗漏项(例如,您可能需要在模型中添加二次效应,如 X*X、Y*Y 和 Z*Z),或者您是否需要对数据进行任何特定的变换(例如Box-Cox 变换)。
- 使用多种指标来确保模型与数据相匹配。单个 p 值是否显著是一个好的开始,但我不会仅凭此信息就从模型中删除任何项。查看拟合优度统计量,特别是均方根误差 (RMSE)(预测准确率)、R²/调整后的 R²(以及两者之间的差异,应尽量最小化)、整个模型的统计显著性,以及信息准则指标 AICc/BIC(应尽量最小化),这些指标有助于理解模型复杂性和准确性之间的平衡。如果某些项接近统计显著性,我建议将其保留在模型中。
- 尝试进行一些验证运行来验证你的模型,这将有助于你确认模型的精度是否足够;这也将增加对计算出的模型参数的信任。
- 如果您想通过避免极端位置来运行模型验证,或者如果模型验证不成功,您可能需要额外的运行来完善模型并确认其适用性,同时遵守您的约束条件,则可以使用增强设计平台在您的设计中创建新的运行,并指定因子约束,以便这些新运行不会在极端位置创建。
希望这个答案以及后续步骤能帮助你完成学业。
回复:寻找非正交DOE的效应量几点评论/观察(不分先后):
为了更好地理解背景,你能解释一下为什么 X、Y 或 Z 会影响损伤指标(假设)吗?如果你要预测模型效应的排序,排序会是什么样的?
1. 你说你拟合了一个一阶模型……不完全是,你的模型中包含了二阶和三阶交互作用。模型既有阶乘阶,也有多项式阶。
2. 你对每个变量都进行了三个水平的测试,这意味着你也可以估计二次项。为什么你没有将这些项纳入模型?或者,如果你对非线性不感兴趣,为什么要进行三个水平的测试?
3. 你的响应变量是“损伤指标”。我对这个响应变量没有任何了解。它到底是什么?你在模拟实验中产生的变异范围是 40-55,这有任何实际意义吗?这个指标变化多大才算有意义?如果指标变化 1 个单位你会在意吗?5 个单位呢?10 个单位呢?
4. 你正在运行一个模拟程序。你发现该算法(模型)已经存在。你是想找出这个算法吗?为什么在模拟中会出现物理上的不可行性?
5. 您说的“第一次实验”和“第二次实验”是什么意思?它们是重复实验吗?重复实验之间有什么不同?如果它们是重复实验(相同的处理组合),为什么第一次实验中3个样本不可行,而第二次实验中7个样本不可行?第一次实验中缺失的运行数据在第二次实验中是否可用(反之亦然)?
6. 一般而言,您的分析应首先确定实际意义,如果满足该标准,则进行图形分析,最后进行定量分析。是否存在任何异常数据点?定量分析应从饱和模型开始(尽管随机重复实验无法实现)。了解均方误差估计的构成(哪些因素或噪声)。如果不了解误差的估计方式以及该误差是否能代表真实世界的变异,p 值就几乎没有用处。默认的统计量是调整后的 R 平方,您需要最小化 R 平方 - 调整后的 R 平方差(减少过度设定)。
顺便一提,如果您在执行极端顶点时遇到困难,建议采用 Box-Behnken 设计。
回复:寻找非正交DOE的效应量statman,您好,感谢您提供的详细反馈,非常感谢您抽出时间仔细阅读。
澄清几点:
我之前误写为一阶线性模型;它实际上是一个带有交互作用的线性模型。使用三个水平(-1、0、1)是为了更好地表示设计空间,并能够检测潜在的非线性,同时还能提高对锚点位置范围内主效应和交互效应的估计。中点旨在帮助估计线性系数和交互系数,并检验线性假设。
就实际意义而言,响应变量为胸骨偏转角(毫米),它与损伤风险(例如肋骨骨折)直接相关。即使该指标发生相对较小的变化,也可能导致损伤概率的显著增加,因此在解释结果时,我们同时考虑了统计学意义和实际意义。
这两个实验设计(DOE)对应的是不同的锚定配置,而非重复实验,因此缺失的运行次数有所不同。被排除的配置位于极端位置,导致物理上不切实际或无效的设置,因此被视为不可行。
我会更仔细地研究您提到的模型诊断,包括残差行为、模型拟合指标(均方根误差、R²/调整后的R²)以及在缺乏重复实验的情况下误差项的作用。这将有助于进一步评估是否需要添加其他项(例如二次效应)或对模型进行改进。
再次感谢您对模型诊断和实际应用方面的建议。
回复:寻找非正交DOE的效应量嗨,维克多,
非常感谢您的建议,我会谨慎对待仅凭统计显著性就从模型中删除项的做法。
我有一个关于模型输出中参数估计的问题。对于交互项,模型输出的不是类似 X Y 的形式,而是 (X − 0.0833) (Y + 0.0833) 的形式。我猜测这是由于软件对变量进行了重新中心化造成的。
这种重新中心化是否会影响对主要效应和交互效应的解释,或者系数的解释是否仍然与原始编码变量一致?
谢谢!
回复:寻找非正交DOE的效应量嗨@RandomSquirrel1 ,
中心化有助于高阶项(如交互项和多项式)减少低阶效应和高阶效应之间的共线性。
中心化效应与非中心化效应在解释其大小方面没有区别,但中心化交互项的值在因子 X 和 Y 均设为均值时等于 0,这与非中心化交互项不同,后者在两个因子均为 0 时的值也等于 0,而 0 的值有时可能超出研究的因子范围。您可以在以下讨论中了解更多相关信息: 回归中仅对交互项中的自变量进行中心化
希望这个回答对您有所帮助。