逐步回归问题我在使用 JMP 的拟合模型 - 逐步函数选择模型时遇到以下问题。
- 如果交互项显着但主效应不显着,则将从模型中删除主效应,同时也删除交互项。
- 我们知道,如果交互作用或高阶项显着,即使它不显着,我们也应该保留主效应。
- 即使我们除了 P 值阈值之外还使用 AIC/BIC 标准,在向后选择过程中也会消除主效应。
如果您能让我知道您对这些问题的任何解决方案或建议,我将不胜感激。
当使用所附数据考虑仅具有一阶交互项的四个因素时,Y1 中发生了这种情况。
|
JMP 逐步选择
|
第六步
|
|
|
交互项“因子 1 * 因子 4”仍然显着,但“因子 1”不显着,已被删除。
回复:逐步回归问题Stepwise 中的规则可能令人困惑。您遇到的问题是“合并”规则。来自 JMP 帮助:
结合
计算 考虑有先例的术语时,使用两个单独的测试的p值。第一个 p值, p 1是通过将该项与其前项分组,并测试该组作为联合项进入的显著性概率来计算的 F 测试。第二个 p值, p 2是在先行术语已经进入模型后,对该术语进入的显著性概率进行测试的结果。对于有先行术语的最终进入显著性概率为 max( p 1 , 第2页)。
提示: 组合规则避免包括不显著的交互项,这些交互项的先行项可能具有特别强的效应。在这种情况下,强主效应可能会使该组的进入显著性概率 p 1 ,非常小。然而,第二项检验发现,相互作用本身并不显著。因此, 第2 页 很大,并被用作进入的最终重要性概率。
警告: 具有先例的术语的自由度值取决于两个进入显著性概率中哪一个更大。用于最终进入显著性概率的检验确定了自由度, nDF ,在当前估计表中。因此,如果 第1 页 用来, 净水器 等于联合检验组中的项数,并且如果 第2 页 被使用时,nDF 等于 1。
合并选项是默认规则。请参阅 具有交叉、交互或多项式项的模型。
现在回到我的评论。由于使用 Combine 规则进行的两次测试,不重要的术语正在推动交互的删除。避免这种情况的一种方法是将规则更改为“限制”。以下是执行此操作后的结果:

我想这些都是您所期望的结果。
回复:逐步回归问题从 JMP 18 开始,Stepwise 平台中新增了一个尊重遗传的选项

.
回复:逐步回归问题嗨,丹,这就是我想要的结果。感谢您建议合适的选项。但是,我仍然对逐步回归相关的选项感到困惑。手册中将“限制”定义为“限制具有先例的术语,以便在输入先例之前无法输入它们。”这似乎与在交互作用显著的情况下包括主效应的规则不同。此外,Don 提到的“尊重遗传的整体效应”选项显示了不同的结果。您能否提供更详细的解释以帮助我更好地理解?再次非常感谢。
回复:逐步回归问题@HyeWonJung在具有两个以上级别的分类项的模型中使用 Combine、Restrict、No Rules 和 Whole Effect 是展示正在发生的事情的好方法。作为说明,使用 Cars 1993 数据集拟合以下模型。车辆类别有五个级别,优先顺序如下:
- {厢式货车、大型、中型、运动型、紧凑型–小型}
- {厢式货车–大型、中型、运动型和紧凑型}
- {大型和中型–运动型和紧凑型}
- {大–中}
- {运动–紧凑}
这就是 Stepwise 构建一个自由度对比的方式。它与 Partition 用于创建拆分的方法相同。如果您以高速公路里程作为 Y 并以车辆类别作为唯一的 X 来运行 Partion,则拆分将完全按照此顺序进行。就我个人而言,我发现以这种方式创建的对比通常缺乏可解释性,并且更喜欢广义回归根据各个级别创建一个自由度对比的方式。我将这些对比称为 C1 – C5。

将停止规则更改为 P 值阈值,并将概率设置为 0.40。将方向保持设置为向前。 
从无规则开始。单击“步骤”,直到没有更多术语输入。术语按以下顺序输入:
- 重量
- 车辆类别 (C2) * 重量
- 车辆类别 (C1) * 重量
- 车辆类别(C2)
- 车辆类别 (C4) * 重量
- 车辆类别(C1)
非常简单。不管优先顺序如何,找到最小的 p 值,并继续添加,直到模型之外没有任何东西的 p 值小于或等于 0.4。
单击“全部删除”并重复“合并”
- 重量
- 车辆类别 (C1) * 重量和车辆类别 (C1)
- 车辆类别(C2)
- 车辆类别 (C4) 和 车辆类别 (C3)
- 车辆类别(C5)
请注意,在步骤 2 和步骤 4 中同时添加了两个效应。在每种情况下,p 值都是为两个项分别计算的。在步骤 2 的情况下,添加的第一个项是交互作用,而在步骤 4 中则是对比。还请注意,模型中缺少车辆类别 (C2) * 重量,尽管它是无规则情况下添加的第二个项。这是因为在测试时,单个车辆类别 (C2) 很重要,但一旦车辆类别 (C2) 出现在模型中,车辆类别 (C2) * 重量就不重要了。这就是 Combine 的实际应用。
现在对“限制”执行相同操作
- 重量
- 车辆类别(C1)
- 车辆类别 (C1) * 重量
- 车辆类别(C2)
这与 Combine 类似,只是每次添加一个项。对比项 C3 和 C4 没有使用 Restrict 添加,因为 C3(C4 的先行项)的 p 值太大,无法进入模型。但是,Combine 会计算模型中 C3 和 C4 的 p 值,以及将 C3 添加到模型后 C4 的 p 值。这两个值都小于 0.4 截止值。
最后,整体效果
- 重量
- 重量*车辆类别(所有对比)
此处的整体效应是指任何效应中的所有对比,而不是统计遗传。在这种情况下,交互作用具有较小的 p 值,一旦添加到模型中,车辆类别主效应 p 值就会太大而无法考虑。
如果您再次使用“尊重遗传的整体效应”执行此操作,则主效应将与步骤 2 中的交互一起添加。
希望这能让你理解。如果你有疑问,请告诉我。
回复:逐步回归问题我的评论适用于您所处的情况:所有连续变量。当您有分类因素时,情况会变得稍微复杂一些,但我相信 Don 在他的长篇文章中很好地指出了这一点。顺便说一句,我没有注意到 Don 指出的新选项。我认为 JMP 帮助对此进行了很好的描述:

至于 Restrict,它限制交互作用(和二次项——具有先例的项),以便在输入先例之前无法输入它们。换句话说,在输入主效应之前,交互作用无法输入到模型中。在您的情形中,因子 1 和因子 2 都进入了模型,因此可以评估因子 1*因子 2 的输入。但是,与 Combine 不同,Restrict 只对该项进行一次测试,而不是两次测试。
回复:逐步回归问题谢谢@dobudo @DonMcCormack !!
感谢您的解释,我深入研究了每个选项,并理解了每个选项的机制