逐步之间的区别 |所有可能的模型和广义回归 |最佳子集您好,我只是想知道使用 Stepwise - All Possible Models estimation 和 Generalized Regression - Best Subset 估计方法有什么区别。在我看来,如果响应呈正态分布,它们应该产生相同的结果。我有 JMP 14 32 位,发现由于内存限制,我可以使用最佳子集运行比使用所有可能模型更大的最大效果。
回复:逐步之间的区别|所有可能的模型和广义回归 |最佳子集@P_Bartell感谢您的建议!
回复:逐步之间的区别|所有可能的模型和广义回归 |最佳子集我添加一些额外的想法来补充@马克贝利的明智建议。 如果您使用多种模型拟合算法,通常最好使用某种模型交叉验证方案。 因此,如果没有其他原因选择交叉验证场景的类型,结果可能会有所不同。 其中一些方法具有“随机”成分,因此用于拟合模型的确切数据可能因建模方法的不同而不同。
此外,在广义回归平台内,有几个建模个性。 根据所选的个性,答案会有所不同。 其中一些个性允许我称之为“参数估计中的一点偏差”(与经典的普通最小二乘回归相比),并在偏差中进行权衡以最小化预测方差。 从主题上讲,您十有八九应该得出一致的实际结论……但是如果您正在寻找结果中的精确匹配,具体到特定参数估计、预测方差等……会有差异。
在实践中,当拟合许多不同的线性和非线性(考虑回归/分类树等方法)方法时,在比较多种建模方法时,我会寻找所有方法的实际结论的合理性和一致性。 JMP Pro 的模型比较平台是进行这些比较的非常高效的一站式购物中心。 这反过来又提高了我的信心水平,即我得出的实际结论是我能做的最好的。
回复:逐步之间的区别|所有可能的模型和广义回归 |最佳子集感谢你的回答。我发现这个 PDF 解释得很好: GR平台
回复:逐步之间的区别|所有可能的模型和广义回归 |最佳子集逐步回归遵循向前、向后或混合方向的路径。 它考虑基于当前模型和候选术语通过单个术语更改模型。 因此,有可能未访问最佳模型,并且这种情况可能会随着候选项的数量而增加。 这种方法允许您在大多数实际情况下考虑许多可能的术语。
另一方面,所有可能的模型选项访问所有可能的模型达到您指定的复杂性。 您的可用记忆和时间可能会限制可以考虑的实际术语数量。
广义回归选项介于两者之间。 以下是Help的解释:
最佳子集通过在每个步骤中增加模型中的活动效应数来计算参数估计值。 在每个步骤中,模型都是在所有可能的模型中选择的,其效果由步骤编号给出。 解决方案路径图的水平轴上的值表示模型中活动效应的数量。 步骤 0 对应于仅拦截模型。 步骤 1 对应于仅包含一种主动效应的模型中的最佳模型。 这些步骤一直持续到在“模型启动”报告的“高级控件”中指定的“最大效应数”的值。 请参阅“高级控件”
第 309 页。提示:最佳子集估计方法是计算密集型的。 不建议用于大问题。
希望这个解释有所帮助。
所以你不一定会从所有这些方法中得到相同的模型,并且分布与结果无关,假设你在所有情况下都使用相同的分布。
请记住,这些方法是帮助选择模型. 没有任何其中的一个保证它会找到最好的模型。