混合逐步回归:P 值停止规则你好,
我正在尝试执行混合逐步回归:
选择分析>适合模型。
选择响应列并单击是,响应。
选择预测变量列并单击添加或使用其中之一宏如果你想包括更高阶的效果。
单击旁边的按钮性格并选择逐步。
点击跑步。
点击最低 BIC并选择P 值阈值。
单击“前进”并选择混合。
点击去。
我该如何决定进入和离开的P值? 如果我不想过度拟合我的模型?
回复:混合逐步回归:P 值首先,要明白逐步回归是一种生产力工具,可以快速拒绝较差的模型,但它不能保证最后一个模型是最好的模型。 可能是,也可能很接近。 你必须干预。 其次,结果来自向前或向后的引导搜索。 搜索路径不会检查许多可能的模型,因此您可能会错过最佳模型(即本地模型与全局模型)。 第三,您还必须检查数据和估计误差(残差),以确定是否存在可能误导此类搜索的异常数据或违反线性回归的情况。
逐步搜索标准的选择很重要。 每一种都有优点和缺点。 我不使用很多“经验法则”,因此我不认为高 R 平方表示过度拟合。 它发生了。 过度拟合意味着模型无法推广到新数据,这在您的情况下很重要。 调整后的 R 方试图解决过度拟合问题。 交叉验证是最好的方法,但您没有足够的数据来实现此方法的各种 CV 技术。 如果您有 JMP Pro,您可以尝试 Bootstrap 功能。
第二个块是否仅仅是第一个块的重复,或者它是否包含第一个块中不存在的独特处理? 另外,运行第二个区块的成本是多少(时间、金钱等)。
回复:混合逐步回归:P 值嗨马克贝利,
非常感谢您热心帮助回答我们的大部分问题。
您能回答我有关逐步回归的问题之一吗?
我有一个带有 7 个连续因子和完整响应曲面模型的定制设计。 总设计有 2 个模块 48 个实验。 第一个块完成后,我尝试使用逐步回归控制来拟合我的数据。 通过使用 P 值阈值和最小 BIC,我得到了类似的模型。 两个模型都给出了 P 值<0.05,并且 R^2=0.999998,Rsquare Adj = 0.99996。 R^2=1 意味着该模型过度拟合。 P 值小于 0.05 表示模型显着。 我该如何解释这个模型? 不运行第二块就够了吗?
回复:混合逐步回归:P 值停止规则基于p -values 是 Stepwise 平台的第一个实现。 在缺乏有关数据或最佳模型的任何先验知识的情况下,输入和离开的默认值是很好的。 (但是,如果您知道答案,则不需要逐步回归来搜索最佳拟合。)
Stepwise 不保证您的数据不会欠拟合或过拟合。 它是一种“生产力”工具,可以节省您检查较差配合的时间,并让您接近(如果不是)最佳配合。
现代标准包括AICc和BIC。 这两个标准都试图最小化偏差(欠拟合),同时也最小化方差(过拟合)。 它们不需要像p -值停止规则。 我建议您使用这些停止规则之一。
历史记录允许您检查搜索路径中遇到的不同模型的一些关键信息。 您可以使用此列表右侧的单选按钮选择其中任何一个。 然后,您可以返回到顶部并单击“制作模型”(对于“拟合模型”对话框)或“运行模型”(对于“拟合最小二乘法”平台),您可以在“效果摘要”表中进行微调。