使用 JMP 18 制作的视频于 2025 年 5 月发布。
您是否想使用预测模型,但需要先了解或复习基础知识?您是否尝试过预测建模,但对所开发模型的准确性有些不确定?您是否因为无法测量某些限制范围之外的数据而依赖外推法?
在本期“精通 JMP”课程中,我们将探索 JMP 和 JMP Pro 中的各种工具,以构建预测模型并避免常见陷阱。我们将:
- 对模型进行验证,以防止过拟合。
- 避免做出毫无意义的预测。
- 解决输入变量的多重共线性问题。
在本次网络研讨会上, @andreacoombs 、 @ momena、 @Jed_Campbell 、 @charlie_whitman和@Bill_Worley回答了以下问题:
问:共线性是什么意思?
答:共线性是指两个解释变量之间存在线性关系。如果两个变量之间存在完全线性关系,即相关系数为 1 或 -1,则称这两个变量完全共线性。当两个以上的因素之间存在共线性时,通常称为多重共线性。
问:可以使用 Predictor Profiler 来解决多重共线性问题吗?
一个:在预测分析器中,您可以根据斜率的变化来判断是否存在共线性或交互效应。
问:能否查看预测因子筛选中的交互项?
一个:预测筛选是一个基于 Bootstrap Forest 的快速分析列贡献的工具。您无法直接从预测筛选平台界面查看交互项。但是,您可以运行 Bootstrap Forest,启用分析器,然后选择交互项进行查看。
问: JMP 是否会在预测因子筛选平台中添加空值因子,以便进一步验证哪些变量应该被纳入筛选,而不是一个真正的随机变量?我指的是类似于几年前在自动验证演讲中提到的空值因子。
一个:您可以添加一两列随机数据,然后将这些列包含在预测筛选平台的 X 类别中。之后,您可能就不想包含该随机变量下面的任何数据了。
问:多少个预测变量才算过多?我们应该以VIF值作为参考吗?还是说有些模型可以包含50个以上的预测变量?
一:通常当样本量超过 5-10 时,就会遇到共线性或多重共线性问题。本视频和相关资料涵盖了方差膨胀因子 (VIF) 和共线性问题。
问:为什么不纳入相关/共线性的变量?为什么要删除它们?
一:例如,如果您使用的是神经网络或自助法,则可以同时保留这两个参数估计值。但如果您构建的是线性模型,并且这些参数估计值之间存在相关性,那么不建议同时包含它们。您可以选择保留其中一个,移除另一个。
问:模型验证是否只能在数据量很大的情况下进行?最少需要多少数据才能保留一部分数据?
一:如果数据量太少,就有可能出现过拟合。此外,这还取决于你尝试拟合的模型类型。你可以先尝试 50/100 个数据,数据越多越好。
问:当您根据训练数据或保留数据对模型进行筛选时,模型是否使用保留数据重新训练,而不是使用原始数据?
一:训练集用于训练模型。保留部分最初不用于模型,而是被视为模型未见过的数据。模型训练完成后,会使用保留部分来检验模型对未见过数据的预测效果。
问:我们是否应该使用 Box-Cox 变换来消除拟合不足?
一个:可以。它有助于将预测变量和响应变量之间的关系线性化。
问:在进行 Box Cox 变换时,确定需要重新拟合的 lambda 极限是多少?
一个:基本上,你要看的是红线向下延伸的位置以及它与蓝色水平线相交的位置。所以,在这个区域内的任何部件可能都不需要重新调整,但如果高于水平线,你可能就需要重新调整了。
问:有没有办法给树状结构设置“限制”,例如深度?
在标准版JMP中,启动预测筛选时可以指定决策树的数量。在 JMP Pro 中,有更多方法来调整模型。 预测选择助手插件也能帮助您在预测筛选中更好地进行“划线”。该插件由 JMP 的另一位系统工程师 Scott Allen 开发。
问:当你说威布尔指数和正常指数看起来都不错时,你是如何判断的?
在我的示例中,我没有包含验证列。如果没有验证列,可以使用信息准则来确定哪个模型最佳。您可以比较不同模型的 AICc 值(例如,Weibull 分布的 AICc 与正态分布的 AICc)。这些值的绝对大小并不重要,重要的是它们之间的相互比较。因此,只要 AICc 值相差几个单位,就可以认为它们相同。Weibull 分布和对数正态分布的值非常接近,但它们的 AICc 值都远小于指数分布和正态分布。另一种方法是包含验证列,这样就可以得到另一列,例如验证 R 平方或测试 R 平方。因此,查看真实保留样本的 R 平方值并比较测试模型的 R 平方值是确定最佳模型的另一种方法。请观看视频:
本视频展示了如何使用 JMP Pro 构建相关高维数据的预测模型。
问:如果多重共线性响应显著,应该怎么办?
一个:不要相信这个结果,因为当存在共线性或多重共线性时,你的p值和模型都不可靠。在进行任何显著性检验(无论是参数估计还是模型检验)或预测之前,你必须先处理多重共线性问题。