共线性。 共线性。 共线性。 在掌握 JMP 课程中,我们经常会遇到有关共线性、如何理解它、如何检测它、它与 JMP 报告中显示的 VIF 的关系、如何解释 VIF 以及如何构建准确考虑共线性的模型的问题。
JMP 提供了在建模过程中检测、理解和解释共线性的所有工具。 JMP 教育统计学家 Di Michelson 最近的一段视频展示了具体方法。 当您想了解响应与预测变量之间的关系时,她建议采取以下步骤,并在视频中遵循这些步骤,识别和理解共线性的影响。
以图形和统计方式总结成对行为
- 通过将所有变量放入 Y 角色,可视化多元平台中的数据(分析 > 多元方法 > 多元)。
- 检查相关性(使用相关矩阵),其中包含变量之间的成对相关性。 它是对称的,因为 X1 和 Y 之间的相关性与 Y 和 X1 之间的相关性相同。
Correlation Matrix相关矩阵
- 将相关性视为颜色图(从多元红色小三角中,选择相关性 > 颜色图),其中 JMP 将相关性表中的数字转换为颜色。 在她使用默认 JMP 颜色的示例中,红色方块显示正相关,蓝色方块显示负相关。 您可以将鼠标悬停在正方形上以获得相关值。
- 查看成对散点图矩阵(从多元红色小三角中,选择散点图矩阵),它绘制了 Y 与 X 的关系图。 同样,这个矩阵是对称的。
- 由于散点图矩阵是对称的,因此您不需要它的两边。 因此,您可以打开热图(从散点图矩阵红色小三角中,选择矩阵选项 > 热图)。
Scatterplot Matrix with Heat Map带热图的散点图矩阵
- 寻找与高度正相关或负相关相关的 X 变量。 在她的示例中,红色具有高正相关性,蓝色具有高负相关性。
- 将散点图矩阵点替换为密度椭圆(从散点图矩阵红色小三角中,选择密度椭圆),然后检查整个图以查看是否存在偏度或任何异常值。

迪的总结:您会看到 Y 与一些预测变量相关,并且许多预测变量彼此相关。 红色表示高度正相关,蓝色表示高度负相关。 预测变量的高度相关性可能会损害您的线性回归模型。 线性回归中的这个问题称为共线性或多重共线性。
拟合模型并探索方差膨胀因子
- 拟合模型(分析 > 拟合模型)。 (Di 使用“拟合模型”窗口中的“最小报告”选择。)
Fit Model Standard Least Squares Minimal Report Selection Window拟合模型标准最小二乘最小报告选择窗口
- 检查模型的拟合摘要、方差分析,以确定模型是否很好地解释了 Y 的变异性。
Summary of Fit - Looks Like Useful Model for Explaining Variability in Y拟合摘要 - 看起来是解释 Y 变异性的有用模型
- 右键单击“参数估计值”表可确定是否因相关预测变量而发生方差膨胀以及发生的程度。
How to Add VIF如何添加 VIF
- 按 VIF 列排序,以确定具有最高 VIF 的因素,这是由其他预测变量解释的该因素的变异性。 在这种情况下,X11 具有最高的 VIF。
Parameter Estimate Showing VIF for Each Variable显示每个变量的 VIF 的参数估计
- 将最高 VIF 因子建模为响应,将所有其他因子建模为预测变量,然后查看 R 平方值,看看该预测变量中的变异性是否可以由其他预测变量来解释,从而揭示可能的共线性。 高 VIF 表示高共线性。
Model and Examine R-Squared for Highest VIF Factor to Uncover Collinearity建模并检查 R 平方以获得最高 VIF 因子以揭示共线性
- 检查杠杆图以获得共线性的直观表示。 它们很有用,因为与散点图或相关矩阵不同,它们一次可以理解两个以上的变量。 当点在 X 方向收缩并且不填充整个 X 轴时,该因素与其他因素相关。
Examine Leverage Plots Visually Represent Collinearity检查直观地表示共线性的杠杆图
- 检查预测刻画器(从“响应红三角”>“因子刻画”>“刻画器”),其中每个响应对应一行,每个因子对应一列。 设置的组合给出了分析器左侧显示的预测响应。 当存在共线性时,该因子的刻画图边缘的置信区间非常宽。
Accessing Prediction Profiler访问预测刻画器
Prediction Profiler Gives Numeric and Cisual Results for Factor Interactions预测刻画器给出因子相互作用的数字和视觉结果
迪总结:当存在共线性时,您可以执行主成分分析 (PCA),这是一种派生新自变量(主成分)的分析类型,这些变量按解释的变异性降序排列。 然后,您可以使用主成分而不是原始预测变量来构建模型。 观看她的视频如何在 JMP 中使用 PCA 。