共线性。 共线性。 共线性。 在掌握 JMP 课程中,我们经常会遇到有关共线性、如何理解它、如何检测它、它与 JMP 报告中显示的 VIF 有何关系、如何解释 VIF 以及如何构建准确考虑共线性的模型的问题。
JMP 提供了在建模过程中检测、理解和解释共线性的所有工具。 JMP 教育统计学家 Di Michelson 最近的一段视频展示了具体方法。 当您想了解响应与预测变量之间的关系时,她建议采取以下步骤,并在视频中遵循这些步骤,识别和理解共线性的影响。
以图形和统计方式总结成对行为
- 通过将所有变量放入 Y 角色,可视化多元平台中的数据(分析 > 多元方法 > 多元)。
- 检查相关性(使用相关矩阵),其中包含变量之间的成对相关性。 它是对称的,因为 X1 和 Y 之间的相关性与 Y 和 X1 之间的相关性相同。
Correlation MatrixCorrelation MatrixCorrelation MatrixCorrelation MatrixCorrelation Matrix相关矩阵
- 将相关性视为颜色图(从多元红色小三角中,选择相关性 > 颜色图),其中 JMP 将相关性表中的数字转换为颜色。 在她使用默认 JMP 颜色的示例中,红色方块显示正相关,蓝色方块显示负相关。 您可以将鼠标悬停在正方形上以获得相关值。
- 查看成对散点图矩阵(从多元红色小三角中,选择散点图矩阵),它绘制了 Y 与 X 的关系图。 同样,这个矩阵是对称的。
- 由于散点图矩阵是对称的,因此您不需要它的两边。 因此,您可以打开热图(从散点图矩阵红色小三角中,选择矩阵选项 > 热图)。
Scatterplot Matrix with Heat MapScatterplot Matrix with Heat MapScatterplot Matrix with Heat MapScatterplot Matrix with Heat MapScatterplot Matrix with Heat Map带热图的散点图矩阵
- 寻找与高度正相关或负相关相关的 X 变量。 在她的示例中,红色具有高正相关性,蓝色具有高负相关性。
- 将散点图矩阵点替换为密度椭圆(从散点图矩阵红色小三角中,选择密度椭圆),然后检查整个图以查看是否存在偏度或任何异常值。

迪的总结:您会看到 Y 与一些预测变量相关,并且许多预测变量彼此相关。 红色表示高度正相关,蓝色表示高度负相关。 预测变量的高度相关性可能会损害您的线性回归模型。 线性回归中的这个问题称为共线性或多重共线性。
拟合模型并探索方差膨胀因子
- 拟合模型(分析 > 拟合模型)。 (Di 使用“拟合模型”窗口中的“最小报告”选择。)
Fit Model Standard Least Squares Minimal Report Selection WindowFit Model Standard Least Squares Minimal Report Selection WindowFit Model Standard Least Squares Minimal Report Selection WindowFit Model Standard Least Squares Minimal Report Selection WindowFit Model Standard Least Squares Minimal Report Selection Window拟合模型标准最小二乘最小报告选择窗口
- 检查模型的拟合摘要、方差分析,以确定模型是否很好地解释了 Y 的变异性。
Summary of Fit - Looks Like Useful Model for Explaining Variability in YSummary of Fit - Looks Like Useful Model for Explaining Variability in YSummary of Fit - Looks Like Useful Model for Explaining Variability in YSummary of Fit - Looks Like Useful Model for Explaining Variability in YSummary of Fit - Looks Like Useful Model for Explaining Variability in Y拟合摘要 - 看起来是解释 Y 变异性的有用模型
- 右键单击“参数估计值”表可确定是否因相关预测变量而发生方差膨胀以及发生的程度。
How to Add VIFHow to Add VIFHow to Add VIFHow to Add VIFHow to Add VIF如何添加 VIF
- 按 VIF 列排序,以确定具有最高 VIF 的因素,这是由其他预测变量解释的该因素的变异性。 在这种情况下,X11 具有最高的 VIF。
Parameter Estimate Showing VIF for Each VariableParameter Estimate Showing VIF for Each VariableParameter Estimate Showing VIF for Each VariableParameter Estimate Showing VIF for Each VariableParameter Estimate Showing VIF for Each Variable显示每个变量的 VIF 的参数估计
- 将最高 VIF 因子建模为响应,将所有其他因子建模为预测变量,然后查看 R 平方值,看看该预测变量中的变异性是否可以由其他预测变量来解释,从而揭示可能的共线性。 高 VIF 表示高共线性。
Model and Examine R-Squared for Highest VIF Factor to Uncover CollinearityModel and Examine R-Squared for Highest VIF Factor to Uncover CollinearityModel and Examine R-Squared for Highest VIF Factor to Uncover CollinearityModel and Examine R-Squared for Highest VIF Factor to Uncover CollinearityModel and Examine R-Squared for Highest VIF Factor to Uncover Collinearity建模并检查 R 平方以获得最高 VIF 因子以揭示共线性
- 检查杠杆图以获得共线性的直观表示。 它们很有用,因为与散点图或相关矩阵不同,它们一次可以理解两个以上的变量。 当点在 X 方向收缩并且不填充整个 X 轴时,该因素与其他因素相关。
Examine Leverage Plots Visually Represent CollinearityExamine Leverage Plots Visually Represent CollinearityExamine Leverage Plots Visually Represent CollinearityExamine Leverage Plots Visually Represent CollinearityExamine Leverage Plots Visually Represent Collinearity检查直观地表示共线性的杠杆图
- 检查预测刻画器(从“响应红三角”>“因子刻画”>“刻画器”),其中每个响应对应一行,每个因子对应一列。 设置的组合给出了分析器左侧显示的预测响应。 当存在共线性时,该因子的刻画图边缘的置信区间非常宽。
Accessing Prediction ProfilerAccessing Prediction ProfilerAccessing Prediction ProfilerAccessing Prediction ProfilerAccessing Prediction Profiler访问预测刻画器
Prediction Profiler Gives Numeric and Cisual Results for Factor InteractionsPrediction Profiler Gives Numeric and Cisual Results for Factor InteractionsPrediction Profiler Gives Numeric and Cisual Results for Factor InteractionsPrediction Profiler Gives Numeric and Cisual Results for Factor InteractionsPrediction Profiler Gives Numeric and Cisual Results for Factor Interactions预测刻画器给出因子相互作用的数字和视觉结果
迪的总结:当存在共线性时,您可以执行主成分分析 (PCA),这是一种派生新自变量(主成分)的分析类型,这些变量按解释的变异性降序排列。 然后,您可以使用主成分而不是原始预测变量来构建模型。 观看她的视频如何在 JMP 中使用 PCA 。