制片人：玛琳·史密斯
科罗拉多大学丹佛商学院
背景
一家在美国滑雪胜地周围管理房产的房地产公司希望改进其房屋定价方法。许多指标的数据都很容易获得，包括房屋和财产的大小、位置、房屋的年龄和市场强度指标。
任务
在确定哪些因素与滑雪胜地及其周围的房屋售价相关后，开发一个模型来预测房价。
房价数据.jmp
该数据集包含最近 12 个月内出售的 45 处住宅房产的信息。数据集中的变量是：
价格房产售价（$1,000）
床位房子里的卧室数量
浴场房屋内浴室数量
平方英尺房子的面积（平方英尺）
距度假村里程从酒店到市中心度假区数英里
距基地英里数从酒店到滑雪胜地山脚数英里
英亩地块面积（英亩）
汽车车库可容纳的汽车数量
岁数房屋挂牌时的年龄（以年为单位）
多姆房屋出售前在市场上挂牌的天数
分析
该问题涉及一个响应变量，即房屋的销售价格，以及销售价格的各种潜在预测变量。其中三个预测变量直接或间接测量房屋的大小：平方英尺、卧室数量和浴室数量。为每个预测变量开发了简单回归模型。
以下是每个模型的摘要：
模型
|
R方
|
均方根误差
|
P值
|
价格 = 137.4 + 77.2 床位
|
0.456
|
98.9
|
< 0.0001
|
价格 = 141.8 + 106.9 浴
|
0.640
|
80.5
|
< 0.0001
|
价格 = 134.0 + 0.135 平方英尺
|
0.486
|
96.2
|
< 0.0001
|
模型表明，基于单预测模型，房价上涨幅度为：
- 每间卧室 77,200 美元。
- 每间浴室 106,900 美元。
- 每平方英尺 135 美元。
多元回归（图表 1）让我们能够了解同时三个预测变量对售价的影响。
附件1多元回归价格和三个尺寸变量
（分析 > 拟合模型；选择价格为 Y，大小变量为模型效应，然后点击运行。 某些默认输出不会显示，并且布局已更改以更好地适应页面。）
将多元回归模型与三个简单回归模型进行比较可以发现系数发生了变化：
- 多元回归模型中每间卧室的价格为 17,835 美元，低于 77,200 美元。
- 每间浴室 79,900 美元（原价 106,900 美元）。
- 多元回归为 21 美元/平方英尺，简单回归为 135 美元/平方英尺。
此外，每个预测变量的重要性都发生了变化。在简单回归模型中，两个预测变量本身具有统计显着性（床位和平方英尺) 与其他预测变量结合使用时不再显着。其原因是预测变量之间的相关性，或者多重共线性。
如图表 2 所示，预测变量之间的相关性（范围从 0.728 到 0.7901）超过了售价与平方英尺之间的相关性 (0.697) 以及售价与卧室数量之间的相关性 (0.675)。
图表2相关性和散点图矩阵价格和大小变量
（分析 > 多变量方法 > 多变量；选择价格，大小变量为 Y，列，然后单击“确定”。在下方的红色小三角下，选择“显示相关性”。）
在这种情况下，预测变量之间的相关性并不特别令人惊讶。我们预计平方英尺、卧室数量和浴室数量相关，因为在房屋中添加卧室或浴室会增加其平方英尺。相关性不是完美的（即等于一），因为增加平方英尺并不总是意味着您添加了另一间卧室或浴室（您可能会扩大厨房），并且因为添加一间卧室并不总是意味着您添加了另一间浴室。
两个位置测量之间也可能存在多重共线性：距山脚的英里数和距市中心度假区的英里数。图表 3 表明确实有理由担心，因为两个预测变量之间存在高度相关性 (0.948)。散点图矩阵中的密度椭圆（图表 3）证明了这一点，密度椭圆比涉及响应的椭圆窄得多，价格。
图表3成对相关性和散点图矩阵 - 位置变量
在位置变量的简单回归模型中，两个预测变量都非常显着，并且系数均为负。
模型
|
R方
|
均方根误差
|
P值
|
价格 = 454.66 – 5.118 英里到度假村
|
0.291
|
112.97
|
< 0.0001
|
价格 = 473.61 – 5.925 英里至基地
|
0.401
|
103.81
|
< 0.0001
|
涉及两个位置变量的整体回归模型（图表 4）非常显着，F 比率的 p 值 < 0.0001。然而仅距基地英里数是一个重要的预测因子价格（0.05 水平）。此外，系数也发生了巨大变化。系数为距度假村里程现在是积极的！ （随着到度假村的距离增加，销售价格真的会增加吗？）我们再次应该关注两个预测变量之间非常高的相关性，距度假村里程和距基地英里数。
图表4多元回归价格和位置变量
我们发现了预测变量子集存在多重共线性的迹象，但让我们看一下使用所有预测变量的多元回归模型。
图表5多元回归价格和所有预测因子
（右键单击参数估计表，然后选择列、VIF。）
在上面的模型中（图表 5），仅浴场和英亩在 0.05 水平上显着。其他预测变量是否由于多重共线性而没有统计显着性？ 衡量多重共线性严重程度的指标是方差膨胀因子 (VIF)。计算预测变量的 VIF (VIF j ），使用预测变量作为 Y，使用其他预测变量作为 X 来拟合回归模型。R 2对于该模型（R j 2 ) 计算，然后使用以下公式计算 VIF：
安R j 2对于从所有其他变量中预测一个变量的模型，如果为 0.8，则 VIF 为 5，而 R j 2 0.9 的结果是 VIF 为 10。因此，VIF 大于 5 或 10 通常被认为表明多重共线性可能存在问题。（注意：这不是一个严格的经验法则 - 在 Google 中搜索 VIF 将得出关于该主题的许多意见）。
之间的强相关性距度假村里程和距基地英里数显然是一个问题。在这种情况下，可以通过从模型中消除两个变量之一来减轻多重共线性。回想起来，我们发现市中心的度假区靠近山脚，这意味着这两个变量几乎是相同的位置度量。自从距度假村里程被认为比距基地英里数， 仅有的距度假村里程将在后续的多元回归模型中用作位置的度量（图表 6）。
图表 6多元回归价格没有距基地英里数
三个预测变量（浴场,距度假村里程和英亩）在新模型（图表 6）中非常显着。更重要的是，多重共线性现在不再那么令人担忧。
减少模型
回想一下，前面定义的最终任务是开发定价模型。我们的目标是开发最简单的模型，能够最好地预测房价。有很多方法可以实现这一点；一种方法是简单地从完整模型中删除不显着的预测变量。但是，那一个预测变量的重要性取决于模型中的其他预测变量。这使得确定从模型中删除哪些预测变量变得困难。逐步回归（在练习中介绍）等工具提供了一种用于识别重要变量和简化（简化）模型的自动化方法。
在这里，我们将使用 p 值手动缩减模型，一次一个变量。首先，我们重新审视相关性。
成对相关性（图表 7 中的顶部报告）表明一些预测变量与响应高度相关。然而，正如我们所看到的，一些预测变量也与其他预测变量高度相关，因此很难确定哪些预测变量实际上很重要。
相反，我们将使用偏相关。部分相关是两个变量之间的相关性，同时控制与其他变量的相关性。在调整其他预测变量后，偏相关使我们能够看到每个预测变量与响应之间的相关性。请注意相关性如何变化（图表 7 中的底部报告）！ 例如，比较成对相关性和偏相关性床位并为英亩和价格。
图表 7成对相关和偏相关
（分析 > 多元方法 > 多元；选择价格和其余预测变量作为 Y、列，然后单击“确定”。在下方的红色小三角下，选择偏相关。）
四个变量——浴场,平方英尺,距度假村里程和英亩– 与响应具有最高的偏相关性。上市天数（多姆） 和床位具有最低的偏相关性。
自从多姆也具有最高的 p 值（图表 6 中的 0.925），我们通过移除多姆并改装模型。然后我们删除具有下一个最高 p 值的变量，床位。
注意：当一个变量被删除时，其他变量的重要性可能会改变。因此，只应删除不显着的变量一次一个。
去掉这两个变量后，汽车和岁数仍然不显着，而平方英尺现在在 0.05 水平上显着。此外，p 值浴场,距度假村里程和英亩均有所下降（图表 8）。
图表 8去除后的参数估计多姆和床位
继续这种逐步的方法，我们消除了汽车， 然后岁数。最终模型非常显着（F 比率的 p 值 < 0.0001），其余变量均在 0.05 水平上显着（图表 9）。
图表 9简化模型
注意：这里采用的方法本质上是向后逐步消除的手动形式，这在练习中进行了讨论。
最终模型（参见图表 9 中的参数估计）估计售价为：
- 每平方英尺 53.64 美元。
- 每间浴室 65,560 美元。
- 每英亩 5,352 美元。
- 距离度假村每英里可减少 3,644 美元。
概括
统计洞察
多重共线性及其对模型构建的影响是本案例的重点。两个预测因素——房子到市中心度假区的距离和到山脚的距离——几乎是相同的位置衡量标准。消除这些变量之一可以使另一个变量在后续的多元回归模型中保持统计显着性。
对成对相关性的检查有助于揭示导致多重共线性的关系。在更复杂的模型中，预测变量之间可能存在难以评估的复杂的三级和更高级别的相关性。方差膨胀因子 (VIF) 在指示这些情况时非常有用。
在实践中，这种情况下开发的最终模型非常重要，但我们可以做得更好吗？ 我们是否遗漏了其他潜在的重要预测因素？ 例如，我们是否有衡量房屋质量和所用建筑材料的标准？ 而且，我们如何解决无形资产问题？ 很难量化房屋和社区的主观方面，而这些方面可能是价格的关键指标。
关于模型诊断的注意事项
在构建回归模型时，我们需要验证模型是否有意义。常用的三种诊断工具是残差图、Cook's D 和 Hats。
- 残差表示拟合模型后留下的变化。理想情况下，残差（或学生化残差）随机分散在零周围，没有明显的模式。
- Cook 的 D 是单个点对模型影响的度量。Cook D 值 >1 的观察结果通常被认为是有影响的。
- 帽子是杠杆的衡量标准，或者说观察值相对于其预测值的极端程度。高杠杆点有可能影响模型。
我们鼓励您自己探索这些模型诊断——我们将在练习中重新审视。
管理意义
统计模型告诉我们，在估算这个特定市场上的房屋售价时，不要过多担心车库容量、房屋年龄和上市天数。靠近市中心的度假区和山区会提高售价，而较大的地块需要更高的价格。
为此分析开发的统计模型可以用作识别哪些房屋是统计上被高估或低估。相对于统计模型，具有较大学生残差（大于三）的房屋可能定价过高。同样，具有较大负学生化残差（小于负三）的房屋相对于模型而言可能会被低估 - 它们最终可能会很便宜！
联合管理计划®特点和提示
本案例使用成对相关和偏相关、散点图矩阵和 VIF 来协助识别多重共线性。
通过右键单击参数估计表并选择列、VIF 可以找到 VIF。
由于每个预测变量的显着性取决于模型中的其他预测变量，因此使用 p 值和偏相关的组合慢慢地减少模型。逐步回归（拟合模型平台中的一个特性）等工具可以自动执行模型构建过程。我们一次一个变量的方法实际上是一种手动形式的向后消除，可在逐步平台中使用。
练习
1. 使用最终模型来预测一栋 2,000 平方英尺、带两个浴室的住宅的售价，该住宅距离度假村 15 英里，占地 1 英亩。
以下是直接在 JMP 中执行此操作的两种方法：
- 在“分析”窗口中，从顶部红色小三角中选择保存列 > 预测公式。这将使用回归模型在数据表中创建一个新列。然后，添加一个新行，并输入提供的值来预测售价。
- 在“分析”窗口中，从顶部红色小三角中选择“因子刻画”>“刻画器”。刻画器显示指定预测变量值的预测响应（和置信区间）。单击垂直红线将预测变量值更改为上面提供的值。
- 本案例使用手册落后模型缩减方法，其中完整模型（即使用所有预测变量的模型）根据统计显着性一次缩减一个预测变量。让我们考虑一种不同的方法——向前型号选择。
从单预测变量模型开始，可能基于与价格相关性最高的预测变量或最低简单回归 p 值，并一次添加一个新的预测变量。添加预测变量时，请检查拟合摘要、方差分析和参数估计表下的结果。
你会得到不同的最终模型吗？ 如果是这样，哪种型号是首选？
- 打开数据表 FuelEfficiency2011.jmp（可从 jmp.com/cases 的业务案例库下载）。此数据表包含 2011 年在美国销售的汽车品牌和型号的随机样本信息。
我们将从熟悉数据开始。然后，我们将拟合 MPG Highway 模型并探索模型诊断：残差、Cook's D 影响、帽子和多重共线性。最后，我们将使用 JMP 逐步过程探索构建和选择回归模型的不同方法。
第 1 部分：了解数据
- 使用分布平台探索所有变量（除了品牌和型号）。描述分布的形状。
- 使用分析 > 多元方法 > 多元来探索连续变量之间的关系。有任何变量与响应相关吗？ MPG 高速公路？ 任何变量是否与其他变量相关？
第 2 部分：构建模型并探索模型诊断
- 使用拟合模型构建多元回归模型，其中MPG 高速公路作为响应和所有预测变量作为模型效应（不包括品牌和型号），并运行该模型。
- 探索残差。（这些是默认显示的。其他残差图可从红色小三角（行诊断）中获得。
是否有任何模式或不寻常的观察结果？ 描述你观察到的情况。
- 检查库克的 D 影响力和帽子值。（从“保存列”下的红色小三角中选择这些选项。将在数据表中创建新列 - 使用分发平台探索这些值）。
是否存在任何有影响力或高杠杆点？
- 检查 VIF。是否存在多重共线性问题？ 使用多元 > 多元平台探索二元相关性。是否有任何变量彼此高度相关？
第 3 部分：使用逐步缩小模型
返回模型规格窗口。将个性更改为“逐步”，然后单击“运行”。在本练习中，我们将探索不同的停止规则和方向。
请注意，该模型包括一个名义变量，杂交种？ ，它在“当前估计值”表中具有奇怪的标签。JMP 将名义变量编码为指标列 - 标签让我们知道编码已被应用。
为模型选择的预测变量在“当前估计值”下输入时会进行检查。模型选择了哪些项？
- 单击全部删除，将停止规则更改为最小 AIC，然后单击执行。
该模型选择了哪些术语？ 将此模型与使用最小 BIC 找到的模型进行比较。
注意：BIC 倾向于选择预测变量较少的模型，而 AIC 倾向于选择预测变量较多的模型。
- 现在，将停止规则从最小 AIC 更改为 P 值阈值。
“方向”下的默认选择例程是“向前”。单击“开始”。
- 将方向从向前更改为向后。单击全部删除以取消选择预测变量，然后单击执行。
该模型选择了哪些术语？ 结果与前向选择有什么不同吗？ 是否根据所使用的方法选择不同的预测变量？
注意：在逐步选择预测变量后，选择“创建模型”或“运行模型”以创建回归模型。
