製片人：瑪琳·史密斯
科羅拉多大學丹佛商學院
背景
一家在美國滑雪勝地周圍管理房產的房地產公司希望改進其房屋定價方法。許多指標的數據都很容易獲得，包括房屋和財產的大小、位置、房屋的年齡和市場強度指標。
任務
在確定哪些因素與滑雪勝地及其周圍的房屋售價相關後，開發一個模型來預測房價。
房價數據.jmp
該數據集包含最近 12 個月內出售的 45 處住宅房產的信息。數據集中的變量是：
價格房產售價（$1,000）
床位房子裡的臥室數量
浴場房屋內浴室數量
平方英尺房子的面積（平方英尺）
距度假村里程從酒店到市中心度假區數英里
距基地英里數從酒店到滑雪勝地山腳數英里
英畝地塊面積（英畝）
汽車車庫可容納的汽車數量
歲數房屋掛牌時的年齡（以年為單位）
多姆房屋出售前在市場上掛牌的天數
分析
該問題涉及一個響應變量，即房屋的銷售價格，以及銷售價格的各種潛在預測變量。其中三個預測變量直接或間接測量房屋的大小：平方英尺、臥室數量和浴室數量。為每個預測變量開發了簡單回歸模型。
以下是每個模型的摘要：
模型
|
R方
|
均方根誤差
|
P值
|
價格 = 137.4 + 77.2 床位
|
0.456
|
98.9
|
< 0.0001
|
價格 = 141.8 + 106.9 浴
|
0.640
|
80.5
|
< 0.0001
|
價格 = 134.0 + 0.135 平方英尺
|
0.486
|
96.2
|
< 0.0001
|
模型表明，基於單預測模型，房價上漲幅度為：
- 每間臥室 77,200 美元。
- 每間浴室 106,900 美元。
- 每平方英尺 135 美元。
多元回歸（圖表 1）讓我們能夠了解同時三個預測變量對售價的影響。
附件1多元回歸價格和三個尺寸變量
（分析 > 擬合模型；選擇價格為 Y，大小變量為模型效應，然後點擊運行。 某些默認輸出不會顯示，並且佈局已更改以更好地適應頁面。）
將多元回歸模型與三個簡單回歸模型進行比較可以發現係數發生了變化：
- 多元回歸模型中每間臥室的價格為 17,835 美元，低於 77,200 美元。
- 每間浴室 79,900 美元（原價 106,900 美元）。
- 多元回歸為 21 美元/平方英尺，簡單回歸為 135 美元/平方英尺。
此外，每個預測變量的重要性都發生了變化。在簡單回歸模型中，兩個預測變量本身俱有統計顯著性（床位和平方英尺) 與其他預測變量結合使用時不再顯著。其原因是預測變量之間的相關性，或者多重共線性。
如圖表 2 所示，預測變量之間的相關性（範圍從 0.728 到 0.7901）超過了售價與平方英尺之間的相關性 (0.697) 以及售價與臥室數量之間的相關性 (0.675)。
圖表2相關性和散點圖矩陣價格和大小變量
（分析 > 多變量方法 > 多變量；選擇價格，大小變量為 Y，列，然後單擊“確定”。在下方的紅色小三角下，選擇“顯示相關性”。）
在這種情況下，預測變量之間的相關性並不特別令人驚訝。我們預計平方英尺、臥室數量和浴室數量相關，因為在房屋中添加臥室或浴室會增加其平方英尺。相關性不是完美的（即等於一），因為增加平方英尺並不總是意味著您添加了另一間臥室或浴室（您可能會擴大廚房），並且因為添加一間臥室並不總是意味著您添加了另一間浴室。
兩個位置測量之間也可能存在多重共線性：距山腳的英里數和距市中心度假區的英里數。圖表 3 表明確實有理由擔心，因為兩個預測變量之間存在高度相關性 (0.948)。散點圖矩陣中的密度橢圓（圖表 3）證明了這一點，密度橢圓比涉及響應的橢圓窄得多，價格。
圖表3成對相關性和散點圖矩陣 - 位置變量
在位置變量的簡單回歸模型中，兩個預測變量都非常顯著，並且係數均為負。
模型
|
R方
|
均方根誤差
|
P值
|
價格 = 454.66 – 5.118 英里到度假村
|
0.291
|
112.97
|
< 0.0001
|
價格 = 473.61 – 5.925 英里至基地
|
0.401
|
103.81
|
< 0.0001
|
涉及兩個位置變量的整體回歸模型（圖表 4）非常顯著，F 比率的 p 值 < 0.0001。然而僅距基地英里數是一個重要的預測因子價格（0.05 水平）。此外，係數也發生了巨大變化。係數為距度假村里程現在是積極的！ （隨著到度假村的距離增加，銷售價格真的會增加嗎？）我們再次應該關注兩個預測變量之間非常高的相關性，距度假村里程和距基地英里數。
圖表4多元回歸價格和位置變量
我們發現了預測變量子集存在多重共線性的跡象，但讓我們看一下使用所有預測變量的多元回歸模型。
圖表5多元回歸價格和所有預測因子
（右鍵單擊參數估計表，然後選擇列、VIF。）
在上面的模型中（圖表 5），僅浴場和英畝在 0.05 水平上顯著。其他預測變量是否由於多重共線性而沒有統計顯著性？ 衡量多重共線性嚴重程度的指標是方差膨脹因子 (VIF)。計算預測變量的 VIF (VIF j ），使用預測變量作為 Y，使用其他預測變量作為 X 來擬合回歸模型。R 2對於該模型（R j 2 ) 計算，然後使用以下公式計算 VIF：
安R j 2對於從所有其他變量中預測一個變量的模型，如果為 0.8，則 VIF 為 5，而 R j 2 0.9 的結果是 VIF 為 10。因此，VIF 大於 5 或 10 通常被認為表明多重共線性可能存在問題。（注意：這不是一個嚴格的經驗法則 - 在 Google 中搜索 VIF 將得出關於該主題的許多意見）。
之間的強相關性距度假村里程和距基地英里數顯然是一個問題。在這種情況下，可以通過從模型中消除兩個變量之一來減輕多重共線性。回想起來，我們發現市中心的度假區靠近山腳，這意味著這兩個變量幾乎是相同的位置度量。自從距度假村里程被認為比距基地英里數， 僅有的距度假村里程將在後續的多元回歸模型中用作位置的度量（圖表 6）。
圖表 6多元回歸價格沒有距基地英里數
三個預測變量（浴場,距度假村里程和英畝）在新模型（圖表 6）中非常顯著。更重要的是，多重共線性現在不再那麼令人擔憂。
減少模型
回想一下，前面定義的最終任務是開發定價模型。我們的目標是開發最簡單的模型，能夠最好地預測房價。有很多方法可以實現這一點；一種方法是簡單地從完整模型中刪除不顯著的預測變量。但是，那一個預測變量的重要性取決於模型中的其他預測變量。這使得確定從模型中刪除哪些預測變量變得困難。逐步回歸（在練習中介紹）等工具提供了一種用於識別重要變量和簡化（簡化）模型的自動化方法。
在這裡，我們將使用 p 值手動縮減模型，一次一個變量。首先，我們重新審視相關性。
成對相關性（圖表 7 中的頂部報告）表明一些預測變量與響應高度相關。然而，正如我們所看到的，一些預測變量也與其他預測變量高度相關，因此很難確定哪些預測變量實際上很重要。
相反，我們將使用偏相關。部分相關是兩個變量之間的相關性，同時控制與其他變量的相關性。在調整其他預測變量後，偏相關使我們能夠看到每個預測變量與響應之間的相關性。請注意相關性如何變化（圖表 7 中的底部報告）！ 例如，比較成對相關性和偏相關性床位並為英畝和價格。
圖表 7成對相關和偏相關
（分析 > 多元方法 > 多元；選擇價格和其餘預測變量作為 Y、列，然後單擊“確定”。在下方的紅色小三角下，選擇偏相關。）
四個變量——浴場,平方英尺,距度假村里程和英畝– 與響應具有最高的偏相關性。上市天數（多姆） 和床位具有最低的偏相關性。
自從多姆也具有最高的 p 值（圖表 6 中的 0.925），我們通過移除多姆並改裝模型。然後我們刪除具有下一個最高 p 值的變量，床位。
注意：當一個變量被刪除時，其他變量的重要性可能會改變。因此，只應刪除不顯著的變量一次一個。
去掉這兩個變量後，汽車和歲數仍然不顯著，而平方英尺現在在 0.05 水平上顯著。此外，p 值浴場,距度假村里程和英畝均有所下降（圖表 8）。
圖表 8去除後的參數估計多姆和床位
繼續這種逐步的方法，我們消除了汽車， 然後歲數。最終模型非常顯著（F 比率的 p 值 < 0.0001），其餘變量均在 0.05 水平上顯著（圖表 9）。
圖表 9簡化模型
注意：這裡採用的方法本質上是向後逐步消除的手動形式，這在練習中進行了討論。
最終模型（參見圖表 9 中的參數估計）估計售價為：
- 每平方英尺 53.64 美元。
- 每間浴室 65,560 美元。
- 每英畝 5,352 美元。
- 距離度假村每英里可減少 3,644 美元。
概括
統計洞察
多重共線性及其對模型構建的影響是本案例的重點。兩個預測因素——房子到市中心度假區的距離和到山腳的距離——幾乎是相同的位置衡量標準。消除這些變量之一可以使另一個變量在後續的多元回歸模型中保持統計顯著性。
對成對相關性的檢查有助於揭示導致多重共線性的關係。在更複雜的模型中，預測變量之間可能存在難以評估的複雜的三級和更高級別的相關性。方差膨脹因子 (VIF) 在指示這些情況時非常有用。
在實踐中，這種情況下開發的最終模型非常重要，但我們可以做得更好嗎？ 我們是否遺漏了其他潛在的重要預測因素？ 例如，我們是否有衡量房屋質量和所用建築材料的標準？ 而且，我們如何解決無形資產問題？ 很難量化房屋和社區的主觀方面，而這些方面可能是價格的關鍵指標。
關於模型診斷的注意事項
在構建回歸模型時，我們需要驗證模型是否有意義。常用的三種診斷工具是殘差圖、Cook's D 和 Hats。
- 殘差表示擬合模型後留下的變化。理想情況下，殘差（或學生化殘差）隨機分散在零周圍，沒有明顯的模式。
- Cook 的 D 是單個點對模型影響的度量。Cook D 值 >1 的觀察結果通常被認為是有影響的。
- 帽子是槓桿的衡量標準，或者說觀察值相對於其預測值的極端程度。高槓桿點有可能影響模型。
我們鼓勵您自己探索這些模型診斷——我們將在練習中重新審視。
管理意義
統計模型告訴我們，在估算這個特定市場上的房屋售價時，不要過多擔心車庫容量、房屋年齡和上市天數。靠近市中心的度假區和山區會提高售價，而較大的地塊需要更高的價格。
為此分析開發的統計模型可以用作識別哪些房屋是統計上被高估或低估。相對於統計模型，具有較大學生殘差（大於三）的房屋可能定價過高。同樣，具有較大負學生化殘差（小於負三）的房屋相對於模型而言可能會被低估 - 它們最終可能會很便宜！
聯合管理計劃®特點和提示
本案例使用成對相關和偏相關、散點圖矩陣和 VIF 來協助識別多重共線性。
通過右鍵單擊參數估計表並選擇列、VIF 可以找到 VIF。
由於每個預測變量的顯著性取決於模型中的其他預測變量，因此使用 p 值和偏相關的組合慢慢地減少模型。逐步回歸（擬合模型平台中的一個特性）等工具可以自動執行模型構建過程。我們一次一個變量的方法實際上是一種手動形式的向後消除，可在逐步平台中使用。
練習
1. 使用最終模型來預測一棟 2,000 平方英尺、帶兩個浴室的住宅的售價，該住宅距離度假村 15 英里，佔地 1 英畝。
以下是直接在 JMP 中執行此操作的兩種方法：
- 在“分析”窗口中，從頂部紅色小三角中選擇保存列 > 預測公式。這將使用回歸模型在數據表中創建一個新列。然後，添加一個新行，並輸入提供的值來預測售價。
- 在“分析”窗口中，從頂部紅色小三角中選擇“因子刻畫”>“刻畫器”。刻畫器顯示指定預測變量值的預測響應（和置信區間）。單擊垂直紅線將預測變量值更改為上面提供的值。
- 本案例使用手冊落後模型縮減方法，其中完整模型（即使用所有預測變量的模型）根據統計顯著性一次縮減一個預測變量。讓我們考慮一種不同的方法——向前型號選擇。
從單預測變量模型開始，可能基於與價格相關性最高的預測變量或最低簡單回歸 p 值，並一次添加一個新的預測變量。添加預測變量時，請檢查擬合摘要、方差分析和參數估計表下的結果。
你會得到不同的最終模型嗎？ 如果是這樣，哪種型號是首選？
- 打開數據表 FuelEfficiency2011.jmp（可從 jmp.com/cases 的業務案例庫下載）。此數據表包含 2011 年在美國銷售的汽車品牌和型號的隨機樣本信息。
我們將從熟悉數據開始。然後，我們將擬合 MPG Highway 模型並探索模型診斷：殘差、Cook's D 影響、帽子和多重共線性。最後，我們將使用 JMP 逐步過程探索構建和選擇回歸模型的不同方法。
第 1 部分：了解數據
- 使用分佈平台探索所有變量（除了品牌和型號）。描述分佈的形狀。
- 使用分析 > 多元方法 > 多元來探索連續變量之間的關係。有任何變量與響應相關嗎？ MPG 高速公路？ 任何變量是否與其他變量相關？
第 2 部分：構建模型並探索模型診斷
- 使用擬合模型構建多元回歸模型，其中MPG 高速公路作為響應和所有預測變量作為模型效應（不包括品牌和型號），並運行該模型。
- 探索殘差。（這些是默認顯示的。其他殘差圖可從紅色小三角（行診斷）中獲得。
是否有任何模式或不尋常的觀察結果？ 描述你觀察到的情況。
- 檢查庫克的 D 影響力和帽子值。（從“保存列”下的紅色小三角中選擇這些選項。將在數據表中創建新列 - 使用分發平台探索這些值）。
是否存在任何有影響力或高槓桿點？
- 檢查 VIF。是否存在多重共線性問題？ 使用多元 > 多元平台探索二元相關性。是否有任何變量彼此高度相關？
第 3 部分：使用逐步縮小模型
返回模型規格窗口。將個性更改為“逐步”，然後單擊“運行”。在本練習中，我們將探索不同的停止規則和方向。
請注意，該模型包括一個名義變量，雜交種？ ，它在“當前估計值”表中具有奇怪的標籤。JMP 將名義變量編碼為指標列 - 標籤讓我們知道編碼已被應用。
為模型選擇的預測變量在“當前估計值”下輸入時會進行檢查。模型選擇了哪些項？
- 單擊全部刪除，將停止規則更改為最小 AIC，然後單擊執行。
該模型選擇了哪些術語？ 將此模型與使用最小 BIC 找到的模型進行比較。
注意：BIC 傾向於選擇預測變量較少的模型，而 AIC 傾向於選擇預測變量較多的模型。
- 現在，將停止規則從最小 AIC 更改為 P 值閾值。
“方向”下的默認選擇例程是“向前”。單擊“開始”。
- 將方向從向前更改為向後。單擊全部刪除以取消選擇預測變量，然後單擊執行。
該模型選擇了哪些術語？ 結果與前向選擇有什麼不同嗎？ 是否根據所使用的方法選擇不同的預測變量？
注意：在逐步選擇預測變量後，選擇“創建模型”或“運行模型”以創建回歸模型。
