在 JMP 和 JMP Pro 中部署逐步迴歸方法了解如何使用 JMP 和 JMP Pro 來識別適合預測建模的重要預測變數、減少因估計不必要的項而導致的變異數以及建立預測模型。查看案例研究，了解如何使用 JMP 逐步迴歸來尋找重要變數和主動模型效應，以及該方法與自動合併變數選擇的 JMP Pro 廣義迴歸技術的比較。
請參閱如何：
- 了解逐步迴歸方法的基礎
- 選擇逐步迴歸選項以自動選擇因子
- 分析 > 擬合模型 > 個性：逐步
- 設定停止規則/標準
- 設定前進、後退或混合方向
- 前向選擇選擇具有最低 p 值的變量，將其添加到模型中，然後重新計算 p 值，並停止標準，直到滿足停止標準
- 向後消除選擇具有最高 p 值的變量，將其從模型中刪除，然後重新計算 p 值和停止標準，直到滿足停止標準
- 前向選擇與後向消除之間的混合交替，使用 p 值作為停止標準
- 運行模型
- 使用額外的逐步選項
- 替代停止規則 - KFold 驗證 R2
- 建構並比較所有可能的模型
- 根據每個模型中的 AICc 權重使用模型平均
- 在 JMP Pro 廣義迴歸中實作逐步方法，以輕鬆部署變數選擇、驗證、懲罰迴歸以協助處理相關因素、互動式模型視覺化、比較模型、使用高階項目輕鬆重新啟動模型
JMP Stepwise Regression FlowJMP Stepwise Regression FlowJMP Stepwise Regression FlowJMP Stepwise Regression FlowJMP 逐步回歸流程
Scott Allen @scott_allen和 Byron Wingerd @Byron_JMP在現場網路研討會上回答的問題：
Q：是否有關於何時優先選擇 AICc 而不是 BIC 的指南？
答：BIC 為您提供最少的項的最佳模型； AICc 為您提供解釋最多變化的模型，並根據項數進行懲罰。 AICc 中的小寫 c 代表 Corrected，表示針對小資料集進行了校正。 AIC 試圖選擇最能充分描述未知的高維度現實的模型。這意味著現實永遠不在考慮的候選模型集中。相反，BIC 試圖在候選集合中找到 TRUE 模型。
簡短的答案是，我只是運行它們並比較它們，或者您甚至可以將兩者一起計算，然後將它們平均。您可以在逐步平台中使用工具來執行這些操作，然後比較它們並自動比較圖表中的結果。在某些情況下。這取決於您的目標，您是否同意擁有更多條款，或者您是否真的希望將其減少到最低限度。在具有 500 個資料點的範例中，BIC 可能是首選。
Q：如何檢查過擬合？
答：如果我們只是在 JMP 中擬合線性模型，即使使用 Stepwise，識別過度擬合問題也會更加棘手。在 JMP Pro 中，我們可以設定測試、訓練和驗證子集（或者，如果您願意，至少可以設定測試和訓練）並比較 R 方。因此，如果您發現訓練集的 R 方非常好，而您的驗證集的 R 方非常糟糕，則意味著您很好地擬合了數據，並且您將無法很好地預測未來的觀察結果。
Q：在模型中，總共 568 行也有驗證行。我們是在模型中使用所有這些還是保留它們？
答：它們將作為驗證子集進行驗證和單獨評估。
Q：在舊的 SAS Enterprise Miner 中，「Ensemble」節點通常表現最佳。對於運行一堆模型、保存預測，然後簡單地對所有這些預測值求平均值，您有何看法？
答：在JMP中，我們使用神經網路平台來建立整合模型。它們通常傾向於優於單一模型。
Q：您是如何獲得相關性顏色圖的？
答：在紅色三角形下，尋找顏色圖選項。
Q：您如何偵測和處理多重共線性？
答：JMP 中單獨的逐步無法處理多重共線性，因此您必須提前將它們拉出來和/或使用聚類來找到代表性變數。如果您使用 JMP Pro 廣義回歸，懲罰回歸方法也將有助於解決這個問題，因此，如果您真的關心它，廣義回歸絕對是正確的選擇。您可以建立最小二乘模型，運行它並查看您的參數估計值。高 VIF 值可能表示存在多重共線性。請參閱下面的影片。
進階統計建模回覆：在 JMP 和 JMP Pro 中部署逐步迴歸方法嗨@肖恩L
在圖 3 中，刻畫器中看起來像「領結」的置信區間很好地表明您有一些高度相關的變數。由於逐步迴歸獨立檢查每個變數對模型的影響，因此它並不總是檢測相關變數。
要驗證這一點，您可以透過右鍵單擊參數估計表中的表並新增 VIF 列來檢查 VIF。任何 VIF 值 >10 都表示共線性可能是一個問題。統計知識入口網站在這裡提供了很好的概述。
當您手動刪除其中一個變數時，圖 4 中的問題似乎已解決。
您可以對所有變數執行多變量分析以檢查相關性，然後為您的建模選擇最具代表性的變數。您也可以觀看掌握 JMP 網路研討會「 為相關和高維度資料建立預測模型」 。
回覆：在 JMP 和 JMP Pro 中部署逐步迴歸方法感謝您參加網路研討會！感謝斯科特·艾倫。
這是一次很棒的學習，我渴望立即將新學到的知識應用到我的數據中。
當我應用新學習的 K 資料夾回歸方法時，我得到了好壞參半的結果。
- 本次網路研討會之前由 Stepwise 進行的原始迴歸分析：使用規則、方向等的預設設置，我對下面首先列出的模型運行了它（圖 1）。我透過刪除 p 值 >0.05 的項目和更多簡化（在合理的 adj-R2 值內減少項）進一步縮小了模型範圍。我對這個結果很滿意。
- 在這次網路研討會之後，同樣的Stepwise進行了後續分析：透過將規則更改為“Max K-fold Rsquare”，我重複了分析以獲得初步分析（圖2）。雖然初步結果顯示Max R值以13項為最佳。我不想在我的模型中包含那麼多項目，並且對於訓練和 K-Fold，我對 R 值水平有 5~6 個項表示滿意。因此，我選擇了所見的 6 項結果並運行模型。
如你所看到的，它的模型在圖3中包含了PValue>0.05的一項。此外，在其配置中，大多數項目的置信度/方差水平都非常寬。因此，我刪除了 AR 術語，以獲得與原始模型相似的 R 值和相似的模型 - 除了原始模型的“RV”在新模型中被替換為“Vol”術語。 RV 和 Vol 這兩個術語可以攜帶相似的訊息，但不完全相同。我不知道為什麼 K 折規則就像一項優於另一項。
不管怎樣，我對結果很滿意，因為它們採用了類似的建模方式，這證實了我的原始模型還不錯（沒有單獨的訓練和驗證過程）。集分為2 組子集，一組用於訓練，另一組用於驗證，我說得對嗎？
如果以上問題算第一個問題的話，這是我的第二個問題：
儘管 K-Fold 方法的結果稍好一些，R2 為 0.947，但我仍然更喜歡原始結果 R2 0.942。這是因為與 K-Fold 的新結果相比，其模型在 Rad 和 RV 項的建模刻畫器中的不確定性較小。如果原始方法不夠好，K-Fold 方法可以簡單地用於此類模型驗證或更多。
對於這個具體範例，這不是一個困難的決定，因為 R2 值差異不大。
但是，如果原始模型中的 R2 值低 0.1（少了 2-3 項），但預測刻畫器中的變異數要小得多（如原始模型與圖 3 中的模型），哪個模型會更好？
我目前正在使用 JMP 17。
圖1：原始分析
圖2：K折規則初步迴歸
圖3：K-Fold模型
圖4：K-Fold方法的最終結果
回覆：在 JMP 和 JMP Pro 中部署逐步迴歸方法關於整合模型， @scott_allen寫道： 在標準 JMP 和 JMP Pro 中還有其他方法來建立整合模型。您可以在標準 JMP 中手動對模型進行簡單平均（將它們相加並除以模型數量）。在 JMP Pro 中，您可以使用比較模型平台整合不同的模型。另請參閱@Peter_Hersh的 2021 年整合模型演示。
