使用 JMP 18 製作的影片於 2025 年 5 月發布。
您是否想使用預測模型,但需要先了解或複習基礎知識?您是否嘗試過預測建模,但對所開發模型的準確性有些不確定?您是否因為無法測量某些限制範圍之外的數據而依賴外推法?
在本期「精通 JMP」課程中,我們將探索 JMP 和 JMP Pro 中的各種工具,以建立預測模型並避免常見陷阱。我們將:
- 對模型進行驗證,以防止過度擬合。
- 避免做出毫無意義的預測。
- 解決輸入變數的多重共線性問題。
在本次網路研討會上, @andreacoombs 、 @ momena、 @Jed_Campbell 、 @charlie_whitman和@Bill_Worley回答了以下問題:
Q:共線性是什麼意思?
答:共線性是指兩個解釋變數之間存在線性關係。如果兩個變數之間存在完全線性關係,即相關係數為 1 或 -1,則稱這兩個變數為完全共線性。當兩個以上的因素之間存在共線性時,通常稱為多重共線性。
Q:可以使用 Predictor Profiler 來處理多重共線性問題嗎?
一:在預測分析器中,您可以根據斜率的變化來判斷是否存在共線性或交互效應。
Q:能否查看預測因子篩選中的交互項?
一:預測篩選是基於 Bootstrap Forest 的快速分析列貢獻的工具。您無法直接從預測篩選平台介面查看交互項。但是,您可以執行 Bootstrap Forest,啟用分析器,然後選擇交互項進行檢視。
Q: JMP 是否會在預測因子篩選平台中加入空值因子,以便進一步驗證哪些變數應該被納入篩選,而不是一個真正的隨機變數?我指的是類似幾年前自動驗證演講中提到的空值因子。
一:您可以新增一兩列隨機數據,然後將這些列包含在預測篩選平台的 X 類別中。之後,您可能就不想包含該隨機變數下面的任何資料了。
問:多少個預測變數才算過多?我們應該以VIF值作為參考嗎?還是說有些模型可以包含50個以上的預測變數?
一:通常當樣本量超過 5-10 時,就會出現共線性或多重共線性問題。本影片和相關資料涵蓋了方差膨脹因子 (VIF) 和共線性問題。
Q:為什麼不包含相關/共線性的變數?為什麼要刪除它們?
一:如果您使用的是神經網路或 Bootstrap 方法,則可以同時保留這兩個參數。但如果您建立的是線性模型,並且這些參數估計值之間存在相關性,那麼不建議同時包含它們。您可以選擇保留其中一個,移除另一個。
Q:模型驗證是否只能在資料量大的情況下進行?如果要保留一部分數據,最少需要多少數據?
一:如果資料量太少,就有可能出現過擬合。此外,這也取決於你嘗試擬合的模型類型。你可以先嘗試 50/100 個數據,數據越多越好。
Q:當您根據訓練行或保留行對模型進行篩選時,模型是否使用保留行重新訓練,而不是應用原始資料?
一:訓練集用於訓練模型。保留部分的資料最初不用於模型,而是被視為模型未見過的資料。模型訓練完成後,會使用保留部分的資料來檢驗模型對未見過資料的預測效果。
Q:我們是否應該使用 Box-Cox 轉換來消除擬合不足?
一:可以。它有助於將預測變數和反應變數之間的關係線性化。
Q:在進行 Box Cox 轉換時,λ 的極限值是多少才能決定需要重新擬合?
一:基本上,你要看的是紅線向下延伸的位置以及它與藍色水平線相交的位置。所以,在這個區域內的任何部件可能都不需要重新調整,但如果高於水平線,你可能就需要重新調整了。
Q:有沒有辦法為樹狀圖設定“限制”,例如深度?
一:在標準版 JMP 中,啟動預測篩選時可以指定決策樹的數量。在 JMP Pro 中,有更多方法來調整模型。 預測選擇助手外掛程式也能幫助您在預測篩選中更好地進行「劃線」。該插件由 JMP 的另一位系統工程師 Scott Allen 開發。
Q:當您說 Weibull 指數和正常指數看起來都不錯時,您是如何判斷的?
一:在我的範例中,我沒有包含驗證列。如果沒有驗證列,可以使用資訊準則來確定哪個模型最佳。您可以比較不同模型的 AICc 值(例如,Weibull 分佈的 AICc 與常態分佈的 AICc)。這些值的絕對大小並不重要,重要的是它們之間的相互比較。因此,只要 AICc 值相差幾個單位,就可以認為它們相同。 Weibull 分佈和對數常態分佈的值非常接近,但它們的 AICc 值都遠小於指數分佈和常態分佈。另一種方法是包含驗證列,這樣就可以得到另一列,例如驗證 R 平方或測試 R 平方。因此,查看真實保留樣本的 R 平方值並比較測試模型的 R 平方值是另一種確定最佳模型的方法。請觀看影片:
本影片展示如何使用 JMP Pro 建立相關高維度資料的預測模型。
Q:如果多重共線性響應顯著,該怎麼辦?
一:不要相信這個結果,因為當存在共線性或多重共線性時,你的p值和模型都不可靠。在進行任何參數估計或模型的顯著性檢驗,或進行預測之前,你必須先處理多重共線性問題。