在我們的免費在線課程中了解更多信息:
解決工業問題的統計思維
在本視頻中,我們使用化學製造數據。 我們使用廣義回歸為分類響應 Performance 擬合邏輯回歸模型。 然後我們展示如何進行變量選擇來減少這個模型。
首先,我們從分析菜單中選擇擬合模型。 我們為 Y 角色選擇 Performance,並選擇兩組預測變量作為模型效果。
然後我們從 Personality 的菜單中選擇 Generalized Regression。 因為我們有兩級分類響應,所以默認響應分佈是二項分佈。我們選擇拒絕作為目標水平,並運行該模型。
JMP 擬合邏輯回歸模型。 請注意,當我們從模型中的所有項開始時,它們都不重要。
如果我們想減少這個模型怎麼辦? 有幾種變量選擇方法可用,例如向後消除、向前選擇、修剪向前選擇(或混合)和最佳子集(或所有可能的模型)。
在這裡,我們有很多預測因素。 所以我們在這個例子中使用前向修剪。 此方法通過一系列步驟在模型中添加和刪除項。 在每一步,它都會添加不在模型中的最重要的項,並刪除模型中最不重要的項。
您可以看到其中四個項很重要,並且其中幾個項已從模型中刪除。 為了更好地了解這一點,我們將對 p 值進行排序 (Prob > ChiSquare)。
這是我們的簡化模型。
此分析還提供了兩個“解決方案路徑”圖,以幫助您可視化和探索您的模型。
在這些圖中,垂直紅線是在我們當前的簡化模型處繪製的。
第一張圖中的藍線顯示了參數估計值的大小。 這些參數估計值按其均值和平方和進行縮放,以使其具有可比性。
為了更好地了解這一點,我們從模型的紅色三角形中選擇回歸報告,然後選擇居中和縮放預測變量的參數估計。
這條線表示 Assay 的參數估計值。 對於此簡化模型,此估計值為 14.46。
讓我們將紅線拖到開頭,當模型中沒有項時,看看模型在我們添加項時如何變化。
添加的第一個術語是 Base Assay。 然後添加 Vessel Size。 在下一步中,添加入口溫度。 這個過程繼續。 在某些步驟中,最不重要的術語也被刪除。
讓我們將這條線拖到第 45 步。 請注意,大多數項在這一步都在模型中。 另外,請注意許多參數估計值有多大。 例如,查看 Base Assay。 對於此步驟中模型中的所有其他項,Base Assay 的參數估計值已經激增。
這是多重共線性的證據。 多重共線性會導致參數估計值及其標準誤差膨脹。
我們來看第二張圖。 此圖顯示 AICc 統計量的值,這是此模型的默認驗證方法。
因為我們在這個例子中沒有使用 holdout 驗證,所以 AICc 用於選擇最佳模型。 該統計值越低越好。
Pruned forward selection 選擇了具有最低 AICc 值的模型。
但是,在綠色區域具有 AICc 值的模型與我們的簡化模型相當。 例如,我們可以進一步減少這個模型。
讓我們回到通過修剪前向選擇選擇的模型。 要查看此模型,我們從模型的紅色小三角中選擇顯示預測表達式。 這只是一個邏輯回歸模型,有七個預測變量。