機器學習的一大風險是過度擬合。 John Elder 的目標值隨機化方法可以非常直觀地評估模型的準確性。這方面的資料很多,以下僅列舉其中一篇: http://www.kdnuggets.com/2014/02/3-ways-to-test-accuracy-your-predictive-models.html 。如果 JMP 也具備這種功能就太好了。
Xiaojie Zhouzhou.x.1@pg.com- 辛辛那提莎倫伍茲創新中心
根據@chris_gotwalt1的描述,我認為我們可以認為這項功能已經實現。如果還需要其他功能,請新增新的願望清單,我們會予以考慮。
@SamGardner看起來開發團隊正在調查此事,我們是否應該更改狀態?
使用 JMP Pro 的模擬功能,請依照以下簡單步驟即可實現此功能。例如,要對名為 :Y 的目標進行目標重排:
1) 右鍵點選 Y,選擇「新公式列」->「隨機」->「不放回抽樣」。這將建立一個名為“Shuffle”的新公式列。隨機打亂 Y 的行。
2)在原始響應列上運行模型。
3) 找到您感興趣的模型診斷指標(例如 R 平方、AIC、誤分類率等),然後在報告中右鍵單擊它。
4)在彈出的視窗中,選擇選項清單底部附近的「模擬」選項。
5) 在出現的「模擬」對話方塊中,選擇「Y」作為「要切換的欄位」和「隨機排列」。用於“切換列”。然後按一下“確定”。如果您希望結果可複現,可以在按一下「確定」之前選擇設定隨機種子,或將樣本數量變更為 2500 以外的其他值。如果模型擬合需要很長時間,則可能需要較少的樣本數。您也可以直接使用預設值。
然後,模擬程式會自動執行目標隨機化操作,並建立一個新表格,其中包含隨機化的 R 平方值或您選擇使用目標隨機化進行評估的其他診斷指標。點擊新表格中的“分佈腳本”,即可將報告中的值與“隨機化”後的 R 平方值的分佈進行比較。
我要指出的是,雖然約翰·埃爾德 (John Elder) 大力提倡目標值隨機化,但目標值隨機化的真正目的是為了防止使用過度擬合數據的模型。如果採用適當的驗證方法選擇模型,並結合 JMP 的 Neural、GenReg、PLS 和 Partition 平台中自帶的防止過度擬合演算法,那麼目標值隨機化的必要性就會降低。相較之下,在其他通用統計軟體(例如 R 、SPSS 或 Statistica)中,目標值隨機化是模型評估過程中必不可少的組成部分。