比較結果你好,
在獲得各種結果後,如何在JMP中進行統計檢驗,以確保不同的分類方法所得到的結果不是由於隨機性造成的?

進階統計建模數據探索與視覺化預測模型和機器學習回覆:比較結果我不知道是否有任何統計測試可以檢驗這些不同模型是否有「顯著」差異,但我不認為這是正確的做法。您有許多相關的事物需要比較。使用驗證數據(或測試數據,如果你有足夠大的數據集來創建它),你可以查看 ROC、錯誤分類率、熵和廣義 R 平方測量,並詳細查看每個模型的錯誤分類 -對分類的截止機率進行適當的調整。我傾向於仔細觀察每個模型給出的預測機率分佈,並評估每個模型對於當前問題的實用性。假陽性和假陰性很少具有同等重要性,因此您確實需要一個能夠「很好地」解決您正在建模的決策問題的模型。預測的機率分佈通常會提供豐富的證據來用於評估。
回覆:比較結果我如何將 r2 結果保存在 Windows 表中?
回覆:比較結果右鍵點選表格框,然後選擇製作成資料表或製作組合資料表

回覆:比較結果你好@maryam_nourmand ,
如果您的目標是評估模型性能的穩健性,我只能推薦並強調@dlehman1帶來的選項。
有幾種方法可以評估模型的穩健性:
- 透過測量各種隨機種子下的模型表現(因為隨機性是 ML 模型學習的一部分: “沒有隨機性就沒有學習” ),
- 透過測量不同訓練和驗證集下的模型性能。
在第二個選項中,使用驗證公式列和「模擬」選項可以在大量不同的訓練條件/集合下嘗試模型。您可以在以下文章中閱讀有關如何在 JMP 中執行此操作的更多資訊:
如何自動化並將許多重複驗證匯總到一個輸出表中?
提升樹 - 調優表設計
利用這些模擬的結果,您可以視覺化和比較不同模型之間的效能分佈,並最終根據需要進行一些統計測試,例如比較不同模型之間預測模擬的平均值/中位數/變異數表現。
正如@dlehman1所說,預設指標很有趣,但您可能需要對其進行微調,因為分類錯誤可能不具有相同的「重要性」。
如果您打算將 ML 模型顯示的機率用作“置信度”,也要小心,它們並非全部經過校準,並且根據所選模型和樣本大小,它可能會產生不同的影響和後果。有關校準主題的更多資訊:
https://scikit-learn.org/stable/auto_examples/calibration/plot_compare_calibration.html
https://ploomber.io/blog/calibration-curve/
希望這個答案和一些考慮能有所幫助,