在模型篩選中,Boosted Tree 被評為表現最佳的模型,因此我選擇了它或說迴歸問題。
請問如何利用tuning table設計進一步優化boosted tree的效能?
你好@AlphaPanda86751 ,
如果您想微調所選算法的超參數以提高預測性能,調優表可能確實有用。
請問您是否已經有驗證策略,以防止過度擬合:k-folds 交叉驗證、驗證列、其他...? 與其他基於樹的方法(如引導森林)相比,提升樹可能更容易過度擬合,因此最好在嘗試優化性能之前固定並設置驗證策略。
為了使用調整表設計,您可以手動生成一個表,通過在列中設置超參數因子(層數、每棵樹的分割數、學習率、最小分割大小……)來測試所有組合(“網格-搜索方法”),或者您也可以使用“自定義設計”平台生成調整表設計,方法是指定您想要調查/微調的不同超參數因素、每個值的範圍以及模型/複雜性您想在此超參數空間中研究的不同組合/交互。 您可以在此處找到更多信息(信息來自 Bootstrap Forest 平台,但 Boosted Tree 的技術非常相似):啟動 Bootstrap Forest 平台 (jmp.com)
您可以在附件中找到從定制設計平台生成的調整表示例。
然後您可以使用您之前設置的驗證策略啟動您的 Boosted Tree 平台,並讓 JMP 使用 Tuning 表來測試不同的超參數值。
下面是鑽石數據集上帶有“正常”(未微調)提升樹的分層驗證列的結果示例:

這是使用調整表的結果:

JMP 中的“默認”設置與 Boosted Tree 的微調版本之間沒有大的變化,但嘗試微調以評估性能變化可能會有所幫助且有趣。 如果您使用了驗證公式列,您還可以評估超參數微調的“穩健性”(右鍵單擊 Rsquare、RASE 或其他評估指標,並使用“模擬”切換進出驗證列,以及設置隨機種子以獲得可重現的比較結果):

同樣,這並沒有太大區別,因為 JMP 中的默認設置很好而且非常穩健,但您可以自己嘗試。
您將在附件中找到包含已完成模擬和圖表腳本的數據表,您可以在示例索引中找到鑽石數據的數據表,也可以在此處附加(以便獲得驗證列並重現此處介紹的步驟)。
我希望這能幫到您,