提升樹的「估計」代表什麼?你好
預測建模平台下的提升樹問題:
1- 分叉末端的「估計」在數學上代表什麼? 它是參數每單位變化(即靈敏度)的預期響應變化嗎?
2-假設例如200層增強樹模型,最終預測模型是否等於第200層,即最後一層的模型或所有200個模型的平均值? 我不太確定哪一個作為提升樹從前一個樹的殘差中學習..所以我傾向於認為它可能是最後一個模型,但集成方法是聚合方法(反駁論點)。
3-是否有實用的方法來估計提升樹模型中的信賴區間? 也許,取得每一層的結果然後創建一個分佈?
感謝您的支持。謝謝。
進階統計建模消費者與市場研究數據探索和視覺化預測建模和機器學習回覆:提升樹的「估計」代表什麼?謝謝維克多。 謝謝。
回覆:提升樹的「估計」代表什麼?你好@altug_bayram ,
1-由於提升樹模型的每棵樹都是根據前一棵樹的殘差(誤差)構建的,因此我想說估計值是一個數字,可添加到結果的平均值(您嘗試建模/預測的內容)上,取決於關於您所屬的類別/類別。 基於樹的方法提供了「步驟分析器」(請參閱螢幕截圖),您可以在其中清楚地看到改變一個因素的值可能會如何突然增加響應,具體取決於分割的位置。
2- 在基於 bagging 樹的方法(如隨機森林)中,最終結果將是各個樹的平均值/平均結果。 在提升樹演算法中,您必須將不同樹的所有“估計”相加(並將平均結果添加到其中)以獲得預測結果(取決於所選分割的“路徑”):“該樹是根據前幾層的殘差進行擬合的,這使得每一層都可以糾正前幾層中不良擬合數據的擬合。 觀測的最終預測是該觀測在所有層上的預測殘差總和」(資料來源:提升樹 - JMP 13 預測與專業建模 [書籍] (oreilly.com) )。
3- 不確定這個。 要么使用模型的殘差,要么我會嘗試自舉模型的 RASE 結果,以便為 RASE 構建 95% 的自舉區間,以便更好地評估模型的(均方根)預測誤差,或者使用 K-折疊“模型篩選」平台的交叉驗證,以便更好地估計模型的RASE。
希望第一個答案對你有幫助