Boosted Trees の「推定値」は何を表していますか?こんにちは
予測モデリング プラットフォームでのブースト ツリーに関する質問:
1-「推定値」は分割端で数学的に何を表しますか? パラメータの単位変化あたりの応答の予想変化ですか (つまり、感度) ?
2- たとえば 200 レイヤーのブースト ツリー モデルを仮定すると、最終的に予測されるモデルは 200 番目、つまり最後のレイヤーのモデルと等しいか、それとも 200 モデルすべての平均ですか? ブースティングされたツリーとしてどれが前のものからの残差から学習するかはよくわかりません..したがって、おそらくそれが最後のモデルであると考える傾向がありますが、アンサンブルメソッドは誇張されたメソッドです(反論)。
3-ブーストツリーモデルで信頼区間を推定する実用的な方法はありますか? おそらく、各レイヤーの結果を取得してから分布を作成しますか?
サポートに感謝します。ありがとう。
分析Re: Boosted Trees の「見積もり」は何を表していますか?こんにちは@altug_bayram 、
1-ブーストツリーモデルの個々のツリーは前のツリーの残差（エラー）に基づいて構築されるため、推定値は、結果の平均（モデル化/予測しようとするもの）に追加する数値であると言えます。あなたがいるカテゴリ/分割について。 ツリーベースの方法は、「ステップ プロファイラー」 (スクリーンショットを参照) を提供します。ここでは、1 つの因子の値を変更すると、分割の場所に応じて応答が急激に増加する可能性があることを明確に確認できます。
2-バギングツリーベースの方法（ランダムフォレストなど）では、最終結果は個々のツリーの平均/平均結果になります。 ブースティング ツリー アルゴリズムでは、さまざまなツリーのすべての「推定値」を合計して (それに平均結果を追加して) 予測結果を得る必要があります (選択した分割の「パス」に応じて) : "ツリーは、前のレイヤーの残差に基づいて適合されます。これにより、各レイヤーは、前のレイヤーからの不適切な適合データの適合を修正できます。 観測の最終的な予測は、すべてのレイヤーにわたるその観測の予測された残差の合計です」(ソース: Boosted Tree - JMP 13 Predictive and Specialized Modeling [Book] (oreilly.com) ）。
3-これについてはわかりません。 モデルの残差を使用するか、RASE の 95% のブートストラップ間隔を構築してモデルの (二乗平均平方根) 予測誤差をより適切に評価するために、または K-モデルの RASE をより正確に推定するために、「モデル スクリーニング」プラットフォームの交差検証を折りたたみます。
この最初の回答がお役に立てば幸いです。
Re: Boosted Trees の「見積もり」は何を表していますか?ありがとうビクター。 メルシー。
