パーティションモデル:実行ごとに異なる結果こんにちは、みんな!
ブートストラップフォレスト、ディシジョンツリー、ブーストツリーなどのパーティションモデルを実行しています。この問題を解決する方法についていくつかの提案をいただければ幸いです。たとえば、私は自分のデータに対してブートストラップフォレストを数回実行しましたが、検証用のRSquareは-0.2から0.8までの範囲になります。列の貢献度を見ると、変数のランクは実行ごとに大きく変わります。何が不安定な結果を引き起こしたのか(小さいデータセットが原因かどうか不明)。
これが私のデータセットの簡単な説明です。データファイルも添付します。
48回の観測、5回連続予測変数
応答変数(すなわち予測されるもの)は連続的です
誰もがこの問題を解決するのに役立つだろうアドバイスがありますか?感謝!
Shenxuan
再:パーティションモデル:実行ごとに異なる結果そう、そうです、46の観測値はこれらの方法のための小さなデータセットです。
データを理解するためにモデリングの前に予備分析を行ったことがありますか?予測子の分布と応答多変量調査(例、散布図行列)あなたは何を見つけましたか?外れ値?予測子間の共線性変換は提案されていますか?
ペナルティ回帰のような他の方法を試したことがありますか( フィットモデル > 一般化回帰 )?交差検定を使用しない限り、ランダムな割り当ては含まれません。(そしてそれを使うのであれば、線形予測子においてたった46個の観測値と10-15個の可能性のある項でK分割交差検定またはリーブワンアウト交差検定を使わなければならない。
再:パーティションモデル:実行ごとに異なる結果あなたが使用している方法について知っていますか?あなたはあなたの答えを選ぶことによって見つけるかもしれません助けて > 本 > 予測と特殊モデリング 。あなたが言及する方法に専念する章があります。
JMPガイドは予測モデリングについての教育に代わるものではありませんが、それでも価値のある有益なリソースです。
再:パーティションモデル:実行ごとに異なる結果これは問題ありません。それはあなたが使っている方法に固有のものです。それらはランダムな割り当てに依存しているので、それぞれの実行は必然的に異なります。
各実行の前にランダムシードを同じ値に設定すると、常に同じ結果が得られます。なぜ特定のサンプルは他のサンプルよりも優れているのですか