モデルスクリーニングで最もパフォーマンスの高いモデルとして表示された後、ブーストツリーまたは回帰問題を選択しました。
ブースト ツリーのパフォーマンスをさらに最適化するために、チューニング テーブル設計をどのように使用するか教えてください。
あなたは読んだことがありますか？チューニング テーブルの使用に関するドキュメント?
やあ@AlphaPanda86751 、
選択したアルゴリズムのハイパーパラメータを微調整して予測パフォーマンスを向上させたい場合は、チューニング テーブルが実際に役立つ場合があります。
オーバーフィッティングを防ぐために、すでに検証戦略があるかどうかお尋ねしてもよろしいですか: k-folds cross-validation、validation column、その他...? ブースト ツリーは、他のツリーベースの方法 (ブートストラップ フォレストなど) よりも過剰適合しやすい可能性があるため、パフォーマンスの最適化を試みる前に、検証戦略を修正して設定することをお勧めします。
チューニング テーブル設計を使用するには、すべての組み合わせ ("グリッド-search アプローチ")、または調査/微調整するさまざまなハイパーパラメーター要因、それぞれの値の範囲、およびモデル/複雑さを指定することにより、"カスタム設計" プラットフォームで調整テーブル設計を生成することもできます。このハイパーパラメータ空間で調査したいさまざまな組み合わせ/相互作用の。 ここで詳細情報を見つけることができます (情報は Bootstrap Forest プラットフォームからのものですが、Boosted Tree の手法は非常に似ています):ブートストラップ フォレスト プラットフォーム (jmp.com) を起動します。
カスタム デザイン プラットフォームから生成されたチューニング テーブルの例が添付されています。
次に、以前に設定した検証戦略を使用してブースト ツリー プラットフォームを起動し、JMP にチューニング テーブルを使用してさまざまなハイパーパラメータ値をテストさせることができます。
「通常の」(微調整されていない) Boosted Tree を使用した Diamonds データセットの層別検証列の結果の例を次に示します。
チューニング テーブルを使用した結果は次のとおりです。
ここでは、JMP の「デフォルト」設定とブースト ツリーの微調整バージョンの間に大きな変化はありませんが、微調整を試してパフォーマンスの変化を評価することは有益であり、興味深いことです。 検証式列を使用している場合は、ハイパーパラメータの微調整の「堅牢性」を評価することもできます (Rsquare、RASE、またはその他の評価指標を右クリックし、「シミュレート」を使用して検証列のインとアウトを切り替えます。比較で再現可能な結果を得るために、ランダム シードを設定します) :
ここでも、JMP のデフォルト設定は適切で非常に堅牢であるため、大きな違いはありませんが、自分で試すことができます。
添付されているのは、実行されたシミュレーションとグラフ スクリプトを含むデータ テーブルです。Diamond Data のデータ テーブルは、サンプル インデックスまたはここにも添付されています (検証列を作成し、ここに示されている手順を再現するため)。
これがお役に立てば幸いです。
