予測子スクリーニングJMPブートストラップフォレストでの予測子スクリーニングには使用されます。これは非常にうまく機能しますが、なぜこの方法が選択され、非常に強力な方法でもあるブーストされたツリーではないのですか？ JMPはXGboostedを使用しますか？
分析Re：予測子スクリーニングこんにちは@frankderuyck 、
私はJMPが実際にバックエンドで物事を実行する方法（実行される正確なコーディング）の専門家ではありませんが、ブートストラップフォレストには2つのランダム化レイヤーがあるため、ブートストラップフォレストが使用されていると思います。1つはランダムにサブセットを選択します。要因。 たとえば、10の要因のどれがその予測に最も貢献するかを予測してテストする列がある場合、ブートストラップフォレストアプローチはサブセット（たとえば10のうち6）をランダムに選択し、決定木を使用して結果を最もよく予測します。次に、それらの寄与に基づいて要因をランク付けします。 もう1つのランダム化は、ブートストラップフォレストがモデルに合うように特定の数の行をランダムに選択し、残りを検証（または単純化）することです。これは、各反復でランダムに選択および置換されます。 ブーストされたツリーはデフォルトではこれを行わないというのが私の理解です。
最後の質問については、JMPWebサイトからJMPPro用のXGBoostアドインをダウンロードできます。 JMP Pro14以降で動作すると思います。
ちなみに、JMP Proを使用しているように思われるため、GenRegプラットフォームを実行し、さまざまな予測アルゴリズム（Lasso、Elastic Netなど）を使用してモデル係数の推定値を確認し、ブートストラップシミュレーションを実行することをお勧めします。そこにも。 時々あなたは異なる答えを得る、そしてこれは境界要因が本当に重要であるかどうかを決定するのを助けることができる。 モデルに最適な予測子セットを見つける必要がある場合は、両方のアプローチを行うことがよくあります。
お役に立てれば！、
DS
Re：予測子スクリーニングこの延長された答えをありがとう！
はい、ブートストラップとブーストの両方を実行することは、多くの候補から予測子を選択するための良いアイデアだと思います。
分類応答にはブートストラップフォレストが好ましいと言っているのは正しいですか？
XGboostedメソッドはjmpproで使用されるメソッドよりも優れていますか？
Re：予測因子スクリーニング使用しているJMPのバージョンはわかりませんが、16 JMP Proを使用している場合は、さまざまなモデリングプラットフォームを比較できます。
https://www.jmp.com/support/help/en/16.0/#page/jmp/launch-the-model-screening-platform.shtml?os=mac&source=application&utm_source=helpmenu&utm_medium=application#ww267915
これはあなたに役立つかもしれません。
Re：予測因子スクリーニングPredictor Screeningプラットフォームは、指定する調整パラメーターの数が最小限（現在は1つだけ：Number Trees）のブートストラップフォレストプラットフォームであり、列の寄与レポートのみを提供します。 魔法は、PredictorScreeningプラットフォームが残りのチューニングパラメータのデフォルト値を決定したことです。 この設定は、有用な予測子を見つけるのに役立ちます。
最小限の数の調整パラメーター、たとえば1つのパラメーターを使用して、同じ目的でブーストされたツリーを適用する場合、これは非常に困難な作業です。 たとえば、ブースティングされたツリーは、検証方法の選択と使用法にランダムフォレストよりもはるかに大きく依存しており、検証方法の選択自体が芸術です。
予測子スクリーニングプラットフォームは、有用な予測子を見つけるという目的を果たします。 これは、BootstrapForecastに代わるものではありません。 Predictor Screeningを使用するだけでは、最終的なモデルはランダムフォレストモデルにはなりません。 Predictor Screenで見つかった予測子を使用して、他のモデルを使用することを決定する可能性があります。 最終モデルで組み込みの変数選択メソッドを使用するのではなく、予測子スクリーニングを使用して有用な予測子を見つけることの利点は、メソッドがパラメトリック仮定に依存しないことです。
ランダムフォレストとブーストツリーの間で、応答変数のタイプに基づいてそれらのパフォーマンスを結論付ける研究に出くわしたことはありません。
Boosted Treeは、勾配ブースティングメソッドの実装です。 XGBoostもそうです。 また、LightGBMなどの他の実装も同様です。 それらの比較はかなり複雑で、おそらく主観的なものになる可能性があります。 しかし、長所と短所を理解するためにさまざまなツールで遊ぶことは常にエキサイティングです。
