JMPで挑戦的なブートストラップフォレストこんにちは、
私の顧客は、JMPのBootstrap Forestが、アルゴリズムの設定を変更することに対して柔軟性に欠けているという問題を抱えています。彼はそれをH2Oと比較している( http://docs.h2o.ai/h2o/latest-stable/h2o-docs/data-science/drf.html ) 添付の文書で、私はJMPの設定をそれらの設定と一致させようとしました(灰色で、黄色の設定はH2Oにのみあります)。
JMPでは変更できない(そしておそらく実装されていない)設定がいくつかあります。
- offset_column(オフセットは、モデルのトレーニング中に使用される行ごとの「バイアス値」です)
- balance_classes(クラス分布のバランスをとるために少数派クラスをオーバーサンプリングします)
- nbins(ヒストグラムを作成し、その後最良の点で分割するためのビンの数を指定します)
- stop_metric(R2とRMSE以上のもの:早期停止に使用するメトリックを指定してください)
- チェックポイント(このオプションを使用して、以前に生成されたモデルの続きとして新しいモデルを構築します)
- col_sample_rate_per_tree / level(ツリーまたはレベルごとの列サンプルレートを指定します)
- min_split_improvement(このオプションの値は、分割が行われるようにするための二乗誤差減少の最小相対改善を指定します - >過剰適合を減らすのに役立ちます)
- そしてもう少し
私は彼がこれらのオプションを持つことから何を期待するのかを尋ねました。彼はそれが著しく優れていると言います。それから私はH2Oサイトをチェックして、それが非常に特別な問題によるものであると思います、そしてそれのためにあなたは本当にすべてのそれらの調整オプションを使うことでより良い結果を得るかもしれません。
他の顧客から、ランダムフォレストモデルのための他の(より良いツール)があると言ったことを聞いたことがありますか?
そして、Chrisまたは他の開発者たちは、1つまたは他の設定を追加するのが良い選択肢だと思いますか?
ありがとう、
マーティン
日時:JMPでブートストラップの森に挑戦マーティン、
このH2Oパッケージは私にとっては初めてのものですが、Pythonやipythonノートブックでも使用できるようです。
git Hub上のこのリンクは、一度設定すれば比較的使いやすいかもしれないように見えます。
https://github.com/h2oai/h2o-3/blob/master/h2o-docs/src/product/tutorials/rf/rf.md 時間があれば、それで走れるかどうか確かめたいです。XGBoostよりも少し使いやすいかもしれません。どちらもチューニングのためのグリッド検索オプションがいくつかあります。
「H2Oは、ビッグデータに基づいて機械学習モデルを構築し、エンタープライズ環境でそれらのモデルを簡単に製品化できる、オープンソースのインメモリ、分散型、高速、およびスケーラブルな機械学習および予測分析プラットフォームです。」メインWebページでのその記述方法は、SAS Viyaの記述に使用されている言語と非常によく似ています。あなたの顧客がこれを望んでいるなら、多分彼らはJMPを凌駕しましたか?
日時:JMPでブートストラップの森に挑戦停止指標を変更する機能は、私のパッチでカップルのお客様から要求されたものです。バランスクラスは、反比例の重み付けで実現できますが、自動化されていればいいでしょう。頭を上げてくれてありがとう。日時:JMPでブートストラップの森に挑戦開発チームが見られるように、jmpbeta @ jmp.com電子メールアドレスに入れてください。また、これはランダムフォレストの特殊なサブセットになる可能性があることも指摘しておきます。彼らは著作権問題を回避するためにその「分散」ビットを単にタックしているかもしれませんが、それはまた何か違うことを示しているかもしれません。私は「条件付きツリー」と呼ばれるもう1つに出くわします。それはグラデーションブーストツリーの特別な味です...
FWIW、私が話しているデータサイエンスの大部分は、私たちが持っているものに満足しています。彼らが上記で言及したオプションのいくつかは、それらが重み付けと異なる検証戦略で扱われることができるように思えます。
M日時:JMPでブートストラップの森に挑戦これに関するもう1つのコメント:私は、より多くのチューニングオプションが設定されるべきより多くの層、より多くのトレーニングおよび活性化アルゴリズムのように、より多くの調整オプションがニューラルネットワークにとってもっと重要であると聞いた。
しかし、それはランダムフォレストについて私にとって新しいことでした。だから他の人が似たような話を聞いたことがあるなら私も興味がありました。