モデルの組み合わせ今年のDiscoverySummit Americasから1つのことを学んだとしたら、それはアンサンブルモデルを平均化および/または作成することがどれほど一般的であるかということでした。 だから私はそれをすることにしました。 アンサンブルモデルの作成は簡単です。モデルを予測式として保存し、それを次のモデルスクリーニングのラウンドの予測子として単純に含めました(JMP Pro 16のモデル画面を使用)。 より単純に見えるモデルの平均化は、私を混乱させます。 気に入ったモデルを2つ見つけて、両方を予測式としてデータテーブルに保存し、それらを組み合わせた新しい列を作成すると、確率が組み合わされているように見えますが、式は私が使用する構文ではありません。新しいデータに適用できます(確率の平均のみが表示されます)。 両方のモデルをFormulaDepotに公開すると、その方法で簡単に平均化できるので、これが現在の回避策ですが、テーブル自体で平均化することもできませんか? 問題は、予測式には式と確率があるため、それらを組み合わせると、実際に式自体を平均したいときに、確率だけが平均化されるということだと思います。 その平均化された数式を新しいデータテーブルにコピーして新しいデータでテストできるように、両方を平均化できますか? そうでない場合、Formula Depotはこれを行うように設計されているため、大したことではありません。 いくつかのオプションが欲しいだけです! たぶん、列の情報セルに数式だけが残っている確率部分を削除するだけですか?
分析Re:モデルの組み合わせあなたの説明から、確率(連続)ではなく予測(離散)を平均したいように思えます。私はそれがそのように行われるのを見たことがありません。モデルからの予測がどれほど堅牢であるかを確認するために設計された手法、共形予測があります。ただし、説明する内容は次のようになります。予測するクラスが2つあり、それらを連続0と1としてコーディングするとします。3つのモデルがあるとします。2つは特定のケースで0を予測し、1つは1を予測します。 。次に、「平均化」すると、1/3の結果が生成されます。これは、1を取得する確率と見なすと思います。興味深いアイデアですが、そのようなアプローチの統計的根拠がわかりません。また、それは二項分類に制限されるようです(それは制限にすぎませんが)。他にどのような反応が得られるのか興味があります。
Re:モデルの組み合わせやあ@abmayfield 、
あなたの話が好きで、オンデマンドでそれを見る必要がありましたが、ライブ視聴とQ&Aにそれをすることができませんでした。
通常、典型的な回帰式(数値)を実行している場合は、予測列を平均化できます。 あなたは単に2つの平均を取るでしょう。 ただし、カテゴリ値yesまたはno(または多分)を使用しているため、数値X入力をロジスティック関数に変換して確率を検出し、結果をIfMax( ) 関数。
ビッグクラスファイルを例にとってみましょう。 :heightと:weightを使用して:sexを予測しようとすると、ロジスティック出力関数が得られます。私の例では、sex = Mを予測しようとしています。 Prob [M]とProb [F]を決定するために使用される中間関数があります。 一次関数はまさにそれであり、Lin [M] = a + b *:height + c *:weightのようなものです。ここで、a、b、およびcはちょうど適合係数です。 確率を取得するために、JMPはProb [M]に変換1 /(1_exp(-Lin [M]))を使用し、Prob [F]に1 /(1 + exp(Lin [M]))を使用します。これは1-です。確率[M]。 最も可能性の高い結果はMaxIf(Prob [M] => M、Prob [F] => F)であり、Prob [y]の大きい方が最も可能性の高い結果MまたはFです。
あなたの場合、カテゴリーの結果を扱う場合、それを確率に変換するために、Lin [Y]関数を平均化する必要があると思います。 これは、確率関数ではなく、データに適合する線形関数であるため、線形関数を変換する前に平均化する必要があります。
結果を連続応答に変更できる場合、予測式の単純な平均は簡単です。 モデリングタイプが名義または順序である限り、JMPはそれを離散レベルとして扱い、毎回ロジスティックモデリングを実行します。
おそらく連続スケールを使用しなければならなかった1つのアイデアは、特定の領域内のブリーチの割合を表すことです。 100 cm ^ 2(10cmx10cmのパッチ)のサンゴを評価し、約2cmX3cm(または6cm ^ 2)が白化したと判断した場合、白化率は60%になります。 このようにすることで、サンゴの標本がどれだけ白化したかをより正確に表すことができ、回帰と分類でモデル化できる連続応答が得られます。
お役に立てれば!、
DS
PS ディスカバリーサミットは素晴らしかった。 私はたくさんの話が好きだった。 また、ユーザー入力に基づいてチューニングテーブルを自動的に生成するようにGUIを更新しています。 新しいバージョンの準備ができたらお知らせします。 実行したい実行回数で空間充填設計を生成することにより、プロセスをさらに自動化するのに役立つはずです。
Re:モデルの組み合わせはい! いつものように、カテゴリ変数を予測しようとする奇妙な性質については正しいと思います。この場合、2つの方程式が効果的に必要になり、それによって物事が難しくなります。 私がやりたいのは、最終的に、1-10、1-5、または1-100のいずれかの真の勾配を持つのに十分なサンプルサイズを確保することです。考え方は同じです。1=ひどい、最大数=大きい。 この場合でも、私は2つのカテゴリー(漂白剤耐性と漂白剤感受性)または3つ(前者の2つ+「中級」)のいずれかを持っています。 感受性、中程度、耐性のそれぞれについて、それらを1、50、100として再コーディングしてみて、どのような結果が得られるかを確認するかもしれません。 取得して分析するサンプルが多いほど、Yを連続変数にするほうが理にかなっていると思います。 私が今遊んでいる20のサンプルでは、基本的に2〜3ビンを超えるのに十分なデータがありません。 しかし、これは、カテゴリ分類を連続変数に再コード化したときに、モデルが非常に異なって見えるかどうかを確認するのに興味深いでしょう。 それは確かにすべてのモデル構築をよりシームレスにするでしょう。 そして実際には、それは「健康」対「病気」ほど単純ではありません。私は、人間に見られるような健康スペクトルにまたがる勾配(たとえば、JMP糖尿病データセットに見られるもの)を取得することを期待しています。 ただし、この演習の面白い点は、確率スコアに関して、私が実際にこれらをあまり見たことがないことです。私は直接JMPの「推測」に行きました。 しかし、実際の確率を見るのは非常に興味深いことです。それが最終的に私が報告したいことだからです。サンゴAは95%の確率で白化する可能性があります。 したがって、このモデルの平均化の演習を通じて、以前は完全に見逃していたいくつかのクールなニュアンスを誤って拾いました! また、前に述べたように、当面はカテゴリの応答に「行き詰まっている」場合でも、FormulaDepotのモデル平均化機能はこれに適しています。
GUIのおかげで、最近提出した論文(基本的にフェーズ1 =ラボ実験について説明しています)には、20,000を超えるニューラルネットワークモデル(21,450ですが、誰が数えていますか?!)があることを知って幸せです。 明らかに、すべての品質管理に合格したのはほんの一握りであり、テキストで詳細に説明されているものはさらに少ないですが、どのNNパラメーターが私が調整するのに本質的に最も重要であるかを確認することは非常に役に立ちました。 また、最も単純で(潜在的に)最も節約的なモデルを構築したいので、1つのNNに2つの隠れ層があり、それぞれに3つのアクティブ化ノードがあるのに対し、2番目のモデルにはNTANH(3)を持つ1つの層があり、他のすべてが等しい場合、I後者を選択しますが、最も単純なものでもかなり複雑なので、これはそれほど重要ではないと思います。 今年Discoveryで学ぼうとしたことの1つは、Chris Gotwaltのおかげで、NN Profilerの可変重要度メトリックを使用して、モデルに最も影響を与えた分析物を本質的に示すことができるかどうかです。 以前のルールでは、NNはブラックボックスであり、どの応答変数が最も重要であるかを判断するには複雑すぎますが、これが完全に真実ではないことを嬉しく思います。 彼らは解釈するのが難しいですか? はい。 あるタンパク質の振る舞いは、モデルの予測力に応じて、特定の簡単に定義できる方法でスケーリングすると言えますか? そうでないかもしれない。 しかし、分子生物学者が私に「あなたの最高のNNモデルで最も重要なサンゴタンパク質はどれか」と尋ねた場合、私は少なくともNNプロファイラーの可変重要性機能からいくつかをリストアップすることができました。 これが、私が講演でgen-regモデルについて議論することを選択した理由です。 NN(!)のプロファイラーを「信頼」できるかどうかはわかりませんでしたが、今では信頼できることがわかりました。 とにかく、これがモデリングの初心者として、私がこの種のシンポジウムから多くの恩恵を受けている理由です。 よく考えられた対応と一般的なすべてのご協力に改めて感謝いたします。