不均衡なデータと重みの分類こんにちは、
私は、非常に不均衡な元の応答を持つデータベースを持っています。主要な個人的関心のあるクラスはマイノリティクラスです(まれではあるが重度の感染症の患者、観察の約5%)。
他の元のクラスの分類は、ブーストされたフォレストツリー分類器でうまく機能しますが、これらのクラスは、私の関心ではない(重度の感染が少ない、またはまったく感染しない)。「重み」オプションを使用してマイノリティクラスにより多くの重みを与えることができるかどうか迷います。さらに、分類器が最適に機能する「重み」の最適なしきい値を計算します。不均衡なデータでは、AUC ROCは適切なパフォーマンス測定値ではないようです。 F1スコア(偽陽性および偽陰性率の測定値)は、これに適しています。
JMPでのF1スコアの自動計算を知っている人はいますか?
F1スコアを最大化するために、非常に不均衡なデータのJMP分類モデルでオプション「Weight」を微調整する方法はありますか?
この問題を解決するための他の提案がありますか?
おかげで、
ルー
再:不均衡なデータと重みの分類分類モデルの混同行列オプションをオンにすると、偽陽性/陰性率を取得できます。
正/負の分類に異なるカットオフを設定することもできます(デフォルトは0.5です)。再:不均衡なデータと重みの分類F1スコアにも興味がありますが、JMPで自動的に計算されるとは思いません。 誰かがより良いアイデアを持っていない限り、私はあなたの問題に対処するために重みを使用することを控えるだろう-私はそれが何が起こっているのか見にくくするだろうと思う。 私自身の傾向は、応答変数を2つのカテゴリに再コーディングすることです-関心のある疾患とその他すべてです。 次に、カットオフ確率を手動で微調整して(このアドインは非常に優れています)、どのカットオフ確率が関心のある疾患を特定するのに最適かを確認できます。 次に、応答変数の完全な分類に戻り、そのカットオフ確率がロバストであるかどうかを確認できます。 私にとって、試行錯誤はあなたの問題の自動解決策を探すことよりも明らかになるかもしれません(しかし、自動化された方法論があれば、それを知りたいです)。
再:不均衡なデータと重みの分類ここには、多少異なる2つの問題があると思います。1つはデータの不均衡な性質です。一部のカテゴリは他のカテゴリよりもはるかに一般的であるため、単純な誤分類率は小さな数字のカテゴリを「無視」する場合があります。もう1つの問題は、エラーの非対称性です。偽陽性と偽陰性は、結果が大きく異なる場合があります。F1がそれを助けるとは思わない-より良いモデルと確率のカットオフを変更することだけがその問題に対処できる。私は2つの問題の間の体系的な関係を認識していません(1つあるかもしれません、そしてそれは学ぶことは非常に興味深いでしょう)。再:不均衡なデータと重みの分類こんにちは、最適な分類のしきい値を定義するのに役立つ素晴らしいアドインを見つけました(以下に添付)。または、ファイル交換-JMPコミュニティWebサイトのアドインで「混同マトリックス」を検索します。
再:不均衡なデータと重みの分類最近の出版物では、不均衡なデータであっても、分類モデルの最適なパフォーマンス測定としてMatthias CorrelationCoëfficiënt(MCC)の利点を明確に説明しています。
https://www.ncbi.nlm.nih.gov/pubmed/31898477
https://www.ncbi.nlm.nih.gov/pubmed/28574989
再:不均衡なデータと重みの分類すみません、マシューズCC