958734_ja-JP

liliconcom

分類木

おはよう、

JMPが何を計算しているのかをよりよく理解するために、小さなファイルを用意しました（添付ファイルを参照）。

ツリーはかなり小さいので、ノードの最小サイズを1に設定し、分割を1つずつ実行し、確率を表示するように要求しました。

さて、私は「X1>=14」というノードに注目していますが、私の理解が正しければ、次のようになります。

1. G^2 (3.82) はこの結び目の不純さを表し、その下にある「最良」の分割とは無関係である。
2. ログワース（1.05）は、すぐ隣に表示されているG^2を使用して計算されます。
3. ログワース値は、すぐ下に表示されている「最適な」分割に依存します。これは、考えられるすべての分割から得られた調整済みp値に基づいて計算されます。

2点目と3点目は矛盾しているように思われる。

JMPの学習ボットは、珍しく処理が停止し、互いに矛盾する2つの解釈の可能性を認識した。

では、この1.05という数値はどこから来たのでしょうか？そして、どのように解釈すればよいのでしょうか？

ご回答ありがとうございます。

ジャン＝リュック

予測モデリングと機械学習Re: 分類ツリー

こんにちは、 @rugolf さん、

G2とLogworthという2つの指標の定義と使用法に関して、混乱が生じているように思います。
JMPのヘルプドキュメントに記載されているように、JMPの決定木は、分割を実行する場所を決定するための決定基準としてLogworth値を使用します（Logworth値を最大化することを目標としています）。これは-log10(p値)に相当します。このp値は、ヘルプドキュメントには詳しく記載されていない調整によって計算されます。この調整により、レベル数が多い因子と少ない因子の間で、公平かつ平等な計算が保証されます。

G2はカテゴリカルな回答に対してのみ表示され、G2の値が低いほど適合度が高いことを示します。連続的な回答の場合は、各ノードの標準偏差と、最適な分割における平方和（Candidate SS）が表示されます。

この回答が、このプラットフォームの仕組みを理解する一助となれば幸いです。

Re: 分類ツリー

ありがとう、

私の理解が正しければ、カテゴリAとカテゴリBの2つのカテゴリを持つカテゴリ別回答の場合：

1. G²はノードの不純度（逸脱度とも呼ばれる）を測定します。Aのみ、またはBのみ、不均衡なクラスだがこのノードからのさらなる分割がない場合、G²は0になります。
2. クラスのバランスが取れている場合（AとBの人数が同じ場合）、G^2の最大値（n * 2ln(2)に等しいと思います）
3. G^2は分割ごとに減少し、R^2は増加します。これは正しい方向に向かっており、我々が望む結果です。
4. 除算 G^2(親)-(G^2(左)+G^2(右)) の後の改善（利得）を計算できます。
5. 最適なカットとは、最も大きな改善をもたらすカット、つまり以前のG^2値を最も大幅に減少させるカットのことです。
6. logworth = -log(p値) ここでp値は検定に関連付けられ、調整済みです（計算は省略します、大したことではありません）
7. G^2の横に表示されているlogworthは、そのすぐ下に表示されている最良除法に対応しています。
8. 検定は H_0: 左側と右側で A の割合は同じである vs ....は同じではない、です。
9. 極端なケース：子ノードにA（とB）の割合が同じ場合、p値=1となり、したがってlogworth=0となり、検定終了時にH_0が維持される。
10. 極端なケースでは、子ノードにおけるAの割合が大きく異なる場合、p値=0となり、したがってlogworth=無限大となり、テスト終了時にH_1が保持される。
11. p値<0.01、したがってlogworth>2、したがってA（またはB）の割合に有意差があり、有意な識別が可能である
12. したがって、最も優れた伐採材は、同時に最も高い木材価値を持つ伐採材でもある。
13. 木の成長は、G^2がゼロになったとき、最小サイズに達したとき、またはR^2がそれ以上大きく増加しなくなったときに停止します。

助けてくれてありがとう。

ルゴルフまたはジャン＝リュック

Re: 分類ツリー

こんにちは、ジャン＝リュックさん。

各部分について：

• はい、G2はジニ不純度やエントロピーなどの他の基準と同等です。G2はエントロピーの自然対数の2倍に相当します。したがって、「純粋な」ノード（完全な分離）が得られるような分離が見つかれば、G2はゼロ（エントロピーゼロ）になります。
• 分割を重ねるごとに、因子を用いて観測値を分類する精度が向上するため、G2の値は減少します。
• G2の改善点は計算され、ノード情報（ 候補G2 ）に表示されます。
• ログワース検定に関しては、確かにp値が計算されますが、これは最適な分割を選択する際の目安としてのみ使用されます。このp値の背後にある検定は、あなたが言及した仮説に対応しています。H0：両方のノードでAとBの割合は等しい、H1：2つのノードでAとBの割合は異なる。
• 最初の回答で述べたように、最適な分割とは、ログワース値が最も高い分割のことです。
• ツリーの停止基準は、分割の最小サイズ（オプションで調整可能な最小分割サイズ）、ツリーの深さの選択、R2の値/変化（検証サンプルを使用して、R2が検証サンプル上で変化しなくなる/ほとんど変化しなくなる時点を特定することも可能）などに関連しています。
  分割回数に応じたR²の推移は、「分割履歴」で確認できます。
  
• 些細なことですが、共有データセットでは、最適な分割はX1 > または < 10 (14よりもLogworth値が大きい) のあたりにあるようです。
  

  X1の値が14の場合、分離は最適ではなく、LogworthやG2であなたが言及した値は見つかりません。

  
• さらに、要因X1とX2は非常に強い相関関係にあるため（相関係数 > 0.99）、決定木は最も適切な方法ではない可能性があります。なぜなら、2つの変数のうち一方が他方に比べて必然的に無視されてしまうからです。この相関関係を考慮に入れた方法の方がより適切でしょう。
  • ペナルティ付きロジスティック回帰モデル（リッジ回帰またはラッソ回帰。両方の因子に同じ情報が含まれているため）を使用するか、Fit Y by Xプラットフォームを使用して1つの因子（X1またはX2）を持つ単純なロジスティックモデルを使用するかのいずれかです。
    
  • ランダムフォレスト（JMPのブートストラップフォレストプラットフォーム）などの、要因間の相関関係や共線性を管理できるツリーベースの手法を選択するか、その他の機械学習モデル（サポートベクターマシン）を選択します。
    
    JMPには、特定のプラットフォームの動作を学習・理解するのに役立つデータセットが用意されています。「ヘルプ」メニューと「サンプルインデックス」メニューからアクセスできます。「探索的モデリング」サブメニューには、パーティションプラットフォームに関連するデータセットがいくつか用意されています。例えば、自動車調査、シリアル、ダイヤモンドデータ、キノコ、タイタニック号乗客などです。
    
    

この回答で、パーティションプラットフォームの仕組みが明確になれば幸いです。

Re: 分類ツリー

こんにちは、ビクターさん。

この度は温かいご対応をいただき、誠にありがとうございます。

私は自分が「正しい」側にいると確信しています。

それ以外の場合、小さなファイルを選んだのは意図的なものです。例えば、単純な線形回帰の場合、ソフトウェアがどのような計算結果を出すのかを明確に把握するためです。他に、より大きく、より現実的なファイルも用意しています。

改めてありがとうございました。

幸運をお祈りしています。

ジャン＝リュック