分類樹早安,
我有一個小文件(請參閱附件),以便更好地了解 JMP 的計算方式。
這棵樹很小,我將節點的最小大小設為 1,我逐一執行了劃分,並要求顯示機率。
現在,我關注的是節點“X1>=14”,如果我理解正確的話:
- G²(3.82) 表徵了該紐結的純度,並且與它下面的「最佳」劃分無關。
- Logworth (1.05) 是使用旁邊顯示的 G^2 計算出來的。
- Logworth 取決於「最佳」劃分,如下所示;它是根據從所有可能的劃分中獲得的調整後的 p 值計算得出的。
第 2 點和第 3 點似乎不相容。
JMP 的學習機器人這次卻卡住了,它看到了 2 種可能但相互矛盾的解釋。
那麼,這個 1.05 是從哪裡來的,我們又該如何解釋它呢?
感謝您的回覆。
讓-呂克
預測建模和機器學習回覆:分類樹你好@rugolf ,
我認為人們對 G2 和 Logworth 這兩個指標的定義和使用有混淆。
如JMP 說明文件中所述,JMP 中的決策樹使用 Logworth 值作為決策標準來確定分割點的位置(目標是最大化 Logworth 值),這對應於 -log10(p 值)。此 p 值經過調整計算,具體調整方法在說明文件中未詳細說明,以確保在具有多個或較少水平的因子之間進行公平公正的計算。
G2 值僅針對分類反應變數顯示,G2 值越低表示擬合效果越好。對於連續響應變量,每個節點都會顯示標準差以及候選 SS 值(最佳分割的平方和)。
我希望這個回答能讓大家更了解這個平台是如何運作的。
回覆:分類樹謝謝,
如果我理解正確,對於包含 A 和 B 兩個類別的分類回應:
- G² 值衡量節點的純度(也稱為偏差):如果只有 A 或只有 B,則 G² 值為 0,則類別不平衡,但節點不再進一步劃分。
- 如果班級數量相等(A 班和 B 班人數相等),則 G^2 的最大值(我認為等於 n * 2ln(2))
- G^2 隨著每次除法而減小,而 R^2 增大;這是朝著正確的方向發展,也是我們所希望的。
- 我們可以計算除法後的改進(增益)G^2(父)-(G^2(左)+G^2(右))
- 最佳切割方案是能夠帶來最大改進的方案,即能夠最顯著地降低先前 G^2 值的方案。
- logworth = -log(p值),其中p值與檢定相關並已調整(我將省略計算,沒什麼大不了的)。
- G^2 旁邊顯示的對數值指的是它下面顯示的最佳分割。
- 檢驗的假設是 H_0:左側和右側 A 的比例相同 vs. 不相同
- 極端情況:當子節點中 A(和 B)的比例相同時,p 值 = 1,因此對數效用 = 0,檢定結束時保留原假設 H_0。
- 在極端情況下:當子節點中 A 的比例差異很大時,p 值等於 0,因此對數效用值等於無限大,檢定結束時保留備擇假設 H_1。
- p 值 <0.01,因此對數效能 >2,因此 A(或 B)的比例有顯著差異,具有顯著的鑑別力。
- 因此,最佳切割方式也是木材利用價值最高的切割方式。
- 當 G^2 為零、達到最小尺寸或 R^2 不再顯著增加時,樹木停止生長。
感謝您的協助。
橄欖球或讓-呂克
回覆:分類樹你好,Jean-Luc,
關於各個部分:
希望這個回答能解釋清楚分區平台的運作原理。
回覆:分類樹你好,維克多,
非常感謝您的慷慨回應。
我看得出我站在「正確」的一邊。
否則,選擇小檔案是有意為之:我這樣做是為了清楚地看到軟體的計算過程,例如,對於簡單的線性迴歸。我還有其他更大、更貼近實際應用的文件。
再次感謝。
最好的祝愿。
讓-呂克