為什麼我的決策樹在同一分支中有重複的屬性?大家好。只是想知道是否有人知道為什麼決策樹(在下面的情況下)選擇噴嘴氣壓 >42.09,然後通過再次選擇和分割噴嘴氣壓而在下一個節點中出現矛盾?我的理解是,一旦屬性被分割,在後續的分支中就不應該再考慮它。我使用 10 倍交叉驗證,保留率為 30%。我假設因為我有連續數據和名義數據,JMP 使用 CART 演算法?

預測建模和機器學習回复:為什麼我的決策樹在同一個分支中有重複的屬性?@Dan_Obermiller值得慶幸的是,我不必在這方面給出實際的指導,但它讓我思考如果我看到這種連續的“雙重分裂”,我會做些什麼。
@ DiedrichSchmidt 我現在開始理解它了:如果壓力在 42 到 45 之間,那麼發生窒息的可能性很高。 如果壓力大於 45,則發生阻塞的可能性為 38%。 我掛斷了 > 42 和 > 45,這在現實世界中毫無意義。 這一切都取決於您如何讀取同一參數的拆分。 在這種情況下無需使用 ANN,因為我不打算創建模型——而只是識別重要變量、它們各自的分裂點以及對響應變量的潛在影響(通過小樹深度和最小過度擬合)。
謝謝大家的意見!回复:為什麼我的決策樹在同一個分支中有重複的屬性?你好@科姆,
對於某些值 >=42 和 >=45 的決定,仍然具有邏輯意義。 如果響應 Y >=45,它仍然同時 >=42 並滿足邏輯決策拆分。 我認為更有目的性的問題是這種額外的分裂是否有意義。 如果您使用的是保留(驗證部分)或在 Y 輸出上分層的驗證列,您應該能夠自動拆分決策樹,並且應該將樹減少到所需的最小拆分數為驗證數據取最高的 R2。 話雖這麼說,但您仍想根據您正在使用的科學確定這種拆分對於數據是否合理。
您是否正在使用決策樹來尋找預測模型? 如果是這樣,您可能想使用其他平台(如 NN 等)來執行此操作,以查看哪個模型實際上使用測試數據集預測得最好。
祝你好運!,
DS
回复:為什麼我的決策樹在同一個分支中有重複的屬性?預測變量是一個連續變量。 如果與響應存在線性關係,則可能需要對該預測變量進行多次拆分才能近似該關係。
回复:為什麼我的決策樹在同一個分支中有重複的屬性?哦,如果是二次關係呢? 你認為在那種情況下樹的分裂會是什麼樣子?
回复:為什麼我的決策樹在同一個分支中有重複的屬性?我認為只有您才能確定 42 到 45 的拆分是否具有實際意義。 但是要理解同一變量的多次拆分,假設您遇到 Y 和 X 之間的關係是線性的情況。 因此,例如,我們知道 Y=10+20*X。 在現實世界中,我們不知道這個真實模型,因此如果您將樹擬合到具有這種關係的數據,您將獲得 X 的多個拆分。 這是樹可以嘗試模仿連續線性關係的唯一方法。
回复:為什麼我的決策樹在同一個分支中有重複的屬性?嗨,迪德里希。 非常感謝您抽出時間回复。 首先,你是對的——以我寫郵件的速度,我錯誤地寫了 k-fold AND holdback。 我確實嘗試了兩者,並得到了一些相似的結果。
決策樹遵循 IF x AND y THEN z 邏輯對數據進行分類。 我明白我t 在氣壓 >=42 時進行第一次拆分,我可以接受 >=42 AND <45 現在有意義(事實上,這是我第一次看到決策樹將相同的屬性指定為 2值)。 話雖如此,>=42 AND >=45 根本沒有任何實際意義。 你同意?
基蘭
回复:為什麼我的決策樹在同一個分支中有重複的屬性?你好@科姆,
我不知道 JMP 在拆分決策樹時使用的確切算法,但是,從概念上講,它按預期工作並且沒有自相矛盾。 如果查看決策樹的其他部分,您會發現其他屬性也被多次使用。 沒有多次使用的是相同的值。
在您的示例中,在氣壓 >=42 的節點處,JMP 只是將其用作分離數據的決策點。 在下一個節點,JMP 表示對於氣壓 >=42 的所有這些實例,它會在氣壓仍然 >=42 但為(>=42 且還 <45)或它是( >=42 和 >45)。
您如何同時使用 10 折交叉驗證和 30% 的保留率。 通常,您只會使用一種類型的驗證方法。
DS