分區平台是否需要等方差?我有高度右偏的數據(請參閱所附的洩漏/米年分佈),大約 4,000,000 段管道上只有大約 400 個洩漏。我使用分區平台來識別我們模型中洩漏率差異的因素。但我的數據顯示變異數不相等(附有 RefService2023wLeaks - FitY by X,未通過 5 項變異數測試中的 4 項)。分區平台是否需要等方差?根據中心值定理,我可以假設這個大數據集將為平均值的顯著差異提供準確的結果(請參閱隨附的分區範例)?
謝謝
基礎資料分析與建模回覆:分區平台是否需要等方差?第一-這看起來是一個非常有趣的數據集。
分區使用的建模方法幾乎沒有假設。這是一個非常好的入門級資料探勘工具,特別是當您有大量資料需要處理時。
另請查看分析>篩選>預測因子篩選。只需輸入您的反應變數和任意數量的“X”變數即可。也許將樹的數量調整為 500 棵,只是為了好玩。
它建立了一堆樹,並為每棵樹隨機選擇了列和行,因此它對不良資料和異常值以及與您的回應非常相關的 X 具有超級穩健性。同樣,很少有假設。
回覆:分區平台是否需要等方差?為了擴展@Byron_JMP的出色回應,決策樹是一種非常簡單但功能強大的演算法。它具有多個優點,使其成為資料探勘的有效選擇:易於理解和解釋,處理分類和數值輸入和輸出,可以處理缺失值,對異常值具有穩健性,可以檢測非線性關係,並且能夠執行以下操作:特徵/預測器選擇和排名。
它不採用傳統的參數假設,但有幾點您應該關心:
- 檢查預測變數之間的多重共線性和相關性:當決策樹使用所有預測變數在資料中建立分割並選擇在Y 值中提供最佳分割的預測變數時,相關預測變數和多重共線性可能會成為問題,因為某些預測變數可能會被遺漏,並且從未考慮過,因為他們共享一些共同的資訊。
- 注意過度擬合:決策樹很容易過度擬合,因為您可以將樹擴展得很深以完美地分類或對數值資料進行回歸。建議制定驗證策略(K 折交叉驗證、留一法或驗證集,因為資料量在您的情況下似乎不是問題)並確保創建的模型不會太嚴重手頭上的任務很複雜:設定最大深度(分割數)和最小尺寸分割可以降低過度擬合的風險。
- 訓練資料樣本和代表性:由於決策樹是貪婪演算法(它們分割資料以最大化資訊增益或減少熵),因此它們對所使用的訓練資料非常敏感。資料的微小變化可能會導致決策樹提供的規則發生變化。應考慮資料代表性和噪聲,以確保避免過度擬合並確保結果的泛化。
正如@Byron_JMP所建議的,使用隨機森林(可透過 JMP Pro 的Bootstrap Forest平台或 JMP 的預測器篩選提供)通常很有趣,因為這種技術透過各種機制/技術減少了決策樹的一些缺點:創建多個決策樹在引導樣本上並行訓練獨立樹(以降低對訓練集的敏感性,確保泛化並通過“袋外”樣本結果進行檢查/驗證),每個分割僅考慮預測變量的子集(以啟用每個預測變量,甚至一些與其他相關,有相同的機會被選擇進行分割,這使得能夠擁有更多樣化的樹和具有良好泛化性能的樹的集合)。
希望這個補充性的回答能幫助你,