如何在執行多元迴歸之前輕鬆篩選許多因素(~200 列)中的不顯著因素。我有很多因素(~200 列)和一個回應,我有很多措施。
大多數因素之間表現出共線性,是否有一種簡單的方法可以對不相關的因素進行首次過濾?
然後在剩下的時間裡我將執行多元迴歸。
預測建模和機器學習回覆:如何在執行多元迴歸之前輕鬆篩選許多因素(約 200 列)中的非顯著因素。早安,
若要對反應變數的參數進行分類,您可以使用多種工具:
- 回歸量的篩選
- 篩選回复
這兩個工具可能不會給出相同的結果。 在這種情況下,這可能意味著模型中存在不明確的「隱藏」項:二次項、交叉項。
另一方面,如果您想要一個預測公式,您可以使用最小平方法迴歸(線性模型)。 使用此方法,您可以逐步建立模型,刪除對模型沒有影響的參數。
回覆:如何在執行多元迴歸之前輕鬆篩選許多因素(~200 列)中的不顯著因素。你好@佩皮尼昂_義大利,
如果您想強調對您的回答影響最大的因素,預測篩選 (jmp.com)平台似乎是個很好的探索第一步。
由於它基於隨機森林,因此即使存在多重共線性,它也能夠「平等」地測試每個因素/特徵。
如果您想基於最重要的預測變數建立模型並使用迴歸模型,您可能必須選擇適當的模型(受到 Lasso、Ridge 或 Elastic Net 迴歸等懲罰,或其他迴歸模型,例如偏最小二乘,... )或進行一些預處理(使用主成分分析並對主成分進行迴歸),以便在模型中正確解釋多重共線性。
您還可以使用能夠處理多重共線性且假設較少的簡單模型(例如來自平台的決策樹)分區模型 (jmp.com) )一旦選擇了預測變數。
希望這個回答對你有幫助
回覆:如何在執行多元迴歸之前輕鬆篩選許多因素(~200 列)中的不顯著因素。非常感謝你,我會嘗試你的建議。