套索奇點細節我將套索應用於具有幾個奇點問題的設計矩陣。有幾列是其他列的線性組合。我在兩種情況下運行套索。第一個我只是讓套索代表奇點。第二種情況是我刪除了生成奇點的兩列。模型有點不同。發生的另一件事是,當我使用完整的列等級矩陣啟動套索時,它會自動執行邏輯回歸,我必須執行額外的步驟才能使其執行套索。如果奇點很明顯,是否有通用協議來消除奇點?
回复:套索奇點細節謝謝馬克,
設計矩陣作為項目的一部分作為一組黑盒特徵提供,我們應該從中查看是否可以使用某種機器學習來預測二元響應。X 的列是收集的所有數據的數據轉儲,並以非常複雜的方式用於生成響應,並且列具有非常複雜的相關結構。 在某些情況下,這些列要么是冗餘的,要么與其他列具有完美的共線性。所以就你的觀點而言,我絕不會故意添加它們。然而,我想人們通常會被交給廣泛的設計矩陣,而只是讓套索來處理共線性。我更喜歡調查和消除明顯的冗餘,並帶來額外的好處,即我至少可以將香草邏輯回歸作為機器學習選擇之一。順便說一句,我現在有了 JMP Pro,它很棒!
回复:套索奇點細節為什麼要輸入一個已知是模型中使用的其他變量的線性組合的變量?您希望模型相同嗎?
您的響應變量的建模類型是什麼? 如果它是分類的,那麼 JMP 會嘗試提供幫助並選擇邏輯回歸。 但是正如您發現的那樣,您可以覆蓋該行為。