JMP 中的特徵選擇你好
我知道在 JMP Pro 中用於特徵選擇(我對未來的提取不感興趣...)有廣義回歸模組。 您知道JMP(標準版)中是否也有類似的模組嗎? 如果不是,與 JMP12/13 一起使用哪種最佳方法可以減少預測變數的數量,只留下最重要的預測變數?
謝謝菲利斯
回覆:JMP 中的特徵選擇JMP 將告訴您哪個變數最能代表聚類。 它還將確定要使用的正確集群數量。
回覆:JMP 中的特徵選擇喬丹
我們非常歡迎您的評論,而且非常有幫助。 關於聚類的最後一個問題。
這將是一種類似於主成分分析的方法,但您無需查看加載圖來查看相似的變量,JMP 會自動為您對它們進行聚類。 然後,您可以選擇最能代表群集的變量,甚至可以為群集建立「典型」變數。 這將幫助您避免經常在許多變數中看到的「冗餘資訊」。
一旦我有 n 個簇(關於如何選擇這個數字的大小的一些規則..),我如何識別每個簇最具代表性的變數?
謝謝。菲利斯
回覆:JMP 中的特徵選擇
我對你問題的回答是藍色的。
@FR60寫道:
喬丹
非常感謝您的留言。
我有一些評論要做......
您可以只使用逐步回歸(經典)。
它可以操縱超過 1K 個預測變數嗎?
是的。 如果您的機器上有足夠的記憶體來處理大型問題。 我剛剛運行了一個包含 10,000 個觀測值和 2,000 個預測變數的簡單範例。 循序漸進效果很好。
您可以使用變數聚類。
您能給我提供有關如何透過聚類選擇重要預測變數的技術的更多詳細資訊嗎?
這將是一種類似於主成分分析的方法,但您無需查看加載圖來查看相似的變量,JMP 會自動為您對它們進行聚類。 然後,您可以選擇最能代表群集的變量,甚至可以為群集建立「典型」變數。 這將幫助您避免經常在許多變數中看到的「冗餘資訊」。
你可以使用分區。
通常,在我們的 Fab 中,我們在刪除不重要的預測變量後使用它(讓我們考慮一下,通常我們有超過數千個預測變量,並且數據中有很多噪音...)
使用分區的方法有很多種,但請考慮第一個分區。 此方法需要確定哪個分割包含最多資訊。 這就是一個變數選擇。 您還可以使用迪克·德沃克斯 (Dick DeVeaux) 稱之為“搖動樹”的技巧。 拆分很多很多次,然後查看變數的列貢獻以確定最重要的變數。 使用這個靈活平台的方式有很多!
您可以使用 PCR(主成分回歸)。
我們知道這一點,但我們失去了有關預測變數含義的信息,因此我們寧願不使用它。
明白了。 由於這個原因,我不太喜歡 PCR。 但是,透過僅查看重要主成分的變數負荷,您可以識別重要的原始變數。 使用這些重要的原始變數開始建立模型。 沒有任何內容表明您必須堅持主要組成部分。
有基於圖形的方法:常態圖、帕累托圖、貝葉斯圖。
我不知道如何用圖表進行特徵選擇。 對不起。
沒什麼好遺憾的。 這就是我們創建該類別的原因。 人們常常不知道這些工具。
目前正在創建一門名為「JMP 軟體:尋找重要預測變數」的新課程,該課程使用 JMP 和 JMP Pro 來解決此問題並涵蓋這些技術。 這兩天的課程可能會從四月開始在客戶所在地提供。
這是一個好消息。 我希望義大利也能做到這一點。 如果是的話我肯定會跟隨他們。
我們在美國 SAS 創建的所有課程也可供國際 SAS 辦公室使用。 如果他們沒有了解該主題的講師,他們可以從另一個地區要求具有該技能的講師。 只需向您當地的 SAS 辦公室詢問培訓即可!
參考值。菲利斯
我希望我的評論對您有所幫助。
擔
回覆:JMP 中的特徵選擇喬丹
非常感謝您的留言。
我有一些評論要做......
您可以只使用逐步回歸(經典)。
它可以操縱超過 1K 個預測變數嗎?
您可以使用變數聚類。
您能給我提供有關如何透過聚類選擇重要預測變數的技術的更多詳細資訊嗎?
你可以使用分區。
通常,在我們的 Fab 中,我們在刪除不重要的預測變量後使用它(讓我們考慮一下,通常我們有超過數千個預測變量,並且數據中有很多噪音...)
您可以使用 PCR(主成分回歸)。
我們知道這一點,但我們失去了有關預測變數含義的信息,因此我們寧願不使用它。
有基於圖形的方法:常態圖、帕累托圖、貝葉斯圖。
我不知道如何用圖表進行特徵選擇。 對不起。
目前正在創建一門名為「JMP 軟體:尋找重要預測變數」的新課程,該課程使用 JMP 和 JMP Pro 來解決此問題並涵蓋這些技術。 這兩天的課程可能會從四月開始在客戶所在地提供。
這是一個好消息。 我希望義大利也能做到這一點。 如果是的話我肯定會跟隨他們。
參考值。菲利斯
回覆:JMP 中的特徵選擇偉大的
我用過。 很不錯。
菲利斯
回覆:JMP 中的特徵選擇除了上面我的同事提出的所有很好的建議之外,如果您的變數數量相對較少,我還會查看多元方法 -> 多元 -> 散點圖矩陣平台。 這將為您提供一個很好的變數之間可能存在的成對相關性矩陣,這對於嘗試發現預測變數集中可能存在的相關性非常有價值。 這些相關性不適用於某些迴歸程序,例如普通最小平方法迴歸(在 JMP 中稱為標準最小平方法)。 如果您沿著標準最小二乘路徑走,請確保檢查參數估計表中的變異數膨脹因子,以了解可能存在的預測變數相關性的指示。
回覆:JMP 中的特徵選擇您從先前的回覆中得到了一些不錯的選擇(我將重複其中一些),但還有其他選擇。
您可以只使用逐步回歸(經典)。 您可以使用所有子集迴歸。 您可以使用變數聚類。 你可以使用分區。 你可以使用PLS。 您可以使用 PCR(主成分回歸)。 有基於圖形的方法:常態圖、帕累托圖、貝葉斯圖。 您可以使用預測篩選等。
目前正在創建一門名為「JMP 軟體:尋找重要預測變數」的新課程,該課程使用 JMP 和 JMP Pro 來解決此問題並涵蓋這些技術。 這兩天的課程可能會從四月開始在客戶所在地提供。 該課程將於今年 10 月在聖路易斯舉行的 Discovery 會議上首次作為公開課程提供。
回覆:JMP 中的特徵選擇嗨菲利斯,
JMP 中還有一種稱為「預測因子篩選」的功能。 這是有關該選項的連結。
http://www.jmp.com/support/help/13/Predictor_Screening.shtml
這有助於減少可能的預測變數的數量,並且已在 JMP 中提供。
回覆:JMP 中的特徵選擇你好菲利斯,
常規 JMP 本身不存在廣義迴歸。 不過,您確實有一些選擇。 如果您有高度相關的因素/輸入,您可以使用偏最小二乘法或主成分分析。 另一種選擇是使用分區分析/決策樹。 請務必使用保留集來檢查您建立的任何模型的預測能力。 對於分區分析,請查看頂部的紅色熱點下方,然後選擇「列貢獻」以查看哪些因素最重要。
希望這可以幫助。
帳單