識別分區樹回歸的“重要變數”我正在使用 JMP 13 開發分區樹回歸分析,我有 83 個變量,我正在識別與 VIF 不共線性的變量,目的是能夠識別最具「代表性」的變量來進行分析分區樹回歸(我使用的例子是銀行收入
透過變換進行多元線性迴歸/使用 JMP Pro 建立更好的模型,第 4 章,SAS Press (2015)。 格雷森、加德納和史蒂芬斯。) 我的疑問,這可能是合適的方式嗎?或者 JMP 中有一個更具體的協定來識別這些「重要」變數以使用回歸分區樹。
回覆:識別分區樹回歸的“重要變數”我非常感謝您花時間幫助我提出建議和建議
同樣,祝一切順利!
回覆:識別分區樹回歸的“重要變數”當您無法存取 JMP Pro 時,模型生成會受到一些限制。 另一方面,您仍然可以進行 ARIMA 建模(如果適用)以及簡化的神經網路和分區樹。 另一個可能有幫助的平台是預測因子篩選,位於「分析」->「篩選」下。 這也有助於確定眾多因素中哪些因素可能很重要。
您可以嘗試的另一件事是在“擬合模型”平台中,在“個性”下選擇“逐步”。 這也將使用不同的標準來選擇哪些因素(和混合術語)是需要的,哪些是不需要的。 在這裡,很好地了解要使用哪種模型會很有幫助。 如果您有大量數據,您可以選擇所有因子,然後在「巨集」下拉按鈕下選擇響應面。 您只想確保您的自由度不會降低太多。 如果您知道存在一些控制響應的物理過程,那麼這可以作為如何產生模型方程式的開始。 您可能想要研究的最後一件事是在建模之前轉換數據,特別是如果數據不是正態分佈的。 轉換資料可以幫助建模過程實現穩健的擬合,從而具有比其他方式更好的預測能力。
就驗證列而言,我知道標準 JMP 沒有附帶 GUI 來產生它,但這裡有一些 JSL 將生成 N 個(我將其設為 5)分層的驗證列。 有些模型對驗證列敏感,即使在對特定回應進行分層時也是如此,因此測試不同的驗證列有助於評估模型的穩健性。
Names Default To Here( 1 );
dt = Current Data Table();
For( i = 1, i <= 5, i++,
dt << Make Validation Column(
Training Set( 0.6 ),
Validation Set( 0 .2),
Test Set( 0.2 ),
Stratified Random( :Group )
)
);
在上面的腳本中,i 從1 運行到5,因此它會產生5 個驗證列,其中分為60% 訓練、20% 驗證和20% 測試(您可以將值變更為最適合您的資料的值) ,它將是在您在 :Group 彈出視窗中選擇的任何列上隨機分層。 如果您不想分層,則可以將該命令替換為隨機類別公式。
JSL 是一種非常容易編寫程式碼的語言,因此如果您有時間,我強烈建議您測試一些腳本以熟悉它。 我發現在不同的資料集上執行相同的任務時它非常有用——它有助於自動化操作。 您也可以查看“幫助”選單下的“腳本索引”。
祝你好運!,
DS
回覆:識別分區樹回歸的“重要變數”感謝您的建議,他們向我澄清了很多問題,我會在這方面進行工作。 儘管我能夠使用和開發(例如模型之間的一些比較)的限制之一是我不在 JMP PRO 版本中工作。 然而,我能夠確定這個選項:JMP to R Add-In Builder,我知道它可以幫助我使用其他演算法來開發分析,正如它所建議的那樣;我指出的最後一個,是因為我是一個非編碼員 >.<
謝謝!
回覆:識別分區樹回歸的“重要變數”我不是專家,但我也讀過那本書(順便說一句,我喜歡其中的範例和練習)。 後面的章節中有一些很好的例子,可能也適用於您的特定情況。
VIF 當然是一種確定模型中哪些變數被過度強調的方法。 檢查決策樹結果的列貢獻也非常有幫助。 另一種方法可能是使用主成分分析 (PCA),它可以幫助將最重要的變數分組在一起,並將它們用作對反應進行建模的 PC。引導森林平台應該能夠防止過度擬合,因為它是隨機的反應和因素。 引導森林和提升樹都應該「踢出」無用的因素,因為它不會沿著這些因素分裂,並且它們的貢獻將下降到非常低的值。
如果您有足夠的資料來建立包含訓練、驗證和測試資料的驗證列,這將有助於大幅簡化您的模型。 驗證部分有助於從群組中選擇最簡約的模型,而測試資料則用於查看模型與「盲」資料的配合情況。 需要注意的是,您可能需要考慮是否應該分層、隨機或以其他方式選擇。 這可以部分(或很大程度上)基於您的建模回應。 它是連續的還是二進制的等?
最後,比較幾種不同的模型(模型比較平台),例如神經網路、分區、boostrap 森林、boosted 樹或廣義回歸也將有助於選擇最適合您的資料的模型。 請務必僅在「測試」資料上比較您的模型,或在透過隱藏和排除手動阻止的任何資料上比較您的模型(即您不想在訓練資料上進行測試)。
我不確定是否有一個“標準化”方法來確定這一點,但從幾個不同的角度解決問題肯定有助於了解重疊最多的地方,並幫助您決定確定“代表性”變數。
希望這可以幫助!,
DS