預測因子篩選使用 JMP bootstrap 森林中的預測因子篩選；這非常有效，但是為什麼選擇這種方法而不是增強樹（這也是一種非常強大的方法）？ JMP 是否使用 XGboosted？
預測建模和機器學習回复：預測因子篩選Predictor Screening 平台是 Bootstrap Forest 平台，具有最少數量（現在只有一種：數樹）的調整參數來指定，並且僅提供列貢獻報告。 神奇的是 Predictor Screening 平台已經決定了其餘調整參數的默認值。 該設置非常適合尋找有用的預測變量。
如果想要以最少數量的調整參數（例如一個參數）將提升樹應用於相同目的，那是一項非常困難的任務。 例如，提升樹比隨機森林更依賴於驗證方法的選擇和使用，而驗證方法的選擇本身就是一門藝術。
預測因子篩選平台的目的是尋找有用的預測因子。 它不是 Bootstrap Forecast 的替代品。 如果您僅使用預測篩選，您的最終模型將不會是隨機森林模型。 您可能會決定使用使用 Predictor Screen 找到的預測變量的其他模型。 使用預測器篩選來查找有用的預測器（而不是在最終模型中使用內置變量選擇方法）的好處是該方法不依賴於任何參數假設。
在隨機森林和增強樹之間，我還沒有遇到過任何根據響應變量的類型得出其性能的研究。
Boosted Tree 是梯度提升方法的一種實現。 XGBoost 也是如此。 其他實現也是如此，例如 LightGBM。 他們的比較可能相當複雜，而且可能也很主觀。 但使用不同的工具來了解它們的優缺點總是令人興奮的。
回复：預測因子篩選不確定您使用的是哪個版本的 JMP，但如果您使用的是 16 JMP Pro，您可以比較許多不同的建模平台：
https://www.jmp.com/support/help/en/16.0/#page/jmp/launch-the-model-screening-platform.shtml?os=mac&source=application&utm_source=helpmenu&utm_medium=application#ww267915
這可能對你有用。
回复：預測因子篩選感謝您的詳細回答！
是的，我相信同時運行 bootstrap 和 boosted 是從許多候選者中選擇預測變量的好主意。
我說得對，引導森林是分類響應的首選？
XGboosted 方法比 jmp pro 中使用的方法更好嗎？
回复：預測因子篩選你好@弗蘭克德魯伊克,
我不是 JMP 如何在後端實際執行操作（執行的精確編碼）方面的專家，但我相信使用引導森林是因為它有兩層隨機化：一層是隨機選擇因素。 例如，如果您想要預測一列並測試10 個因素中哪一個最能促進該預測，引導森林方法將隨機選擇一個子集，例如10 個子集中的6 個，並使用決策樹來最好地預測結果，然後根據因素的貢獻對這些因素進行排名。 另一種隨機化是引導森林隨機選擇一定數量的行來擬合模型，然後剩餘的行進行驗證（或簡化），並且它在每次迭代時通過隨機選擇和替換來實現這一點。 據我了解，默認情況下提升樹不會執行此操作。
關於您的最後一個問題，您可以從 JMP 網站下載 JMP Pro 的 XGBoost 插件。 我相信它適用於 JMP Pro 14 及更高版本。
順便說一句，由於聽起來您正在使用 JMP Pro，因此您可能希望運行 GenReg 平台並使用不同的預測算法（Lasso、Elastic Net 等）來查看模型係數估計值並運行一些引導模擬那裡也有。 有時您會得到不同的答案，這可以幫助確定邊界因素是否真的重要。 如果我的任務是尋找模型的最佳預測變量集，我通常會同時使用這兩種方法。
希望這可以幫助！，
DS
