預測篩選用於 JMP 引導森林中的預測器篩選；這很有效，但是為什麼選擇這種方法而不是增強樹，這也是一種非常強大的方法？ JMP 是否使用 XGboosted？
分析回复：預測篩選你好@弗蘭克德魯伊克,
我不是 JMP 如何在後端實際執行事情（執行的精確編碼）方面的專家，但我相信使用引導森林是因為它有兩層隨機化：一層是隨機選擇因素。 例如，如果您有一列想要預測和測試 10 個因素中哪些最有助於該預測，則引導森林方法將隨機選擇一個子集，例如 10 個中的 6 個，並使用決策樹來最好地預測結果和然後根據它們的貢獻對這些因素進行排名。 另一種隨機化是引導森林隨機選擇一定數量的行來擬合模型，然後將剩餘的行進行驗證（或簡化），並在每次迭代時通過隨機選擇和替換來實現。 我的理解是默認情況下提升樹不會這樣做。
關於您的最後一個問題，您可以從 JMP 網站下載 JMP Pro 的 XGBoost 插件。 我相信它適用於 JMP Pro 14 及更高版本。
附帶說明一下，由於聽起來您正在使用 JMP Pro，因此您可能希望運行 GenReg 平台並使用不同的預測算法（Lasso、Elastic Net 等）來查看模型係數估計值並運行一些引導程序模擬還有。 有時你會得到不同的答案，這有助於確定一個臨界因素是否真的很重要。 如果我的任務是為模型找到最佳預測器集，我通常會採用這兩種方法。
希望這可以幫助！，
DS
回复：預測篩選感謝這個擴展的答案！
是的，我相信同時運行 bootstrap 和 boosted 是從許多候選中選擇預測器的好主意。
我說的對，引導森林是分類響應的首選？
XGboosted 方法是否比 jmp pro 中使用的方法更好？
回复：預測篩選不確定您使用的是哪個版本的 JMP，但如果您使用的是 16 JMP Pro，則可以比較許多不同的建模平台：
https://www.jmp.com/support/help/en/16.0/#page/jmp/launch-the-model-screening-platform.shtml?os=mac&source=application&utm_source=helpmenu&utm_medium=application#ww267915
這可能對您有用。
回复：預測篩選Predictor Screening 平台是 Bootstrap Forest 平台，具有最少數量（現在只有一個：Number Trees）的調整參數來指定並且僅提供列貢獻報告。 神奇的是，Predictor Screening 平台已經決定了其餘調整參數的默認值。 該設置非常適合尋找有用的預測變量。
如果想要以最少的調整參數（例如一個參數）為同一目的應用提升樹，那將是一項非常艱鉅的任務。 例如，提升樹比隨機森林更依賴於驗證方法的選擇和使用，而驗證方法的選擇本身就是一門藝術。
Predictor Screening 平台用於尋找有用的預測器。 它不是 Bootstrap 預測的替代品。 如果您只使用預測器篩選，您的最終模型將不會是隨機森林模型。 您可能會決定使用使用 Predictor Screen 找到的預測變量的其他模型。 使用預測變量篩選來查找有用的預測變量而不是在最終模型中使用內置變量選擇方法的一個好處是該方法不依賴於任何參數假設。
在隨機森林和提升樹之間，我還沒有遇到任何根據響應變量的類型得出其性能的研究。
Boosted Tree 是梯度提升方法的一種實現。 XGBoost 也是如此。 其他實現也是如此，例如 LightGBM。 他們的比較可能相當複雜，也可能是主觀的。 但是，使用不同的工具來了解它們的優缺點總是令人興奮的。
