预测筛选用于 JMP 引导森林中的预测器筛选；这很有效，但是为什么选择这种方法而不是增强树，这也是一种非常强大的方法？ JMP 是否使用 XGboosted？
分析回复：预测筛选你好@弗兰克德鲁伊克,
我不是 JMP 如何在后端实际执行事情（执行的精确编码）方面的专家，但我相信使用引导森林是因为它有两层随机化：一层是随机选择因素。 例如，如果您有一列想要预测和测试 10 个因素中哪些最有助于该预测，则引导森林方法将随机选择一个子集，例如 10 个中的 6 个，并使用决策树来最好地预测结果和然后根据它们的贡献对这些因素进行排名。 另一种随机化是引导森林随机选择一定数量的行来拟合模型，然后将剩余的行进行验证（或简化），并在每次迭代时通过随机选择和替换来实现。 我的理解是默认情况下提升树不会这样做。
关于您的最后一个问题，您可以从 JMP 网站下载 JMP Pro 的 XGBoost 插件。 我相信它适用于 JMP Pro 14 及更高版本。
附带说明一下，由于听起来您正在使用 JMP Pro，因此您可能希望运行 GenReg 平台并使用不同的预测算法（Lasso、Elastic Net 等）来查看模型系数估计值并运行一些引导程序模拟还有。 有时你会得到不同的答案，这有助于确定一个临界因素是否真的很重要。 如果我的任务是为模型找到最佳预测器集，我通常会采用这两种方法。
希望这可以帮助！，
DS
回复：预测筛选感谢这个扩展的答案！
是的，我相信同时运行 bootstrap 和 boosted 是从许多候选中选择预测器的好主意。
我说的对，引导森林是分类响应的首选？
XGboosted 方法是否比 jmp pro 中使用的方法更好？
回复：预测筛选不确定您使用的是哪个版本的 JMP，但如果您使用的是 16 JMP Pro，则可以比较许多不同的建模平台：
https://www.jmp.com/support/help/en/16.0/#page/jmp/launch-the-model-screening-platform.shtml?os=mac&source=application&utm_source=helpmenu&utm_medium=application#ww267915
这可能对您有用。
回复：预测筛选Predictor Screening 平台是 Bootstrap Forest 平台，具有最少数量（现在只有一个：Number Trees）的调整参数来指定并且仅提供列贡献报告。 神奇的是，Predictor Screening 平台已经决定了其余调整参数的默认值。 该设置非常适合寻找有用的预测变量。
如果想要以最少的调整参数（例如一个参数）为同一目的应用提升树，那将是一项非常艰巨的任务。 例如，提升树比随机森林更依赖于验证方法的选择和使用，而验证方法的选择本身就是一门艺术。
Predictor Screening 平台用于寻找有用的预测器。 它不是 Bootstrap 预测的替代品。 如果您只使用预测器筛选，您的最终模型将不会是随机森林模型。 您可能会决定使用使用 Predictor Screen 找到的预测变量的其他模型。 使用预测变量筛选来查找有用的预测变量而不是在最终模型中使用内置变量选择方法的一个好处是该方法不依赖于任何参数假设。
在随机森林和提升树之间，我没有遇到任何根据响应变量的类型得出其性能的研究。
Boosted Tree 是梯度提升方法的一种实现。 XGBoost 也是如此。 其他实现也是如此，例如 LightGBM。 他们的比较可能相当复杂，也可能是主观的。 但是，使用不同的工具来了解它们的优缺点总是令人兴奋的。
