预测因子筛选使用 JMP bootstrap 森林中的预测因子筛选;这非常有效,但是为什么选择这种方法而不是增强树(这也是一种非常强大的方法)? JMP 是否使用 XGboosted?
预测建模和机器学习回复:预测因子筛选Predictor Screening 平台是 Bootstrap Forest 平台,具有最少数量(现在只有一种:数树)的调整参数来指定,并且仅提供列贡献报告。 神奇的是 Predictor Screening 平台已经决定了其余调整参数的默认值。 该设置非常适合寻找有用的预测变量。
如果想要以最少数量的调整参数(例如一个参数)将提升树应用于相同目的,那是一项非常困难的任务。 例如,提升树比随机森林更依赖于验证方法的选择和使用,而验证方法的选择本身就是一门艺术。
预测因子筛选平台的目的是寻找有用的预测因子。 它不是 Bootstrap Forecast 的替代品。 如果您仅使用预测筛选,您的最终模型将不会是随机森林模型。 您可能会决定使用使用 Predictor Screen 找到的预测变量的其他模型。 使用预测器筛选来查找有用的预测器(而不是在最终模型中使用内置变量选择方法)的好处是该方法不依赖于任何参数假设。
在随机森林和增强树之间,我还没有遇到过任何根据响应变量的类型得出其性能的研究。
Boosted Tree 是梯度提升方法的一种实现。 XGBoost 也是如此。 其他实现也是如此,例如 LightGBM。 他们的比较可能相当复杂,而且可能也很主观。 但使用不同的工具来了解它们的优缺点总是令人兴奋的。
回复:预测因子筛选不确定您使用的是哪个版本的 JMP,但如果您使用的是 16 JMP Pro,您可以比较许多不同的建模平台:
https://www.jmp.com/support/help/en/16.0/#page/jmp/launch-the-model-screening-platform.shtml?os=mac&source=application&utm_source=helpmenu&utm_medium=application#ww267915
这可能对你有用。
回复:预测因子筛选感谢您的详细回答!
是的,我相信同时运行 bootstrap 和 boosted 是从许多候选者中选择预测变量的好主意。
我说得对,引导森林是分类响应的首选?
XGboosted 方法比 jmp pro 中使用的方法更好吗?
回复:预测因子筛选你好@弗兰克德鲁伊克,
我不是 JMP 如何在后端实际执行操作(执行的精确编码)方面的专家,但我相信使用引导森林是因为它有两层随机化:一层是随机选择因素。 例如,如果您想要预测一列并测试 10 个因素中哪一个最能促进该预测,引导森林方法将随机选择一个子集,例如 10 个子集中的 6 个,并使用决策树来最好地预测结果,然后根据因素的贡献对这些因素进行排名。 另一种随机化是引导森林随机选择一定数量的行来拟合模型,然后剩余的行进行验证(或简化),并且它在每次迭代时通过随机选择和替换来实现这一点。 据我了解,默认情况下提升树不会执行此操作。
关于您的最后一个问题,您可以从 JMP 网站下载 JMP Pro 的 XGBoost 插件。 我相信它适用于 JMP Pro 14 及更高版本。
顺便说一句,由于听起来您正在使用 JMP Pro,因此您可能希望运行 GenReg 平台并使用不同的预测算法(Lasso、Elastic Net 等)来查看模型系数估计值并运行一些引导模拟那里也有。 有时您会得到不同的答案,这可以帮助确定边界因素是否真的重要。 如果我的任务是寻找模型的最佳预测变量集,我通常会同时使用这两种方法。
希望这可以帮助!,
DS