如何在执行多元回归之前轻松筛选许多因素(~200 列)中的不显着因素。我有很多因素(~200 列)和一个响应,我有很多措施。
大多数因素之间表现出共线性,是否有一种简单的方法可以对不相关的因素进行首次过滤?
然后在剩下的时间里我将执行多元回归。
预测建模和机器学习回复:如何在执行多元回归之前轻松筛选许多因素(约 200 列)中的非显着因素。早上好,
要对响应变量的参数进行分类,您可以使用多种工具:
- 回归量的筛选
- 筛选回复
这两个工具可能不会给出相同的结果。 在这种情况下,这可能意味着模型中存在不明确的“隐藏”项:二次项、交叉项。
另一方面,如果您想要一个预测公式,您可以使用最小二乘回归(线性模型)。 使用此方法,您可以逐步构建模型,删除对模型没有影响的参数。
回复:如何在执行多元回归之前轻松筛选许多因素(~200 列)中的不显着因素。你好@佩皮尼昂_意大利,
如果您想强调对您的回答影响最大的因素,预测筛选 (jmp.com)平台似乎是一个很好的探索第一步。
由于它基于随机森林,因此即使存在多重共线性,它也能够“平等”地测试每个因素/特征。
如果您想基于最重要的预测变量创建模型并使用回归模型,您可能必须选择适当的模型(受到 Lasso、Ridge 或 Elastic Net 回归等惩罚,或其他回归模型,如偏最小二乘,... )或进行一些预处理(使用主成分分析并对主成分进行回归),以便在模型中正确解释多重共线性。
您还可以使用能够处理多重共线性且假设较少的简单模型(例如来自平台的决策树)分区模型 (jmp.com) )一旦选择了预测变量。
希望这个回答对你有帮助
回复:如何在执行多元回归之前轻松筛选许多因素(~200 列)中的不显着因素。非常感谢你,我会尝试你的建议。