识别分区树回归的“重要变量”我正在使用 JMP 13 进行分区树回归分析，我有 83 个变量，我正在识别与 VIF 不共线性的变量，目的是能够识别最具“代表性”的变量来进行分析分区树回归（我使用的例子是银行收入
通过变换进行多元线性回归/使用 JMP Pro 构建更好的模型，第 4 章，SAS Press (2015)。 格雷森、加德纳和斯蒂芬斯。） 我的疑问，这可能是一种合适的方式吗？或者 JMP 中有一个更具体的协议来识别这些“重要”变量以使用回归分区树。
回复：识别分区树回归的“重要变量”我非常感谢您花时间帮助我提出建议和建议
同样，祝一切顺利！
回复：识别分区树回归的“重要变量”当您无法访问 JMP Pro 时，模型生成会受到一些限制。 另一方面，您仍然可以进行 ARIMA 建模（如果适用）以及简化的神经网络和分区树。 另一个可能有帮助的平台是预测因子筛选，位于“分析”->“筛选”下。 这还有助于确定众多因素中哪些因素可能很重要。
您可以尝试的另一件事是在“拟合模型”平台中，在“个性”下选择“逐步”。 这还将使用不同的标准来选择哪些因素（和混合术语）是需要的，哪些是不需要的。 在这里，很好地了解要使用哪种模型会很有帮助。 如果您有大量数据，您可以选择所有因子，然后在“宏”下拉按钮下选择响应面。 您只想确保您的自由度不会降低太多。 如果您知道存在一些控制响应的物理过程，那么这可以作为如何生成模型方程的开始。 您可能想要研究的最后一件事是在建模之前转换数据，特别是如果数据不是正态分布的。 转换数据可以帮助建模过程实现稳健的拟合，从而具有比其他方式更好的预测能力。
就验证列而言，我知道标准 JMP 没有附带 GUI 来生成它，但这里有一些 JSL 将生成 N 个（我将其设置为 5）分层的验证列。 有些模型对验证列敏感，即使在对特定响应进行分层时也是如此，因此测试不同的验证列有助于评估模型的稳健性。
Names Default To Here( 1 );
dt = Current Data Table();
For( i = 1, i <= 5, i++,
dt << Make Validation Column(
Training Set( 0.6 ),
Validation Set( 0 .2),
Test Set( 0.2 ),
Stratified Random( :Group )
)
);
在上面的脚本中，i 从 1 运行到 5，因此它生成 5 个验证列，其中分为 60% 训练、20% 验证和 20% 测试（您可以将值更改为最适合您的数据的值），它将是在您在 :Group 弹出窗口中选择的任何列上随机分层。 如果您不想分层，则可以将该命令替换为随机类别公式。
JSL 是一种非常容易编写代码的语言，因此如果您有时间，我强烈建议您测试一些脚本以熟悉它。 我发现在不同的数据集上执行相同的任务时它非常有用——它有助于自动化操作。 您还可以查看“帮助”菜单下的“脚本索引”。
祝你好运！，
DS
回复：识别分区树回归的“重要变量”感谢您的建议，他们向我澄清了很多问题，我会在这方面进行工作。 尽管我能够使用和开发（例如模型之间的一些比较）的限制之一是我不在 JMP PRO 版本中工作。 然而，我能够确定这个选项：JMP to R Add-In Builder，我知道它可以帮助我使用其他算法来开发分析，正如它所建议的那样；我指出的最后一个，是因为我是一个非编码员 >.<
谢谢！
回复：识别分区树回归的“重要变量”我不是专家，但我也读过那本书（顺便说一句，我喜欢其中的示例和练习）。 后面的章节中有一些很好的例子，可能也适用于您的特定情况。
VIF 当然是一种确定模型中哪些变量被过度强调的方法。 检查决策树结果的列贡献也非常有帮助。 另一种方法可能是使用主成分分析 (PCA)，它可以帮助将最重要的变量分组在一起，并将它们用作对响应进行建模的 PC。引导森林平台应该能够防止过度拟合，因为它是随机的响应和因素。 引导森林和提升树都应该“踢出”无用的因素，因为它不会沿着这些因素分裂，并且它们的贡献将下降到非常低的值。
如果您有足够的数据来创建包含训练、验证和测试数据的验证列，这将有助于大大简化您的模型。 验证部分有助于从组中选择最简约的模型，而测试数据用于查看模型与“盲”数据的配合情况。 需要注意的是，您可能需要考虑是否应该分层、随机或以其他方式选择。 这可以部分（或很大程度上）基于您的建模响应。 它是连续的还是二进制的等？
最后，比较几种不同的模型（模型比较平台），例如神经网络、分区、boostrap 森林、boosted 树或广义回归也将有助于选择最适合您的数据的模型。 请务必仅在“测试”数据上比较您的模型，或者在通过隐藏和排除手动阻止的任何数据上比较您的模型（即您不想在训练数据上进行测试）。
我不确定是否有一个“标准化”方法来确定这一点，但从几个不同的角度解决问题肯定有助于了解重叠最多的地方，并帮助您决定确定“代表性”变量。
希望这可以帮助！，
DS
