具有相关变量的多元回归大家好，
我需要一些有关多元回归的帮助，非常感谢任何帮助！ 先感谢您 ：）
简而言之，这是一个问题——
- 我有连续的 Y 和 16 个 X
- 当我运行多变量分析时，我可以看到一些术语是相关的。 假设X1和X2是相关的，我只能使用其中一个
- 然而，我确实想任意选择 X1 而不是 X2。 所以，我现在正在做的是首先使用 X1 然后使用 X2 运行回归。 然后，我将模型与这些术语进行比较。 但我需要运行的组合数量实在太多，手动执行非常耗时且容易出错。
- 想检查是否有更聪明的方法来解决这个问题。
- 我知道这可以通过编写一个脚本来解决，该脚本以某种循环方式运行，并突出显示最佳模型的基础 -
- 但是，没有编写脚本的知识。
- 任何其他提示、技巧也很棒！ （我没有 JMP Pro）
期待您的来信。
此致，
维普尔
自动化和脚本编写实验设计回复：具有相关变量的多元回归太感谢了@大卫_伯纳姆！ 非常感谢您的反馈，非常有帮助。 非常感激。
此致，
维普尔
回复：具有相关变量的多元回归谢谢@statman分享您的想法。 这非常有帮助。 非常感激 ：）
此致，
维普尔
回复：具有相关变量的多元回归再次感谢你，维克多。 这是非常有帮助的反馈。 我尝试了逐步回归和 PCA 方法，这已经对我们有很大帮助。
再一次感谢你。
此致，
维普尔
回复：具有相关变量的多元回归你好@vipul ,
不同的模型会导致处理多重共线性的不同方法和方式。
考虑到 X1 和 X2 是一对与其他预测变量高度相关的预测变量，模型将做出不同的反应：
- 使用逐步回归方法（或决策树），模型将从模型中删除高度相关的预测变量，只保留信息最丰富的预测变量。 就您而言，您最终将只有 X1 或 X2（取决于哪一个将为您提供最佳建模/性能）。
- 通过随机森林（或 JMP 的预测因子筛选）方法，将构建多个决策树，其中每棵树都有一个预测因子子集。 这意味着 X1 和 X2 将在相同数量的预测变量子集中进行测试，因此它们将有相同的机会在模型中被选取。 根据哪一个带来更多信息，两个预测变量之一将比另一个具有更高的特征重要性（模型贡献），但模型中可能会考虑这两个变量。
- 使用 PLS/PCA 方法，您可以将预测变量的数量减少到较小的不相关预测变量子集，因此可以保留大部分预测变量信息（取决于保留的主成分数量）。 您的输入经过转换/组合且不相关（新的 X' 可能会创建为 X1 和 X2 的组合）。
您选择的方法取决于模型的性能，但更重要的是，取决于您对该主题的领域知识。 不同的建模可能会导致对不同预测变量的显着性或重要性产生不同的解释和不同的假设，因此领域知识应该指导您选择最合适/合理的模型。
希望对你有帮助，
回复：具有相关变量的多元回归大卫给出了一些尝试的平台。 这种结合不是统计过程，而是工程/科学过程。
让我给你一个假设的例子：
想象一下，您正在尝试确定哪些因素会影响使用橡皮筋发射射弹的距离（Y=距离）。 许多感兴趣的变量（射弹质量、射弹几何形状、发射角度、环境气流、释放技术等）中的两个是：
1. X1 = 橡皮筋被拉伸的长度，
2. X2 =“弹簧常数”，通过改变橡皮筋的宽度来改变
这两个变量在数据集中显得相关，并且都对提供给系统的能量有直接影响（假设）让我们将它们视为共线。 人们可以不将它们视为实验中的自变量，而是将它们组合成一个因素，其水平包括：
- = 弹力长度短且宽度窄
+ = 长弹力带和厚宽度带
然后在实验中将这个“综合因素”与许多其他因素进行比较。 如果这个因素显得很重要，可以进行后续实验以进一步了解如何最有效地管理能量进入系统（这成为一个新的响应变量）。
回复：具有相关变量的多元回归仅供参考，您描述的一次在所有 X 上安装一个的过程是由反应筛选平台位于“分析”>“筛选”下。
回复：具有相关变量的多元回归您可能还想查看聚类变量分析>聚类下的实用程序。相关的 X 将被放置在同一簇中。然后，对于每个聚类，您可以选择一个“代表性变量”以包含在回归中。红色三角形甚至还有一个“启动拟合模型”选项。
回复：具有相关变量的多元回归你好@statman ,
感谢您抽出时间分享您的观点。 您能否详细说明如何组合多个相关的 X？
再次预先感谢您。
此致，
维普尔
回复：具有相关变量的多元回归你好@Victor_G
感谢您抽出宝贵时间回答。 我一定会立即使用预测筛选模块。 希望它能提供一些线索。
然而，您认为这会解决多重共线性问题吗，因为（比如说）X1 和 X2 将再次成为最有可能的预测变量，对吧？
回复：具有相关变量的多元回归这是我的想法：没有统计程序选择存在多重共线性时应将哪些因素纳入您的研究中。 该决定必须由 SME（主题专家）做出。 可能影响这一点的因素包括：
1. 管理 X 的难易程度或成本
2. 是否包含的科学依据（假设）（我建议这些是预测的，而不是在获得数据后开发）
3. 对其他Y的影响
现在，您还可以做其他事情：
1. 将相关的 x 合并为一个 X
2. 开发替代响应变量
3.尝试不同的转换（例如，PCA），尽管这可能会影响科学关系
4. 对因素进行实验
回复：具有相关变量的多元回归你好@vipul ,
也许在“拟合模型”平台中使用“逐步”个性确实符合您的需求，因为 JMP 将尝试使用倾向于创建具有最小 BIC/AICc 或 p 值阈值的模型的变量。 通过单击平台的红色三角形，还可以选择测试“所有可能的模型”，您必须在其中指定模型中项（因子）的最大数量，以及要查看的最佳模型的数量。 然后 JMP 将提供一个包含所有测试模型的表格，以及每个模型中的项数、R²、RMSE、AICc 和 BIC，如果您发现一些足够有趣的模型，您可以运行任何测试的模型。
但是，我认为这对于数据集中的多重共线性问题可能不是一个好主意。 如果您有 JMP 和具有高度相关变量的数据集，您可以尝试这些选项，具体取决于您是否对可解释性和/或可预测性感兴趣：
- 使用“预测筛选”（在“分析”->“筛选”中）查找对您的响应最重要的变量。 选择 n 个最重要的变量（您可以根据领域专业知识或任意阈值更改阈值 n、要保留的重要变量的数量，例如“我想要 5 个最重要的预测变量”），单击“复制所选”，然后使用您复制的变量运行回归模型（拟合模型）。
- 使用主成分分析，将最初的 16 个 X 减少为一组较低的独立变量，其中包含大部分初始信息。 然后尝试使用主成分而不是原始 X 的回归模型。
- 使用偏最小二乘（分析 -> 多元 -> 偏最小二乘）创建具有相关变量的模型。
我认为这些选项可能比尝试拟合所有可能的模型并根据 R² 或其他指标选择最好的模型更强大/可靠，因为您提到的原始方法将删除一些可能仍包含有价值的相关 X信息。
还有许多其他可能的选项，但在 JMP Pro 中可用（例如，使用惩罚回归模型技术）。
我认为前三个选项可能已经对您有所帮助:)
