进行多重混合模型回归时如何处理多重共线性我正在做一个没有截距的回归模型,因为我的所有预测变量都是化学混合物的一部分,并且所有预测变量的总和等于 1。 我有很好的 R2 和 R2 验证,但我的主要术语和交叉术语的 VIF 远高于 5。
处理这个问题的最佳方法是什么?
我正在使用这个模型来预测混合物的性质。 我是否应该为我的预测变量提供额外的约束,例如比率(例如范围内的 x1/x2)?
回复:在进行多重混合模型回归时如何处理多重共线性我还推荐 Snee 和 Hoerl 撰写的关于使用 JMP 进行配方混合实验的新书。 这是获取副本的好时机晋升来自 SAS Press 的电子书!
回复:在进行多重混合模型回归时如何处理多重共线性已经拿到书了,谢谢!回复:在进行多重混合模型回归时如何处理多重共线性可能我沟通的不太好。 如果你在做混料设计,你实际上是在优化的世界里。 这意味着您已经确定了要建模的重要因素(至少有一个一阶模型)并且您了解噪声。 您的最新帖子表明您正在查看设计不佳的研究中的历史数据集。 所以我在这个应用程序中使用混合设计的类比:“你正在绘制山的底部”。 不确定您对混合设计的背景知识,但我建议您阅读康奈尔大学的《Experiments with Mixtures》一书。
显然,您可以查看历史数据以获取线索,但通常这是某种回归过程。 然后,您将进行迭代,直到您想要对要优化的混合物的成分进行试验。
Re: 进行多重混合模型回归时如何处理多重共线性斯塔曼,谢谢! 我没有进行优化,但认为它可能会在以后出现。 现在,我只需要知道玻璃的成分来预测玻璃的某些特性。 我使用非常“昂贵”的历史数据进行建模,但设计得不好(或根本没有),而且我的一些组件的相关性超过 0.7。
因此,我正在考虑如何为我的模型选择重要的交叉项,以及为预测定义适当的玻璃成分范围。 我会按照您的建议检查等高线图,因为这听起来很有希望!
回复:在进行多重混合模型回归时如何处理多重共线性康斯坦丁,
我的 0.02 美元,要么接受,要么离开。
您处于优化的世界。 这需要对统计分析进行不同的使用和解释。 例如,您对统计显着性不感兴趣,这已经确定。 虽然 R 平方(和调整后的 R 平方)在模型构建的某些阶段可能非常有用,但它们在优化期间就没有那么有用了。 (顺便说一句,R 平方与结果外推几乎没有关系,它们只与手头的数据有关)。 我的建议是使用 JMP 提供的等高线图并实际运行这些混合并将实际结果与(等高线图的)预测结果进行比较。 使用经验数据进行残差分析并根据需要修改地图。 我会避免使用比率或其他转换过于复杂的值。 再提醒一句,如果您在没有真正了解噪声和噪声随时间影响的情况下运行优化设计(例如,测量误差、输入化学品的批次间变化、环境条件等),等高线图将不会很实际结果的良好预测器。
回复:在进行多重混合模型回归时如何处理多重共线性我会选中 L 伪分量编码的复选框。 您可以同时检查两者,但是您冒着将不同类型的编码用于不同因素的风险。 我发现只坚持一种类型更容易,而 L 伪组件编码通常是最好的。
请注意,这种标准化不同于传统的独立因素实验设计。
至于你的最后一个问题,你要决定什么对使用这个模型的人最有意义。 就个人而言,我只想要组件范围。 我会发现比率很尴尬,因为该模型不是根据比率来计算的。 最后,如果您使用 JMP 并且正确设置了组件(使用 JMP 创建设计的优势),分析器将自动设置组件的范围以避免外推。 此外,您有一个混合物分析器,它将显示您的组件的有效范围。
回复:在进行多重混合模型回归时如何处理多重共线性丹,感谢您的回复! 至于我的设计不是在 JMP 中创建的,没有伪组件编码,但我通过列属性下拉框将所有预测变量标记为 Mixture。
我还看到 L Pseudo Component Coding 和 U Pseudo Component Coding 的复选框,我应该检查它们吗? 我尝试手动对所有预测变量进行标准化,但它们不再是混合变量(总和不等于 1)并且 JMP 没有报告 R2。
另外,在我建立了具有高 VIF 的混合模型之后,您认为将预测比率的范围与模型一起报告是否有意义? 通常,我只证明了 min-max 以避免外推。
回复:在进行多重混合模型回归时如何处理多重共线性首先,澄清一点。 对于 Scheffe 混合模型,存在截距。 它没有显示,因为它与主效应参数估计值相结合。 这不是无拦截模型。 您可以通过查看方差分析表来确认您正在拟合 Scheffe 模型。 它应该说“针对简化模型进行测试:Y = 均值”。 如果不是,则说明您没有像您想的那样拟合 Scheffe 混合模型。
现在是高 VIF。 这对于混合模型非常常见。 几乎没有什么可以做的。 首先,您是否使用伪组件编码值? 如果设计是在 JMP 中创建的,则应自动使用它。 您可以通过查看参数估计值来了解是否使用了伪分量编码。 您应该看到类似 (X1-c)/d 的内容,其中 c 和 d 是常数。 如果你没有看到这个,你可以打开伪组件编码列属性,然后拟合你的模型。
即使使用伪分量编码,VIF 也可能非常高。 混合成分的约束越多,VIF 就越高。 尽管不希望使用高 VIF,但混合模型的目标是预测。 您仍然可以从模型中获得良好的预测。 请记住,这是最终目标。 高 VIF 将导致影响测试的参数估计的标准误差更高。 减少模型会更困难,但您可以使用模型进行预测。