模型：高 VIF 是否在所有情况下都是一个问题？情况是这样的：我正在尝试构建一个模型来使用 X 中的 25 个参数来表达特定的 Y。 我的参数 X 的所有数据均由同一技术提供，该技术使用 25 个频率（我的 X）分析 1 个样本，作为频率扫描以获得最大信息。 换句话说，对于每个单独的 Y 数据，我将有 25 个 X。
但问题是，当我构建模型时，我获得了巨大的 VIF，因为我的参数 X 本质上是共线的，因为它们只是相同技术的频率，所以它们以相同的方式演变......
如果我按照我学到的去做，这意味着根据最高 VIF 一个一个地删除每个参数，我最终只剩下一个单一的频率，这消除了扫描技术的所有兴趣。
在那种特殊情况下，模型是否真的受到这些共线性的影响，或者我们可以相信它吗？
@alexbeck或许？
回复：模型：高 VIF 是否在所有情况下都是一个问题？@马丁德梅尔你假期回来后能调查一下吗？
回复：模型：高 VIF 是否在所有情况下都是一个问题？好吧 ！ 我会尝试所有这些，看看我能找到什么。 多谢 ！回复：模型：高 VIF 是否在所有情况下都是一个问题？绝对地。 模型中的一切都很好：离群值是带有学生化残差的检查器，Adj。 R2 非常好等等... 只是 VIF 太疯狂了回复：模型：高 VIF 是否在所有情况下都是一个问题？我忘记说了，但是当我谈到高 VIF 时，我指的是成百上千…… 如果我的方差仍然没有那么高，我可以容忍这样的值吗？
之前确实提到过PLS，我会尝试的！
不幸的是我没有 JMP Pro ...回复：模型：高 VIF 是否在所有情况下都是一个问题？我不知道如果那个工具 Functional Data Explorer 会怎么样，我会发现非常感谢这个提示！
事实上，在我所有的 25 个频率中，只有少数与解释我的 Y 真正相关，因此在建模期间我使用逐步删除不重要的频率。 如果我不这样做，我将获得一个具有 18 个非重要参数和只有 6 个重要参数的模型...... 这真的有意义吗？
我也会检查PLS确实是个好主意，谢谢你的帮助！回复：模型：高 VIF 是否在所有情况下都是一个问题？很抱歉，如果它足够清楚，让我们再试一次：
它不完全是 25 个级别的 X，而是来自同一技术的 25 个不同的 X。 techno 扫描各种频率，对于每个频率，它都会给出一个值，即我的 X。
当我提到高 VIF 时，我指的是成百上千……回复：模型：高 VIF 是否在所有情况下都是一个问题？在这种情况下，您可以使用很多技巧。岭回归或神经网络等正则化模型可以很好地克服共线性。您还可以使用主成分等降维技术，并对成分分数进行回归。
回复：模型：高 VIF 是否在所有情况下都是一个问题？正如 Mark 所指出的，“经验法则”应始终谨慎使用。 在构建合适的模型时，有许多技巧使用（例如，评估假设（ NID(0,秒2个)) , R-square-R-square Adj, testing for outliers, residuals analysis, etc.) 其中 VIF 只是其中之一。
回复：模型：高 VIF 是否在所有情况下都是一个问题？我看到了 VIF 的一个常见“经验法则”：低于 10 为好，高于 10 为差。 不幸的是，这条规则毫无用处，不应遵循。
通常，可容忍的 VIF 取决于参数估计值的相对大小和响应方差。 如果您的响应变化很大而方差很小，您可以容忍非常大的 VIF。 另一方面，如果您的响应变化很小而您的方差很大，那么小的 VIF 可能太多了。
我想知道你是否可以使用另一种回归方法。 例如，PLS 非常成功，其中 X 是某些光谱的域，例如波长或分子量。 这些 X 是高度相关的。 PLS 回归模型利用此信息而不是用共线性来惩罚你。
如果您有 JMP Pro，那么您还可以将 X 视为函数数据并保存函数主成分。 这些 FPC 将用于代替 Y 的回归模型中的 X。
你怎么认为？
回复：模型：高 VIF 是否在所有情况下都是一个问题？这听起来像是您实际上可能想要使用 Functional Data Explorer。 对于每个 Y，您都有一个定义配置文件的频率范围。 这正是功能数据浏览器要分析的内容。
但是，如果您想使用回归，如果您不从完整模型（模型中包含所有 X 的模型）中删除任何项并且您只想使用该模型，那么高 VIF 并不是什么大问题用于预测。
由于听起来您更感兴趣的是哪些频率最重要（通过删除具有高 VIF 的不重要项），您仍然会面临高 VIF 导致问题的风险。 如果您坚持回归，您的方法可能是最好的，但请记住，高 VIF 意味着参数估计的方差被夸大了。 这也意味着参数估计非常不稳定。 从模型中删除一个 X 可能会显着改变其他参数的参数估计和显着性检验。 您最终得到的模型可能不是最好的。
如果您确实需要识别这些配置文件的重要特征，请查看功能数据浏览器。 如果那不是选项，您应该考虑查看旨在处理多重共线性的建模技术。 PLS 或 PCR 只是两种这样的技术。
回复：模型：高 VIF 是否在所有情况下都是一个问题？我不认为我完全理解这个问题。 听起来你有 25 个级别的一个 X（频率）....所以你正在创建一个模型中只有一个 X 的模型？ 您将有很多自由度来估计一个相当复杂的非线性模型，但方程中只有一个预测变量。
高 VIF（>10 过高，>5 应该评估）仅表明您的模型应该重新评估（模型的有用性可能被夸大了）。 是的，它是多重共线性的度量，但高值并不一定表示什么是共线性的。 这通常需要主题专业知识来理解和适当补偿。
