模型：高 VIF 是否在所有情況下都是一個問題？情況是這樣的：我正在嘗試構建一個模型來使用 X 中的 25 個參數來表達特定的 Y。 我的參數 X 的所有數據均由同一技術提供，該技術使用 25 個頻率（我的 X）分析 1 個樣本，作為頻率掃描以獲得最大信息。 換句話說，對於每個單獨的 Y 數據，我將有 25 個 X。
但問題是，當我構建模型時，我獲得了巨大的 VIF，因為我的參數 X 本質上是共線的，因為它們只是相同技術的頻率，所以它們以相同的方式演變......
如果我按照我學到的去做，這意味著根據最高 VIF 一個一個地刪除每個參數，我最終只剩下一個單一的頻率，這消除了掃描技術的所有興趣。
在那種特殊情況下，模型是否真的受到這些共線性的影響，或者我們可以相信它嗎？
@alexbeck或許？
回复：模型：高 VIF 是否在所有情況下都是一個問題？@馬丁德梅爾你假期回來後能調查一下嗎？
回复：模型：高 VIF 是否在所有情況下都是一個問題？好吧 ！ 我會嘗試所有這些，看看我能找到什麼。 多謝 ！回复：模型：高 VIF 是否在所有情況下都是一個問題？絕對地。 模型中的一切都很好：離群值是帶有學生化殘差的檢查器，Adj。 R2 非常好等等... 只是 VIF 太瘋狂了回复：模型：高 VIF 是否在所有情況下都是一個問題？我忘記說了，但是當我談到高 VIF 時，我指的是成百上千…… 如果我的方差仍然沒有那麼高，我可以容忍這樣的值嗎？
之前確實提到過PLS，我會嘗試的！
不幸的是我沒有 JMP Pro ...回复：模型：高 VIF 是否在所有情況下都是一個問題？我不知道如果那個工具 Functional Data Explorer 會怎麼樣，我會發現非常感謝這個提示！
事實上，在我所有的 25 個頻率中，只有少數與解釋我的 Y 真正相關，因此在建模期間我使用逐步刪除不重要的頻率。 如果我不這樣做，我將獲得一個具有 18 個非重要參數和只有 6 個重要參數的模型...... 這真的有意義嗎？
我也會檢查PLS確實是個好主意，謝謝你的幫助！回复：模型：高 VIF 是否在所有情況下都是一個問題？很抱歉，如果它足夠清楚，讓我們再試一次：
它不完全是 25 個級別的 X，而是來自同一技術的 25 個不同的 X。 techno 掃描各種頻率，對於每個頻率，它都會給出一個值，即我的 X。
當我提到高 VIF 時，我指的是成百上千……回复：模型：高 VIF 是否在所有情況下都是一個問題？在這種情況下，您可以使用很多技巧。嶺回歸或神經網絡等正則化模型可以很好地克服共線性。您還可以使用主成分等降維技術，並對成分分數進行回歸。
回复：模型：高 VIF 是否在所有情況下都是一個問題？正如 Mark 所指出的，“經驗法則”應始終謹慎使用。 在構建合適的模型時，有許多技巧使用（例如，評估假設（ NID(0,秒2個)) , R-square-R-square Adj, testing for outliers, residuals analysis, etc.) 其中 VIF 只是其中之一。
回复：模型：高 VIF 是否在所有情況下都是一個問題？我看到了 VIF 的一個常見“經驗法則”：低於 10 為好，高於 10 為差。 不幸的是，這條規則毫無用處，不應遵循。
通常，可容忍的 VIF 取決於參數估計值的相對大小和響應方差。 如果您的響應變化很大而方差很小，您可以容忍非常大的 VIF。 另一方面，如果您的響應變化很小而您的方差很大，那麼小的 VIF 可能太多了。
我想知道你是否可以使用另一種回歸方法。 例如，PLS 非常成功，其中 X 是某些光譜的域，例如波長或分子量。 這些 X 是高度相關的。 PLS 回歸模型利用此信息而不是用共線性來懲罰你。
如果您有 JMP Pro，那麼您還可以將 X 視為函數數據並保存函數主成分。 這些 FPC 將用於代替 Y 的回歸模型中的 X。
你怎麼認為？
回复：模型：高 VIF 是否在所有情況下都是一個問題？這聽起來像是您實際上可能想要使用 Functional Data Explorer。 對於每個 Y，您都有一個定義配置文件的頻率範圍。 這正是功能數據瀏覽器要分析的內容。
但是，如果您想使用回歸，如果您不從完整模型（模型中包含所有 X 的模型）中刪除任何項並且您只想使用該模型，那麼高 VIF 並不是什麼大問題用於預測。
由於聽起來您更感興趣的是哪些頻率最重要（通過刪除具有高 VIF 的不重要項），您仍然會面臨高 VIF 導致問題的風險。 如果您堅持回歸，您的方法可能是最好的，但請記住，高 VIF 意味著參數估計的方差被誇大了。 這也意味著參數估計非常不穩定。 從模型中刪除一個 X 可能會顯著改變其他參數的參數估計和顯著性檢驗。 您最終得到的模型可能不是最好的。
如果您確實需要識別這些配置文件的重要特徵，請查看功能數據瀏覽器。 如果那不是選項，您應該考慮查看旨在處理多重共線性的建模技術。 PLS 或 PCR 只是兩種這樣的技術。
回复：模型：高 VIF 是否在所有情況下都是一個問題？我不認為我完全理解這個問題。 聽起來你有 25 個級別的一個 X（頻率）....所以你正在創建一個模型中只有一個 X 的模型？ 您將有很多自由度來估計一個相當複雜的非線性模型，但方程中只有一個預測變量。
高 VIF（>10 過高，>5 應該評估）僅表明您的模型應該重新評估（模型的有用性可能被誇大了）。 是的，它是多重共線性的度量，但高值並不一定表示什麼是共線性的。 這通常需要主題專業知識來理解和適當補償。
