進行多重混合模型回歸時如何處理多重共線性我正在做一個沒有截距的回歸模型，因為我的所有預測變量都是化學混合物的一部分，並且所有預測變量的總和等於 1。 我有很好的 R2 和 R2 驗證，但我的主要術語和交叉術語的 VIF 遠高於 5。
處理這個問題的最佳方法是什麼？
我正在使用這個模型來預測混合物的性質。 我是否應該為我的預測變量提供額外的約束，例如比率（例如範圍內的 x1/x2）？
回复：在進行多重混合模型回歸時如何處理多重共線性我還推薦 Snee 和 Hoerl 撰寫的關於使用 JMP 進行配方混合實驗的新書。 這是獲取副本的好時機晉升來自 SAS Press 的電子書！
回复：在進行多重混合模型回歸時如何處理多重共線性已經拿到書了，謝謝！回复：在進行多重混合模型回歸時如何處理多重共線性也許我的溝通不太好。 如果你在做混料設計，你實際上是在優化的世界裡。 這意味著您已經確定了要建模的重要因素（至少有一個一階模型）並且您了解噪聲。 您的最新帖子表明您正在查看設計不佳的研究中的歷史數據集。 所以我在這個應用程序中使用混合設計的類比：“你正在繪製山的底部”。 不確定您對混合設計的背景知識，但我建議您閱讀康奈爾大學的《Experiments with Mixtures》一書。
顯然，您可以查看歷史數據以獲取線索，但通常這是某種回歸過程。 然後，您將進行迭代，直到您想要對要優化的混合物的成分進行試驗。
回复：在進行多重混合模型回歸時如何處理多重共線性斯塔曼，謝謝！ 我沒有進行優化，但認為它可能會在以後出現。 現在，我只需要知道玻璃的成分來預測玻璃的某些特性。 我使用非常“昂貴”的歷史數據進行建模，但設計得不好（或根本沒有），而且我的一些組件的相關性超過 0.7。
因此，我正在考慮如何為我的模型選擇重要的交叉項，以及為預測定義適當的玻璃成分範圍。 我會按照您的建議檢查等高線圖，因為這聽起來很有希望！
回复：在進行多重混合模型回歸時如何處理多重共線性康斯坦丁，
我的 0.02 美元，要么接受，要么離開。
您處於優化的世界。 這需要對統計分析進行不同的使用和解釋。 例如，您對統計顯著性不感興趣，這已經確定。 雖然 R 平方（和調整後的 R 平方）在模型構建的某些階段可能非常有用，但它們在優化期間就沒有那麼有用了。 （順便說一句，R 平方與結果外推幾乎沒有關係，它們只與手頭的數據有關）。 我的建議是使用 JMP 提供的等高線圖並實際運行這些混合併將實際結果與（等高線圖的）預測結果進行比較。 使用經驗數據進行殘差分析並根據需要修改地圖。 我會避免使用比率或其他轉換過於復雜的值。 再提醒一句，如果您在沒有真正了解噪聲和噪聲隨時間影響的情況下運行優化設計（例如，測量誤差、輸入化學品的批次間變化、環境條件等），等高線圖將不會很實際結果的良好預測器。
回复：在進行多重混合模型回歸時如何處理多重共線性我會選中 L 偽分量編碼的複選框。 您可以同時檢查兩者，但您冒著將不同類型的編碼用於不同因素的風險。 我發現只堅持一種類型更容易，而 L 偽組件編碼通常是最好的。
請注意，這種標準化不同於傳統的獨立因素實驗設計。
至於你的最後一個問題，你要決定什麼對使用這個模型的人最有意義。 就個人而言，我只想要組件範圍。 我會發現比率很尷尬，因為該模型不是根據比率來計算的。 最後，如果您使用 JMP 並且正確設置了組件（使用 JMP 創建設計的優勢），分析器將自動設置組件的範圍以避免外推。 此外，您有一個混合物分析器，它將顯示您的組件的有效範圍。
回复：在進行多重混合模型回歸時如何處理多重共線性丹，感謝您的回复！ 至於我的設計不是在 JMP 中創建的，沒有偽組件編碼，但我通過列屬性下拉框將所有預測變量標記為 Mixture。
我還看到 L Pseudo Component Coding 和 U Pseudo Component Coding 的複選框，我應該檢查它們嗎？ 我嘗試手動對所有預測變量進行標準化，但它們不再是混合變量（總和不等於 1）並且 JMP 沒有報告 R2。
另外，在我建立了具有高 VIF 的混合模型之後，您認為將預測比率的範圍與模型一起報告是否有意義？ 通常，我只證明了 min-max 以避免外推。
回复：在進行多重混合模型回歸時如何處理多重共線性首先，澄清一點。 對於 Scheffe 混合模型，存在截距。 它沒有顯示，因為它與主效應參數估計值相結合。 這不是無攔截模型。 您可以通過查看方差分析表來確認您正在擬合 Scheffe 模型。 它應該說“針對簡化模型進行測試：Y = 均值”。 如果不是，則說明您沒有像您想的那樣擬合 Scheffe 混合模型。
現在是高 VIF。 這對於混合模型非常常見。 幾乎沒有什麼可以做的。 首先，您是否使用偽組件編碼值？ 如果設計是在 JMP 中創建的，則應自動使用它。 您可以通過查看參數估計值來了解是否使用了偽分量編碼。 您應該看到類似 (X1-c)/d 的內容，其中 c 和 d 是常數。 如果你沒有看到這個，你可以打開偽組件編碼列屬性，然後擬合你的模型。
即使使用偽分量編碼，VIF 也可能非常高。 混合成分的約束越多，VIF 就越高。 儘管高 VIF 是不可取的，但混合模型的目標是預測。 您仍然可以從模型中獲得良好的預測。 請記住，這是最終目標。 高 VIF 將導致影響測試的參數估計的標準誤差更高。 減少模型會更困難，但您可以使用模型進行預測。
