具有相關變數的多元迴歸大家好，
我需要一些有關多元迴歸的幫助，非常感謝任何幫助！ 先感謝您 ：）
簡而言之，這是一個問題——
- 我有連續的 Y 和 16 個 X
- 當我運行多變量分析時，我可以看到一些術語是相關的。 假設X1和X2是相關的，我只能使用其中一個
- 然而，我確實想任意選擇 X1 而不是 X2。 所以，我現在正在做的是先使用 X1 然後使用 X2 運行回歸。 然後，我將模型與這些術語進行比較。 但我需要運行的組合數量實在太多，手動執行非常耗時且容易出錯。
- 想檢查是否有更聰明的方法來解決這個問題。
- 我知道這可以透過編寫腳本來解決，該腳本以某種循環方式運行，並突出顯示最佳模型的基礎 -
- 但是，沒有編寫腳本的知識。
- 任何其他提示、技巧也很棒！ （我沒有 JMP Pro）
期待您的來信。
此致，
維普爾
自動化和腳本編寫實驗設計回覆：具有相關變數的多元迴歸太感謝了@大衛_伯納姆！ 非常感謝您的回饋，非常有幫助。 非常感激。
此致，
維普爾
回覆：具有相關變數的多元迴歸謝謝@statman分享您的想法。 這非常有幫助。 非常感激 ：）
此致，
維普爾
回覆：具有相關變數的多元迴歸再次感謝你，維克多。 這是非常有幫助的回饋。 我嘗試了逐步回歸和 PCA 方法，這已經對我們有很大幫助。
再一次感謝你。
此致，
維普爾
回覆：具有相關變數的多元迴歸你好@vipul ,
不同的模型會導致處理多重共線性的不同方法和方式。
考慮到 X1 和 X2 是一對與其他預測變數高度相關的預測變量，模型將做出不同的反應：
- 使用逐步迴歸方法（或決策樹），模型將從模型中刪除高度相關的預測變量，只保留資訊最豐富的預測變數。 就您而言，您最終將只有 X1 或 X2（取決於哪一個將為您提供最佳建模/性能）。
- 透過隨機森林（或 JMP 的預測因子篩選）方法，將建立多個決策樹，其中每棵樹都有一個預測因子子集。 這意味著 X1 和 X2 將在相同數量的預測變數子集中進行測試，因此它們將有相同的機會在模型中被選取。 根據哪一個帶來更多信息，兩個預測變數之一將比另一個具有更高的特徵重要性（模型貢獻），但模型中可能會考慮這兩個變數。
- 使用 PLS/PCA 方法，您可以將預測變數的數量減少到較小的不相關預測變數子集，因此可以保留大部分預測變數資訊（取決於保留的主成分數量）。 您的輸入經過轉換/組合且不相關（新的 X' 可能會建立為 X1 和 X2 的組合）。
您選擇的方法取決於模型的性能，但更重要的是，取決於您對該主題的領域知識。 不同的建模可能會導致對不同預測變數的顯著性或重要性產生不同的解釋和不同的假設，因此領域知識應該指導您選擇最合適/合理的模型。
希望對你有幫助，
回覆：具有相關變數的多元迴歸大衛給了一些嘗試的平台。 這種結合不是統計過程，而是工程/科學過程。
讓我給你一個假設的例子：
想像一下，您正在嘗試確定哪些因素會影響使用橡皮筋發射彈的距離（Y=距離）。 許多感興趣的變數（彈丸質量、彈丸幾何形狀、發射角度、環境氣流、釋放技術等）中的兩個是：
1. X1 = 橡皮筋被拉伸的長度，
2. X2 =“彈簧常數”，透過改變橡皮筋的寬度來改變
這兩個變數在資料集中顯得相關，並且都對提供給系統的能量有直接影響（假設）讓我們將它們視為共線。 人們可以不將它們視為實驗中的自變量，而是將它們組合成一個因素，其水平包括：
- = 彈性長度短且寬度窄
+ = 長彈力帶和厚寬度帶
然後在實驗中將這個「綜合因素」與許多其他因素進行比較。 如果這個因素顯得很重要，可以進行後續實驗以進一步了解如何最有效地管理能量進入系統（這成為一個新的反應變數）。
回覆：具有相關變數的多元迴歸僅供參考，您所描述的一次在所有 X 上安裝一個的過程是由反應篩選平台位於「分析」>「篩選」下。
回覆：具有相關變數的多元迴歸您可能還想查看聚類變數分析>聚類下的實用程式。相關的 X 將被放置在同一簇中。然後，對於每個聚類，您可以選擇一個「代表性變數」以包含在迴歸中。紅色三角形甚至還有一個「啟動擬合模型」選項。
回覆：具有相關變數的多元迴歸你好@statman ,
感謝您抽空分享您的觀點。 能否詳細說明如何組合多個相關的 X？
再次預先感謝您。
此致，
維普爾
回覆：具有相關變數的多元迴歸你好@Victor_G
感謝您抽出寶貴時間回答。 我一定會立即使用預測篩選模組。 希望它能提供一些線索。
然而，您認為這會解決多重共線性問題嗎，因為（比如說）X1 和 X2 將再次成為最有可能的預測變量，對嗎？
回覆：具有相關變數的多元迴歸這是我的想法：沒有統計程序選擇存在多重共線性時應將哪些因素納入您的研究中。 此決定必須由 SME（主題專家）做出。 可能影響這一點的因素包括：
1. 管理 X 的難易度或成本
2. 是否包含的科學依據（假設）（我建議這些是預測的，而不是在獲得數據後開發）
3. 對其他Y的影響
現在，您還可以做其他事情：
1. 將相關的 x 合併為一個 X
2. 開發替代反應變數
3.嘗試不同的轉換（例如，PCA），儘管這可能會影響科學關係
4. 對因素進行實驗
回覆：具有相關變數的多元迴歸你好@vipul ,
也許在「擬合模型」平台中使用「逐步」個性確實符合您的需求，因為 JMP 將嘗試使用傾向於創建具有最小 BIC/AICc 或 p 值閾值的模型的變數。 透過點擊平台的紅色三角形，還可以選擇測試“所有可能的模型”，您必須在其中指定模型中項（因子）的最大數量，以及要查看的最佳模型的數量。 然後 JMP 將提供一個包含所有測試模型的表格，以及每個模型中的項數、R²、RMSE、AICc 和 BIC，如果您發現一些足夠有趣的模型，您可以運行任何測試的模型。
但是，我認為這對於資料集中的多重共線性問題可能不是一個好主意。 如果您有 JMP 和具有高度相關變數的資料集，您可以嘗試這些選項，具體取決於您是否對可解釋性和/或可預測性感興趣：
- 使用「預測篩選」（在「分析」->「篩選」中）找出對您的回應最重要的變數。 選擇n 個最重要的變數（您可以根據領域專業知識或任意閾值改變閾值n、要保留的重要變數的數量，例如「我想要5 個最重要的預測變數」），按一下「複製所選”，然後使用您複製的變數來運行迴歸模型（擬合模型）。
- 使用主成分分析，將最初的 16 個 X 減少為一組較低的獨立變量，其中包含大部分初始資訊。 然後嘗試使用主成分而不是原始 X 的迴歸模型。
- 使用偏最小平方法（分析 -> 多元 -> 偏最小平方法）建立具有相關變數的模型。
I think these options may be more robust/reliable than trying to fit all possible models and choosing the best one(s) depending on R² or other metrics, since the original approach you mentioned will drop some of the correlated X's that may still contain valuable資訊.
還有許多其他可能的選項，但在 JMP Pro 中可用（例如，使用懲罰回歸模型技術）。
我認為前三個選項可能已經對您有所幫助:)
