如何選擇獨立參數以優化迴歸模型大家好，
在進行模型擬合的過程中，我發現選擇不同的參數會產生不同的結果。獲得模型後，我會查看學生化殘差較高的數據點，並驗證它們的有效性。我需要反覆嘗試選擇參數才能獲得合適的模型。下面我們來看一個例子。
模型 1：
模型 2：
如您所見，與模型 1 相比，模型 2 有許多資料點具有較高的學生化殘差。當我驗證這些具有較高學生化殘差的資料點時，這些資料點被歸類為「不良」資料點。看來模型 2 更穩健。
我的問題是，儘管兩個模型的 R 平方值都很高，為什麼模型 2 可以篩選掉更多的不良資料點？這可能是因為我為創建模型選擇的參數所造成的。
問題：
-如果我將資料集新列中的資料點分類為好/壞，JMP 中是否有任何方法可以建議我應該選擇哪些參數，以便模型能夠更穩健地篩選出壞的資料點？
-如果我不對資料點進行分類，JMP 中是否有任何方法可以建議我應該選擇哪些參數，以便模型能夠更穩健地篩選出壞資料點？
希望我能從社區獲得一些建議。
感激
進階統計建模基礎資料分析與建模預測建模和機器學習回覆：如何選擇獨立參數以優化迴歸模型我的建議是，請提供更多資訊。誠然，您的第二個模型似乎比第一個模型更符合數據，但我認為這不足以決定使用哪個模型（如果有的話）。您說您選擇了不同的參數，但我認為您的意思是您在模型中選擇了不同的變數作為因子。決定使用哪些變數是一個複雜的問題，模型與資料的適合程度只能部分地回答這個問題。看起來兩個模型都是線性模型，因此您可以嘗試各種非線性模型——尤其是在您關注異常值的情況下。關於較大的殘差，我有兩點想法。首先，在資料量如此龐大的情況下，我懷疑較大的殘差對模型的影響不大。其次，您應該解釋一下為什麼要專注於較大的殘差（您可以嘗試對數變換）。
一般來說，我需要了解更多關於您的回應變數是什麼、您擁有什麼類型的資料以及您的分析目的。 「最佳擬合模型」只是分析的一部分。而且，大多數「最佳擬合」指標都著眼於平均值，而不是特定類型的觀測值——您對較大殘差的擔憂似乎表明，對您而言，某些點比其他點更重要。如果是這樣，那麼線性迴歸模型可能並非最佳選擇（這些較大的殘差影響不大——例如，如果您更關注模型在特定觀測區域的準確性，而不是平均值，那麼分位數迴歸可能更合適）。
回覆：如何選擇獨立參數以優化迴歸模型“您的分析目的是什麼？”
通常，我的配方中包含五個因素（溫度、力量、高度、厚度和時間），用於計算產品重量。我的假設是，如果我擁有足夠的歷史數據，包括這些因素（溫度、力、高度、厚度和時間）以及作為產品的因變量（重量），我就可以建立模型，並得到類似 y=bo+b1x1+b2x2+... 的模型公式。然後，我將這個公式應用到我的線上流程系統中，以比較實際重量和模型預測的重量。我不確定我的理解是否正確，但我假設殘差越大，說明其中一個或兩個因素異常的可能性就越大，從而導致殘差過高。這就是我為什麼想使用迴歸模型的原因。
回到我上面的例子，因為我有歷史資料集，所以我很清楚哪個輸出是壞的。然後我運行模型，看看迴歸模型能否篩選出壞產品。在上面的兩個模型中，模型2正是我想要的，因為它指出了殘差較高的資料點。然而，為了得到這個模型2，我花了大量時間進行各種嘗試，直到我找到合適的模型。
回覆：如何選擇獨立參數以優化迴歸模型基於歷史資料建立模型既具有挑戰性又有風險。我建議利用歷史數據提出假設，並透過實驗設計進行驗證。歷史數據缺乏背景資訊。例如，您是否了解每個 x 值和 Y 值的測量誤差？您是否了解資料收集期間其他因素的影響？是否有數據失真問題？是否存在潛在的滯後因素效應？原料的波動情況又如何？雖然您的想法沒錯，但卻很危險。如果殘差值較大，這表示模型有問題，而不是像您所說的資料「不好」。如果您需要評估重量隨時間變化的穩定性，抽樣是更有效的方法。
雖然沒有絕對正確的方法，但在利用歷史資料建立模型時，我通常建議採用加性方法。此外，這離不開專家支援。從一階模型開始，然後根據需要增加階數。有許多統計量可以提供幫助（例如，調整後的R平方、調整後的R平方-R平方、均方根誤差、p值、殘差、AIC、BIC等）。殘差是實際值與模型預測值之差。它們用於深入了解基本假設（例如，平均值為0的隨機誤差，變異數恆定）。殘差有助於識別異常值，即模型對特定資料點的預測效果不佳。殘差也可以評估平均值為0的隨機誤差假設是否成立，這同樣表示模型有問題。殘差通常可以檢測出模型的不足之處，例如是否需要引入非線性項。
