以單一懲罰重新擬合套索迴歸場景：我使用驗證資料來調整我的套索懲罰，現在我想重新調整我的所有資料（訓練+驗證），指定優化的懲罰項目。
無論如何，我看不到在廣義回歸平台中做到這一點。這裡推薦什麼？
預測建模和機器學習回复：以單次懲罰重新擬合套索回歸讓我再嘗試一次。 Lasso/Ridge/Elastic Net 是一種懲罰回歸方法，通過最小化殘差平方和加上與回歸係數大小的函數成比例的懲罰項，將線性模型擬合到數據。 JMP 中的行為是擬合一系列模型，其中懲罰項的權重在網格上變化，並且通過選定的標準選擇最佳懲罰。
我的問題是：如果我知道我想使用什麼懲罰權重，有沒有辦法直接用那個懲罰權重擬合新數據？ 如果我想用我之前確定的懲罰來擬合更大的數據集並且對再次優化該懲罰權重不感興趣，這可能很有用。 可以通過將網格點數設置為 1 並根據所需的懲罰權重指定“最小懲罰分數”來實現這一點，但這不起作用（不接受 1 的網格大小）以及如何文檔中不清楚將 lambda 懲罰轉換為“最小懲罰分數”。
回复：以單次懲罰重新擬合套索回歸從本質上講，這聽起來像是您要求使用您選擇的模型對觀察結果進行評分。 保存 DS 提到的預測公式將顯示所有觀察結果的預測，包括訓練集和驗證集。 如果您有興趣對新觀察進行評分，那麼您應該將您的預測公式發佈到公式庫。 然後，當您打開新數據表時，您可以在新表上運行公式腳本。 這將對所有新的觀察結果進行評分。
或者，您可以從數據表中剪切預測公式並將其粘貼到新表中的新公式列中。
回复：以單次懲罰重新擬合套索回歸我感興趣的場景是我使用固定數據分區（驗證列）並運行懲罰回歸（無論套索、脊或彈性網）。 這些為我提供了一個解決方案路徑和一個基於驗證數據的縮放對數似然的優化模型。 返回的調整參數可用於（快速）使用附加訓練數據在調整參數的預先指定值處擬合更新的模型。 有沒有辦法在不生成整個解決方案路徑的情況下運行套索（或脊或彈性網）？
回复：以單次懲罰重新擬合套索回歸你好@米特曼,
雖然我不確定實際的底層算法是什麼，但對 Lasso 建模進行的調整非常有限。通過 L1 懲罰。 它非常擅長縮小不重要的因素，但如果因素和響應之間存在多重共線性，那就不是很好了。 要記住的是，當您使用交叉驗證（使用驗證列）時，算法會使用它來開始最小化因子的估計值。 這有助於算法將不重要的因素驅動為 0 並簡化模型。 如果您重新運行（即使使用相同的網格間距/間距類型和懲罰分數），您最終會得到不同的模型，因為它將使用不同的驗證方法來簡化模型。 如果您想比較與您的驗證列擬合的模型與使用 AICc 或 K-fold 的模型，對於您生成的每個模型，您可以轉到擬合旁邊的紅色熱按鈕並選擇保存列 > 保存預測公式。 然後，您可以比較不同模型對響應的擬合程度，例如在模型比較平台下。
其他一些想法：
1. 您可以考慮使用 Elastic Net，因為它結合了 L1（Lasso）和 L2（Ridge）懲罰方法。 兩全其美。
2. 您可能希望對因子的估計值運行一些引導程序或模擬，以確定它們的大小以及它們是否真的重要。 請務必將幅度與估計的標準誤差進行比較，以查看誤差是否大於估計本身。
3. 如果您正在構建模型，最好在 JMP 中運行其他建模平台，看看哪個模型更適合。 可能是 KNN 或 SVM 或 NN 模型在預測能力方面實際上優於其他模型。 請務必查看其他一些建模平台，例如 SLS、GenLinReg 等。您永遠不知道哪種模型最終會勝過其他模型。
4. 如果您使用驗證列進行交叉驗證，您可能會考慮如何將數據劃分為訓練和驗證，因為這會影響模型性能。
5. 如果您的數據來自 DOE，並且您正在使用 GenReg 平台，根據經驗，最好將自己限制在 GenReg 平台中的前五種估計方法。
希望這可以幫助！，
DS
