Lasso/Elastic 網路中的訓練與驗證 R2各位,
我將 k 折交叉驗證與懲罰迴歸模型(套索、彈性網)結合使用,並希望檢查訓練/驗證集的(平均)R2 值,以檢查是否有過度擬合和解釋變異數。 我已經搜索了很多選項,但我找不到。 有沒有辦法展示這一點? 如果可以將其顯示在概覽表中,那就太好了,這樣我就可以用它來選擇模型。
謝謝你,馬庫斯
蘋果系統預測建模和機器學習回覆:Lasso/Elastic 網路中的訓練和驗證 R2謝謝,但我當然知道模型篩選平台,但它運行簡化模型,並且不提供完整模型的選項。 例如,我假設模型篩選中的神經模型是一個相當簡單的模型,只有幾個隱藏單元。
例如,當我想使用更複雜的 2 層神經模型進行嵌套交叉驗證時,這不能透過模型篩選來完成,不是嗎?
還有其他事情只能在內循環中完成。 例如,插補通常僅在內循環內完成,因為使用包括獨立測試樣本在內的整個樣本進行插補是不公平的。
因此,我正在尋找一個可以完成嵌套交叉驗證的腳本。 例如,我可以只在內部循環中插入插補。
回覆:Lasso/Elastic 網路中的訓練和驗證 R2你好@馬庫斯JH ,
歡迎來到社區!
要回答您的問題,一種選擇是使用「分析」、「預測建模」功能表中提供的「模型篩選」平台。
進入「模型篩選」平台後,您可以取消選擇「廣義迴歸」和「其他方法」(此處在泰坦尼克號資料集上完成)以外的方法,並指定是否要在模型中包含2 個因子交互作用或二次項。 如果您想要可重現的結果,您也可以指定交叉驗證的折疊數和隨機種子:

分析完成後,您可以看到驗證結果作為跨折疊的摘要。 此匯總表可以幫助您選擇最合適的模型(您可以選擇您想要查看更多詳細資訊的模型(或按一下「選擇主導」),然後按一下「執行所選」以開啟廣義回歸平台以獲取有關所選模型的更多詳細資訊):

您也可以透過開啟「訓練」和「驗證」選單來按折疊查看各個結果(如果需要)(在「訓練」中,可以在每種訓練模型類型的最後一列中看到折疊標識符) :

我希望我理解你的問題並且這個答案會對你有幫助。
如果我誤解了某些內容並且這不是您所期望的,您能否提供更多詳細信息,說明您目前使用哪個平台,您已經擁有哪些資訊以及缺少哪些資訊?
回覆:Lasso/Elastic 網路中的訓練和驗證 R2……或者另一件事,人們想要在內循環中做的就是超參數選擇,例如隱藏單元的數量。
當然,在內循環結束時,必須有一個標準來定義最佳模型,然後將其提交給外循環交叉驗證。
回覆:Lasso/Elastic 網路中的訓練和驗證 R2我向 JMP 詢問了有關彈性網絡回歸以及如何獲得某種形式的 R 平方的類似問題,得到的答復是它不適用於 KFold 或留一驗證方法,僅適用於 AICc 和 BIC。所以我認為你必須自己手動計算。我認為這很煩人,因為 SAS 可以做到這一點。
回覆:Lasso/Elastic 網路中的訓練和驗證 R2@馬庫斯JH
您可以使用「分析」>「預測建模」選單中的「模型比較」平台來比較 k 個折疊中的 R2 值。請依照下列步驟操作:
- 使用「建立驗證列」公用程式建立 K 折疊列,然後選擇「建立 K 折疊列」(位於對話方塊視窗的左下角)。
- 啟動 Gen Reg 並將 KFold 欄位載入為驗證角色。
- 運行迴歸模型(Elastic Net、Lasso 等)並確保選擇驗證列作為驗證方法。
- 當您對模型感到滿意時,將預測公式儲存到資料表中。
- 若要查看每次折疊的 R2 值,請從分析 > 預測建模選單啟動模型比較
- 將已儲存的公式列載入為 Y,將 KFold 驗證列載入為群組
- 產生的報表將向您顯示列中每個折疊的適合度量:
