神經網絡:驗證與測試集我知道驗證集可用於通知模型構建過程,而測試集未被觸及。 例如,在其他模型中,驗證 R2 可以用作停止規則。 神經網絡中如何使用驗證集?我無法在 JMP 文檔或網上找到任何關於此的信息。 謝謝。
回复:神經網絡:驗證與測試集數據的訓練子集用於擬合神經網絡模型。 然後使用該模型來預測驗證集中的觀察結果。 驗證集絕不會用於參數估計。 沒有“停止規則”,因為模型不會像在 Partition 或 Stepwise 中那樣改變(術語/參數的數量)。
如前所述,您比較訓練和驗證的性能以評估您是欠擬合還是過擬合。
回复:神經網絡:驗證與測試集使用 JMP Pro 構建神經網絡時的一些選擇:
- 一層或兩層
- 每層節點數
- 節點類型
- 應用boosting時的數量和學習率
所有這些選擇都代表您選擇用來調整模型以獲得最佳擬合的參數。調得太高,你會過度擬合。 因此,驗證集用於幫助防止由於您選擇這些調整參數而導致模型過度擬合。
由於您使用驗證集來幫助選擇模型參數,因此它不再是對模型性能的獨立評估。這就是測試集的用武之地。
回复:神經網絡:驗證與測試集是的,但它與測試集有什麼不同。 在模型構建過程中必須以某種方式使用它作為檢查。
回复:神經網絡:驗證與測試集我通常使用神經網絡中的驗證結果來檢查過度擬合。