La mia domanda riguarda l'uso della convalida incrociata K-fold per le reti neurali artificiali (NN). Nello specifico, voglio sapere da dove provengono i parametri finali del modello NN? Sono stati ottenuti adattando l'intero set di dati? Oppure provenivano da un adattamento a uno dei set di dati K costituiti da pieghe K-1 utilizzati per l'addestramento? Se sì, come è stato scelto il miglior set di dati di training? La documentazione SAS non è chiara su questo tema. C'è qualcuno che ha una risposta?
Sembra quindi che i parametri del modello finale siano quelli che si adattano al "set di addestramento del modello finale", ovvero il set di addestramento che corrisponde al "set di convalida" che produce la migliore probabilità di log. Ha senso, ma la descrizione mi confonde. Grazie per la risposta.
Da quanto ho capito, viene utilizzato il parametro del migliore dei modelli K.
Questo proviene dalla documentazione di aiuto sulla piattaforma di regressione generalizzata, ma mi aspetto che lo stesso si applichi alla piattaforma neurale: https://www.jmp.com/support/help/en/15.1/#page/jmp/validation-method-options.shtml
"Per ciascun valore del parametro di ottimizzazione, vengono eseguiti i seguenti passaggi:
–Le osservazioni sono suddivise in k sottoinsiemi, o pieghe.
–A sua volta, ogni piega viene utilizzata come set di convalida. Un modello si adatta alle osservazioni non in piega. La log-verosimiglianza basata su quel modello viene calcolata per le osservazioni nell'ovile, fornendo una log-verosimiglianza di convalida.
–Viene calcolata la media delle probabilità logaritmiche di validazione per le k pieghe. Questo valore funge da probabilità di log di convalida per il valore del parametro di ottimizzazione.
Il valore del parametro di ottimizzazione con la massima probabilità di log di convalida viene utilizzato per costruire la soluzione finale. Per ottenere il modello finale, tutti i modelli k derivati per il valore ottimale del parametro di ottimizzazione sono adattati all'intero set di dati. Di questi, il modello che ha la più alta probabilità logaritmica di validazione viene selezionato come modello finale. Il set di addestramento utilizzato per quel modello finale è designato come set di addestramento e la piega di controllo per quel modello è il set di convalida. Questi sono i set di training e validazione utilizzati nei grafici e nei risultati riportati per la soluzione finale."
