Reti neuraliQuanto sono affidabili le reti neurali? Quando non ho impostato il seme ho ottenuto risultati diversi, quindi ho impostato il seme, ma quando cambio il seme da 1234 a 100 ottengo anche risultati diversi. Sono interessato all'importanza variabile che cambia completamente ogni volta che eseguo il modello. Ho anche provato ad aumentare il numero di tour ma cambia ancora l'importanza variabile. Sto usando la convalida di Kfold, 3 per la struttura dei livelli nascosta, 10 per il numero di modelli, 0,1 per il tasso di apprendimento, trasforma le covariate e l'adattamento robusto, il metodo della penalità al quadrato e 20 numero di tour. RSquare è di circa 0,9 sia per la formazione che per la convalida.
Grazie,
Shanice Krombeen
Re: Reti neuraliAdattare il NN per giorno significa che all'interno di ogni sottoinsieme, ogni piega è 12-15 osservazioni, quindi la stabilità delle stime sarà influenzata negativamente.
Detto questo, i principali predittori sono generalmente gli stessi e mostrano profili simili in entrambe le corse. È possibile rimuovere alcuni di questi predittori, forse fino alla metà, dal modello con poca perdita di prestazioni, ma il modello parsimonioso risultante sarà più stabile su esecuzioni NN.
Inoltre, stai adattando un modello molto complesso. Ci sono 18 nodi nascosti. La risposta è davvero così complicata? L'eccessiva vestibilità del modello influirà anche sulla stabilità delle piste.
Se la risposta dipende dal tempo, come dici tu, per me ha più senso includere Day come predittore e utilizzare il set di dati più ampio e combinato per una migliore stabilità.
Re: Reti neuraliSì, la dimensione del campione varia da 60 a 91. Le variabili sono espressione di diversi trasportatori di nutrienti nella placenta o nell'endometrio il giorno 70, 90 o 110 di gestazione. Il giorno è un effetto significativo e l'espressione probabilmente differisce di giorno in giorno, motivo per cui ho adattato il modello di giorno. È vero che gli effetti sono piccoli, quindi potrebbe essere per questo che l'importanza delle variabili cambia molto. Ecco un esempio di quello che sto vedendo.
Neural Network Run 1Neural Network Run 1Neural Network Run 1Neural Network Run 1Neural Network Run 1Neural Network Run 1Esecuzione della rete neurale 1
Neural Network Run 2Neural Network Run 2Neural Network Run 2Neural Network Run 2Neural Network Run 2Neural Network Run 2 Esecuzione della rete neurale 2
Re: Reti neuraliQuindi la dimensione del campione varia da 60 a 91? Sembrano dati sufficienti per k-fold CV. Tuttavia, se gli effetti sono piccoli, le stime e l'importanza della variabile di accompagnamento potrebbero cambiare molto con ogni assegnazione casuale ai set di addestramento e convalida. Ecco un semplice caso basato sull'esempio Big Class e un NN che utilizza le impostazioni predefinite tranne che la convalida utilizza CV 5 volte.
(Primo divertimento)
(Seconda corsa)
Queste due esecuzioni utilizzano lo stesso set di dati e impostazioni ma comportano assegnazioni casuali diverse alle cinque pieghe. Questa variabilità è simile a quella che vedi?
Perché non includere Giorno come predittore e quindi la dimensione del set di dati sarà 209?
Re: Reti neuraliCi sono 209 osservazioni totali nel set di dati, ma sto adattando il modello di giorno in giorno. Giorno 70 = 60, Giorno 90 = 91 e Giorno 110 = 58.
Re: Reti neuraliQuante osservazioni totali hai nel tuo set di dati?
Re: Reti neuraliDovrei semplicemente scegliere il modello con la R più alta? Ogni volta che inserisco il modello, il quadrato R è sempre alto (tra .90 e .94), ma l'importanza della variabile sotto il profilo di previsione cambia in modo significativo.
Re: Reti neuraliLe reti neurali sono modelli predittivi affidabili. Stai usando la convalida incrociata k-fold quindi, ovviamente, ogni volta che adatti il modello, otterrai stime e risultati diversi. Il fatto che stai ottenendo praticamente lo stesso quadrato R per i set di addestramento e convalida è una buona indicazione che il modello è adatto.
È possibile salvare il modello adattato come formula di colonna. Quindi non è necessario adattare nuovamente il modello e le stime non cambieranno quando si utilizza il modello.
Re: Reti neuraliCiao Marco,
Grazie per la tua risposta! È super utile per me capire il modello delle reti neurali.
Se non imposto il seed casuale, c'è un modo per ottenere il numero di seed per l'attuale modello NN?
Inoltre, c'è un modo per ottenere il numero di seed storico? Ho un buon modello ma non conoscevo il seed e voglio ripetere il modello la prossima volta.
Grazie!
Migliore,
Jiapingo
Re: Reti neuraliIl seed predefinito è 0 per il primo fit. A questo punto puoi specificare un seed alternativo. Il fitting usa una serie di numeri pseudo-casuali, che cambiano il seed lungo il percorso. I fitting successivi usano l'ultimo seed. Non puoi specificarlo dopo il primo fit.
Un seed specificato dall'utente viene catturato se si salva uno script per Neural. Questa azione non si verifica se si utilizza il seed predefinito, ma è sempre possibile riprodurre gli adattamenti utilizzando quello predefinito la volta successiva.
Non è possibile ottenere il seme di partenza da una pianta vecchia.
Re: Reti neuraliCiao Marco,
Grazie per la risposta!
Quando impostiamo il seme casuale, determiniamo il modo per la convalida incrociata?
Quando imposto il seed casuale a 1 e ottengo un modello, ottengo un'opzione "vai" in alto "lancio modello". Dopo aver cliccato su vai, si ottiene un altro modello con R^square leggermente diverso. Cosa fa la differenza del modello R^2 rispetto al precedente quando clicco su "Vai"?
Se non specifico il seed casuale e clicco su "Vai", otterrò modelli diversi con seed casuali diversi?
Grazie!
Re: Reti neuraliIl seed casuale determina l'inizio della sequenza di numeri casuali utilizzata dall'algoritmo della piattaforma. Il seed predefinito di 0 indica a Neural che non si desidera determinare la sequenza. Avviare Neural più di una volta e adattarlo con un seed predefinito di 0 non porterà, pertanto, a risultati riproducibili. È possibile modificare il seed per riavviare la sequenza. Se si avvia nuovamente Neural e si modifica il seed con lo stesso valore diverso da zero, si otterrà lo stesso adattamento.
Puoi impostare il seed solo all'inizio. Per avviare la stessa sequenza usando lo stesso seed iniziale, dovresti rilanciare Neural.
