Ciao a tutti
Se disponi di alcuni materiali per l'algoritmo della rete neurale di JMP come di seguito, faccelo sapere.
-se sia normalizzato o non in input
-I tipi di inizializzazione e impostazione dei parametri
-Metodo di inizializzazione di W, b
-Impostazione della velocità di apprendimento
-Epoca No. impostazione
-come controllare la curva di apprendimento per visualizzare il processo di ottimizzazione del set di validazione
-default valore dell'hyper parametro
IkJu,
Chris Gotwalt ha scritto un eccellente white paper sull'algoritmo NN:
https://www.jmp.com/content/dam/jmp/documents/en/white-papers/wp-jmp9-neural-104886.pdf . Baso la mia risposta di seguito sul suo documento e documentazione JMP.
(SE: sentitevi liberi di entrare. )
Jian
-se sia normalizzato o non in input
C'è un'opzione chiamata Transform Covariate nella finestra di lancio del modello. Fare riferimento a pagina 5 per maggiori dettagli.
-I tipi di inizializzazione e impostazione dei parametri
“All'inizio vengono generati valori iniziali casuali normalmente distribuiti e il parametro di penalità è impostato su zero. Dopo questo adattamento iniziale, viene quindi scelto un valore candidato diverso da zero del parametro di penalità e viene intrapresa una ricerca di riga univariata sul parametro di penalità. ”(Pagina 7)
-Metodo di inizializzazione di W, b
Valori casuali normalmente distribuiti (Pagine 4 e 7))
-Impostazione della velocità di apprendimento
L'impostazione predefinita è 0,1, ma è possibile scegliere qualsiasi valore tra (0, 1] nella finestra Avvio modello.
-Epoca No. impostazione
Il numero di tour può essere impostato nella finestra di lancio del modello. È uno per impostazione predefinita.
-come controllare la curva di apprendimento per visualizzare il processo di ottimizzazione del set di validazione
In NN JMP non mostra la convalida cumulativa. Un buon suggerimento in quanto mi piacerebbe vedere un rapporto simile a quello di Boosted Trees.
-default valore dell'hyper parametro
Questi valori "predefiniti" di iperparametri vengono visualizzati nella finestra Avvio modello. Ad esempio, un livello, TanH con 3 nodi, 1 tour, ecc. Definirei il modello utilizzando queste impostazioni come modello di base poiché la procedura consigliata consiste nell'adattare diversi modelli con impostazioni diverse e quindi confrontarli.