Hallo allerseits
Wenn Sie Material für den Algorithmus des neuronalen Netzwerks von JMP wie folgt haben, lassen Sie es mich bitte wissen.
-wenn normalisiert oder nicht in der Eingabe
-Die Arten der Initialisierung und Parametereinstellung
-Initialisierungsmethode von W, b
-Einstellung der Lernrate
-Epoch Nr. Einstellung
-Wie man die Lernkurve überprüft, um den Optimierungsprozess des Validierungssatzes zu visualisieren
-Standardwert des Hyperparameters
IkJu,
Chris Gotwalt hat ein exzellentes Whitepaper zum NN-Algorithmus geschrieben:
https://www.jmp.com/content/dam/jmp/documents/en/white-papers/wp-jmp9-neural-104886.pdf . Ich stütze meine Antwort unten auf sein Papier und seine JMP-Dokumentation.
(SEs: bitte zögern Sie nicht, sich einzuschalten. )
Jian
-wenn normalisiert oder nicht in der Eingabe
Es gibt eine Option namens "Covariate transformieren" im Fenster "Modellstart". Siehe Seite 5 für weitere Einzelheiten.
-Die Arten der Initialisierung und Parametereinstellung
„Zu Beginn werden normalverteilte zufällige Startwerte generiert und der Penalty-Parameter auf Null gesetzt. Nach dieser anfänglichen Anpassung wird dann ein Kandidatenwert ungleich Null für den Strafparameter ausgewählt und eine univariate Liniensuche für den Strafparameter durchgeführt. “(Seite 7)
-Initialisierungsmethode von W, b
Normalverteilte Zufallswerte (Seiten 4 & 7)
-Einstellung der Lernrate
Der Standardwert ist 0.1. Sie können jedoch im Modellstartfenster einen beliebigen Wert zwischen (0, 1) auswählen.
-Epoch Nr. Einstellung
Die Anzahl der Touren kann im Modellstartfenster festgelegt werden. Es ist standardmäßig Eins.
-Wie man die Lernkurve überprüft, um den Optimierungsprozess des Validierungssatzes zu visualisieren
In NN zeigt JMP die kumulative Validierung nicht an. Ein guter Vorschlag, da ich einen Bericht ähnlich dem in Boosted Trees sehen möchte.
-Standardwert des Hyperparameters
Diese "Standard" -Hyperparameterwerte werden im Modellstartfenster angezeigt. Zum Beispiel eine Ebene, TanH mit 3 Knoten, 1 Tour usw. Ich würde das Modell, das diese Einstellungen verwendet, als Basismodell bezeichnen, da die beste Vorgehensweise darin besteht, mehrere Modelle mit unterschiedlichen Einstellungen anzupassen und sie dann zu vergleichen.