Trainings- und Validierungsformeln unterschiedlichHi @russ_wolfinger ,
Ich habe eine Frage zur Art und Weise, wie XGBoost die Vorhersageformeln generiert. Ich hatte eine "ältere" Version von XGBoost mit einigen Daten ausgeführt und die Vorhersageformeln waren etwas anders als derzeit. Ich denke, dies könnte ein Update für XGBoost sein, das in diesem Beitrag erwähnt wurde
https://community.jmp.com/t5/XGBoost-Early-Adopter/Applying-the-XGBoost-model-to-new-data/gpm-p/241796#M20
Normalerweise führe ich XGBoost mit nur einer Trainings- und Validierungsaufteilung auf die Daten aus (eine einzelne Validierungsspalte). Wenn ich jetzt XGBoost ausführe, erhalte ich eine Prädiktorspalte für wann :Validation==Training und wann :Validation==Validation. Die Formeln unterscheiden sich geringfügig, und die endgültige Vorhersageformel wählt eine der beiden Lösungen aus. Ich verstehe nicht, warum es das tut.
Sollte die Plattform nicht einfach das Modell mit den Trainingsdaten generieren und dann die Validierungsdaten verwenden, um die optimalen Anpassungswerte auszuwählen? Es scheint seltsam, dass es zwei verschiedene Formeln generiert und dann entweder die Trainingsformel oder die Validierungsformel mittelt. Dies scheint es schwieriger zu machen, zukünftige Daten vorherzusagen, wenn sie in einer anderen Datentabelle zusammengeführt werden.
Tatsächlich habe ich es gerade versucht, und die neue Predictor-Spalte (die N Val und N Trn verwendet) füllt die neuen Vorhersagen nicht. Die Predictor-Spalten für Training und Validierung tun dies, aber wie oben erwähnt, sind die Formeln unterschiedlich und daher sind die Ausgaben unterschiedlich. Wie gehen wir mit neuen Daten vor?
Vielen Dank,
DS
Betreff: Trainings- und Validierungsformeln unterschiedlichHi @russ_wolfinger ,
Vielen Dank für Ihr Feedback. Es hilft zu verstehen, wie die Validierungsspalte für das aktualisierte XGBoost-Add-In korrekt codiert wird (je nachdem, ob k-fach oder nicht). Ich habe es gerade mit einer neu codierten Validierungsspalte getestet und es funktioniert korrekt.
Ich weiß die Hilfe zu schätzen!
Vielen Dank,
DS
Betreff: Trainings- und Validierungsformeln unterschiedlichHi @SDF1 ,
Sorry für die Verwirrung.Die Vorhersageformeln sind so eingerichtet, dass sie automatisch Out-of-Fold-Vorhersagen berechnen, wenn k-Fold durchgeführt wird.Wenn ich Ihren Fall richtig verstehe, kann der Code tatsächlich einen zweifachen Lebenslauf ausführen, der den beiden Ebenen Ihrer Validierungsspalte entspricht.Deshalb gibt es zwei verschiedene Formeln.
Um nur einen einzelnen Holdout-Validierungssatz durchzuführen, müssen Sie die Validierungsspalte so ändern, dass sie kontinuierlich ist, mit den Werten 0 für das Training und 1 für die Validierung.Wir haben diese Konvention eingerichtet, um beide Fälle zu handhaben, erkennen aber, dass sie sich von der Funktionsweise anderer JMP-Plattformen unterscheidet.
Um neue Daten vorherzusagen, müssen Sie möglicherweise manuell Werte für die val-Spalte festlegen, wie in dem von Ihnen verlinkten vorherigen Beitrag erwähnt, dann sollte die Formel durchgehen.
Hoffe, das klärt die Dinge auf - lass es mich wissen, wenn nicht.Schön, dass du das vorantreibst!
Russ
