Ich habe Boosted Tree oder ein Regressionsproblem ausgewählt, nachdem es sich beim Modellscreening als das leistungsstärkste Modell herausgestellt hatte.
Darf ich fragen, wie ich das Tuning-Tabellen-Design nutzen kann, um die Leistung des Boosted Tree weiter zu optimieren?
Hallo @AlphaPanda86751 ,
Eine Tuning-Tabelle kann in der Tat hilfreich sein, wenn Sie Hyperparameter des ausgewählten Algorithmus feinabstimmen möchten, um die Vorhersageleistung zu verbessern.
Darf ich fragen, ob Sie bereits eine Validierungsstrategie haben, um eine Überanpassung zu verhindern: k-fache Kreuzvalidierung, Validierungsspalte, andere ...? Boosted Tree kann schneller zu einer Überanpassung führen als andere baumbasierte Methoden (wie Bootstrap Forest), daher ist es immer am besten, eine Validierungsstrategie festzulegen und festzulegen, bevor Sie versuchen, die Leistung zu optimieren.
Um das Tuning-Table-Design zu verwenden, können Sie eine Tabelle manuell erstellen, indem Sie die Hyperparameter-Faktoren in Spalten (Anzahl der Schichten, Splits pro Baum, Lernrate, Mindestgrößen-Split, ...) festlegen, um alle Kombinationen zu testen ("grid -Suchansatz"), oder Sie können auch ein Tuning-Table-Design mit der Plattform "Custom Design" generieren, indem Sie die verschiedenen Hyperparameterfaktoren, die Sie untersuchen/feinabstimmen möchten, den Wertebereich für jeden und das Modell/die Komplexität angeben der verschiedenen Kombinationen/Wechselwirkungen, die Sie in diesem Hyperparameterraum untersuchen möchten. Weitere Informationen finden Sie hier (die Informationen stammen von der Bootstrap Forest-Plattform, aber die Technik ist für Boosted Tree sehr ähnlich): Starten Sie die Bootstrap Forest-Plattform (jmp.com)
Anbei finden Sie ein Beispiel einer Tuning-Tabelle, die von der Custom Design-Plattform generiert wurde.
Anschließend können Sie Ihre Boosted Tree-Plattform mit der zuvor festgelegten Validierungsstrategie starten und JMP die Tuning-Tabelle verwenden lassen, um die verschiedenen Hyperparameterwerte zu testen.
Hier ist ein Beispiel für die Ergebnisse mit einer Schichtungsvalidierungsspalte im Diamonds-Datensatz mit „normalem“ (nicht feinabgestimmtem) Boosted Tree:
Und hier sind die Ergebnisse unter Verwendung einer Tuning-Tabelle:
Hier gibt es keine großen Unterschiede zwischen den „Standard“-Einstellungen in JMP und der fein abgestimmten Version von Boosted Tree, aber es kann hilfreich und interessant sein, die Feinabstimmung auszuprobieren, um die Leistungsänderungen zu bewerten. Sie können auch die "Robustheit" Ihrer Hyperparameter-Feinabstimmung bewerten, wenn Sie eine Validierungsformelspalte verwendet haben (klicken Sie mit der rechten Maustaste auf Rsquare, RASE oder andere Bewertungsmetriken und verwenden Sie "Simulieren", um die Validierungsspalte ein- und auszuschalten, und einen zufälligen Startwert setzen, um reproduzierbare Ergebnisse für den Vergleich zu haben) :
Auch hier macht es keinen großen Unterschied, da die Standardeinstellungen in JMP gut und recht robust sind, aber Sie können es selbst versuchen.
Anbei finden Sie die Datentabelle mit den durchgeführten Simulationen und dem Diagrammskript, und Sie finden die Datentabelle für Diamantdaten im Beispielindex oder auch hier angehängt (um die Validierungsspalte zu haben und die hier vorgestellten Schritte zu reproduzieren).
Ich hoffe, dies wird dir helfen,
