Ursprüngliches Sitzungsdatum: 3. März 2022
Behandelte Themen: DOE, Raumfüllung, Python, maschinelles Lernen
Referent: Nick Shelton, Systems Engineer Manager
Die Optimierung von Machine-Learning-Hyperparametern ist ein wichtiger und manchmal angespannter Prozess. Die Variation eines einzelnen Hyperparameters kann die Wirksamkeit eines Modells stark verändern, und wenn Sie über 40 Hyperparameter haben, wie können Sie dann die idealen Einstellungen kennen? In der Vergangenheit bestand das Verfahren zum Identifizieren der optimalen Einstellungen darin, entweder ein Raster oder einen zufälligen Rahmen zu verwenden, um sie zu identifizieren. Hier führt uns Nick Shelton durch die Fallstricke beider Methoden und bietet uns eine neue Lösung an: Space-filling Design of Experiment. Er verwendet JMP Scripting Language (JSL), um Python direkt aufzurufen, um im Laufe von 30 Iterationen desselben Modells mehrere Hyperparameter gleichzeitig zu testen, um schnell die idealen Hyperparameter für Python zu identifizieren. Wirklich ein zeitsparendes und, wage ich zu sagen, Kopfschmerzen sparendes Tool, das jeder Programmierer für maschinelles Lernen einsetzen sollte.
Abbildung 1. Die Genauigkeit eines bestimmten maschinellen Lernalgorithmus beim Ändern nur eines einzigen Parameters unterstreicht die Notwendigkeit, die Hyperparameterauswahl zu optimieren.
Figur 2.Der Surface Profiler von JMP ermöglicht die 3D-Darstellung optimaler Hyperparametereinstellungen
Die Optimierung von Machine-Learning-Hyperparametern ist ein wichtiger und manchmal angespannter Prozess. Die Variation eines einzelnen Hyperparameters kann die Wirksamkeit eines Modells stark verändern, und wenn Sie über 40 Hyperparameter haben, wie können Sie dann die idealen Einstellungen kennen? In der Vergangenheit bestand das Verfahren zum Identifizieren der optimalen Einstellungen darin, entweder ein Raster oder einen zufälligen Rahmen zu verwenden, um sie zu identifizieren. Hier führt uns Nick Shelton durch die Fallstricke beider Methoden und bietet uns eine neue Lösung an: Space-filling Design of Experiment. Er verwendet JMP Scripting Language (JSL), um Python direkt aufzurufen, um im Laufe von 30 Iterationen desselben Modells mehrere Hyperparameter gleichzeitig zu testen, um schnell die idealen Hyperparameter für Python zu identifizieren. Wirklich ein zeitsparendes und, wage ich zu sagen, Kopfschmerzen sparendes Tool, das jeder Programmierer für maschinelles Lernen einsetzen sollte.
