Date de la session initiale : 3 mars 2022
Sujets abordés : DOE, remplissage d'espace, Python, apprentissage automatique
Conférencier : Nick Shelton, ingénieur système responsable
L'optimisation des hyperparamètres d'apprentissage automatique est un processus important et parfois difficile. La variation d'un seul hyperparamètre peut considérablement modifier l'efficacité d'un modèle et lorsque vous avez plus de 40 hyperparamètres, comment pouvez-vous connaître les paramètres idéaux ? Historiquement, la procédure pour identifier les paramètres optimaux consistait à utiliser une grille ou un cadre aléatoire pour les identifier. Ici, Nick Shelton nous guide à travers les pièges des deux méthodologies et nous propose une nouvelle solution : Space-filling Design of Experiment. Il utilise JMP Scripting Language (JSL) pour appeler directement Python afin de tester plusieurs hyperparamètres à la fois au cours de 30 itérations du même modèle afin d'identifier rapidement les hyperparamètres idéaux pour Python. Vraiment un gain de temps et, oserais-je dire, un outil d'économie de maux de tête que tout programmeur d'apprentissage automatique devrait utiliser.
Figure 1. La précision d'un algorithme d'apprentissage automatique donné lors de la modification d'un seul paramètre souligne la nécessité d'optimiser la sélection des hyperparamètres.
Figure 2.Le profileur de surface de JMP permet une représentation 3D des paramètres d'hyperparamètres optimaux
