Plateforme Bootstrap Forest > colonne « validation » vs partie « validation »2 questions (basiques ?) sur la plateforme forestière Bootstrap :
- Je peux donc spécifier une colonne de validation, en étiquetant les enregistrements comme « formation », « validation » ou « test » (60 %, 20 %, 20 %).
Mais il existe également une option « Portion de validation » (par défaut 0). Quelle est cette portion ? Et est-elle ignorée si une colonne de validation est spécifiée ?
- Je fournis des enregistrements de validation, je suppose donc que la plateforme exécutera l'optimisation des hyperparamètres. Quel rapport de plateforme répertorie l'historique de recherche des hyperparamètres ?
Modélisation prédictive et apprentissage automatiqueRe: Plateforme Bootstrap Forest > colonne « validation » vs partie « validation »Bonjour @LargeDormouse25 ,
Concernant vos questions :
- La partie Validation peut être utile si vous n'avez pas spécifié d'ensembles de validation (et de test) à l'aide du rôle Validation. Si vous ajoutez une colonne de validation avec des ensembles d'entraînement, de validation (et de test) à l'aide du rôle Validation, la partie Validation sera ignorée :
- La validation est principalement utilisée dans cette plateforme pour permettre un « arrêt anticipé », afin de mieux évaluer l'impact du nombre d'arbres et de leur profondeur. L'ensemble de validation sera utilisé pour éviter le surapprentissage en utilisant trop d'arbres individuels/trop profonds dans la forêt.
Notez que vous pouvez affiner les hyperparamètres de Bootstrap Forest (ainsi que d'autres modèles ML dans JMP) en utilisant une table de conception de réglage . Découvrez comment configurer votre table et l'utiliser pour le réglage des hyperparamètres ici : Exemple supplémentaire de la plateforme Bootstrap Forest
Si vous avez utilisé une table de conception de réglage, la liste des combinaisons d'hyperparamètres testées et leurs résultats seront affichés dans le rapport d'analyse :
Quelques conversations précédentes sur la table de conception de réglage pour le réglage fin des hyperparamètres :
Existe-t-il un moyen d'effectuer une validation croisée k-fold avec un arbre boosté ?
Arbre optimisé - CONCEPTION DE LA TABLE DE RÉGLAGE
Dysfonctionnement dans Bootstrap Forest avec Tuning Design Table ?
Vous souhaitez exécuter la même table de conception de réglage pour plusieurs variables y
Notez que Random Forest (appelé Bootstrap Forest dans JMP) est l'un des modèles d'apprentissage supervisé les plus robustes disponibles dans le Machine Learning. Contrairement à d'autres algorithmes possibles, c'est l'un des rares modèles qui est moins sensible au réglage des hyperparamètres, et vous pouvez obtenir de bonnes performances pour Random Forests avec les paramètres de base recommandés/par défaut de JMP Pro.
Pour plus d'informations sur la « tunability » des modèles de Machine Learning (impact du réglage des hyperparamètres sur les performances), vous pouvez consulter cet article : [1802.09596] Ajustabilité : importance des hyperparamètres des algorithmes d'apprentissage automatique (arxiv.org)
J'espère que cette réponse vous aidera,
Re: Plateforme Bootstrap Forest > colonne « validation » vs partie « validation »Salut Victor,
Concernant l'utilisation d'une table de réglage pour la recherche HyperParam,
J'ai une incompatibilité entre les paramètres spécifiés
et les paramètres rapportés par la validation du modèle.
Il semble donc que « Portion Bootstrap », « Minimum Splits per Tree » et « Minimum Size Split » ne soient pas pris en compte dans la validation du modèle. Pouvez-vous confirmer que ces noms de paramètres sont corrects dans ce contexte ?
Re: Plateforme Bootstrap Forest > colonne « validation » vs partie « validation »Bonjour @LargeDormouse25 ,
Veuillez consulter la discussion suivante mentionnée dans mon article précédent, vous y trouverez quelques explications sur la dénomination correcte des hyperparamètres, où les trouver et quelques tableaux déjà préparés avec la dénomination correcte pour le réglage des hyperparamètres :
Dysfonctionnement dans Bootstrap Forest avec Tuning Design Table ?
