Que représente une « estimation » pour les Arbres Boostés ?Bonjour
Questions pour les arbres boostés sous la plateforme de modélisation prédictive :
1- Que représente mathématiquement une "estimation" au niveau du split end ? S'agit-il d'un changement attendu de la réponse par changement unitaire du paramètre (c'est-à-dire la sensibilité) ?
2- En supposant par exemple 200 couches de modèle d'arbres boostés, le modèle final prédit est-il égal au 200ème, c'est-à-dire le modèle des dernières couches ou à une moyenne des 200 modèles ? Je ne sais pas trop lequel, en tant qu'arbre boosté, apprend des résidus du précédent .. donc j'ai tendance à penser que c'est peut-être le dernier modèle mais les méthodes d'ensemble sont des méthodes aggravées (contre-argument).
3- Existe-t-il une méthode pratique pour estimer les intervalles de confiance dans un modèle arborescent boosté ? Peut-être obtenir le résultat de chaque couche pour ensuite créer une distribution ?
Appréciez le soutien. merci.
Modélisation statistique avancéeÉtudes de consommation et de marchéExploration et visualisation des donnéesModélisation prédictive et apprentissage automatiqueRe : Que représente une « estimation » pour les Arbres Boostés ?merci Victor. Merci.
Re : Que représente une « estimation » pour les Arbres Boostés ?Bonjour @altug_bayram ,
1- Comme chaque arbre individuel du modèle d'arbres boostés est construit sur les résidus (erreurs) de l'arbre précédent, je dirais qu'une estimation est un nombre à ajouter à la moyenne de vos résultats (ce que vous essayez de modéliser/prédire) en fonction sur la catégorie/split dans laquelle vous vous trouvez. Les méthodes basées sur l'arborescence donnent des "profileurs d'étapes" (voir capture d'écran), où vous pouvez clairement voir comment la modification de la valeur d'un facteur peut augmenter soudainement la réponse en fonction de l'endroit où se situe la division.
2- Dans une méthode basée sur l'ensachage des arbres (comme Random Forest), le résultat final serait un résultat moyen/moyen des arbres individuels. Dans un algorithme de boosting tree, il faudrait additionner toutes les "estimations" des différents arbres (et y ajouter le résultat moyen) pour avoir les résultats prédits (en fonction du "chemin" du split choisi) : " L'arbre est ajusté en fonction des résidus des couches précédentes, ce qui permet à chaque couche de corriger l'ajustement des données mal ajustées des couches précédentes. La prédiction finale pour une observation est la somme des résidus prédits pour cette observation sur toutes les couches" (source : Arbre boosté - JMP 13 Modélisation prédictive et spécialisée [Livre] (oreilly.com) ).
3- Je ne suis pas sûr de celui-ci. Soit en utilisant les résidus du modèle, soit j'essaierais de booster les résultats RASE du modèle, afin de créer des intervalles d'amorçage de 95 % pour RASE afin d'avoir une meilleure évaluation de l'erreur de prédiction (Root Average Squared) du modèle, ou en utilisant le K- plie la validation croisée de la plateforme « Model Screening » pour avoir une meilleure estimation du RASE du modèle.
J'espère que cette première réponse vous aidera,
