Paramètres de réglage de la forêt Bootstrap, nombre de divisions et formule de prédictionCher JMP et communauté,
(W10 Entreprise, JMP Pro 15.0.0)
Je suis curieux de savoir quels paramètres de réglage pour la modélisation de la forêt bootstrap ont un impact sur le nombre de divisions sur chaque facteur. Je sais comment utiliser une table de réglage, etc. pour optimiser l'ajustement afin de maximiser l'ajustement, par exemple R ^ 2 pour l'ensemble de validation. Parmi les six paramètres mis en évidence ci-dessous, lesquels peuvent affecter le nombre de divisions (à partir des contributions des colonnes) ?
Si vous regardez la sortie du rapport de la forêt d'amorçage, il y a une colonne dans les contributions de colonne appelée « Nombre de divisions ». Si vous additionnez ces divisions, cela donne le nombre total de divisions dans la forêt. Pris individuellement, il s'agit du nombre de fois où le modèle s'est divisé sur un paramètre donné.
Si vous commencez ensuite à examiner en détail la formule que vous pouvez enregistrer dans le tableau de données, il peut parfois y avoir des différences entre le nombre de fois où le paramètre est compté dans une formule et le nombre de divisions sur ce paramètre.
Par exemple, si un paramètre comporte 1 000 divisions, il doit apparaître deux fois dans la formule, pour un total de 2 000 fois, ce qui est logique. Cependant, cela n'arrive pas toujours. Je soupçonne que cela est dû à l'un des paramètres de réglage, mais je n'en suis pas sûr. Si ce n’est pas le cas, qu’est-ce qui pourrait affecter cela ?
Pour donner un exemple spécifique, vous trouverez ci-dessous une capture d'écran des contributions de colonne provenant d'un ajustement et en les comparant à 2*nombre de divisions et au nombre de fois que ce paramètre est compté dans la formule. Comme on peut le voir, le nombre de fois où le paramètre apparaît dans la formule (par exemple 12626 pour X_1) ne correspond pas à 2*nombre de divisions (12636 pour X_1). Parfois c'est proche, et parfois c'est assez grand (voir colonne "Différence"). De plus, ce qui est intéressant, c'est que les différences totalisent zéro. Ainsi, la cause de ces différences est « pondérée » de telle manière qu’elle ne modifie pas réellement le nombre total de divisions, mais simplement la façon dont elles sont allouées.
Je trouve très intéressant que dans la formule le paramètre X_11 se retrouve 276 fois plus que 2*nombre de splits. Pour moi, cela suggère qu'à certains moments, il ne s'agit pas de décider de manière égale sur X_11, mais plutôt sur un autre paramètre. Et cela de telle manière que le nombre total de divisions reste constant. Cela pourrait-il être lié aux termes échantillonnés par division ou à la taille minimale de la division ? J'ai essayé quelques tests manuels et je n'ai pas pu déterminer comment l'un ou l'autre affectait le nombre de fractionnements.
À propos, je copie la formule dans Word et je fais un simple décompte sur le paramètre X_1, X_2, etc. Compte tenu de la taille de la formule et du nombre d'arbres, je ne peux pas effectuer une recherche manuelle pour trouver qu'est-ce qui cause cela. Malheureusement, je ne connais aucun moyen d'évaluer la formule avec Text Explorer ou quelque chose de ce genre dans JMP.
Tous les commentaires des développeurs JMP ou des modélisateurs de la communauté sont très appréciés.
Merci,
DS
Re : Paramètres de réglage de la forêt Bootstrap, nombre de divisions et formule de prédictionSalut @Byron_JMP ,
Oui, je comprends que le nombre de divisions est le nombre de fois que l'algorithme choisit de diviser un arbre sur cette variable particulière. Si vous approfondissez un peu la formule écrite dans la colonne, le nombre de divisions indiqué dans la colonne Contributions n'est pas toujours exactement la moitié de celui du nombre de fois où le facteur X est compté dans la formule.
Vous pourriez considérer qu’une décision d’arbre pourrait ressembler à quelque chose comme (juste à titre d’exemple) :
Si (manquant (X_1) | X_1 <=32, 41, 35)
Si tel est le cas pour chaque décision, alors vous vous attendez à ce que le nombre de fois où X_1 apparaît dans la formule soit exactement 2*le nombre de divisions associées à ce facteur.
Mais si l’arbre de décision ressemble plutôt à :
Si (manquant (X_1) | X_3 > 16, 20, 18)
Vous pourriez alors vous retrouver dans une situation où le nombre de fois qu'un arbre est divisé sur cette variable diffère du nombre de fois où il apparaît dans la formule. Qu’est-ce qui pourrait motiver cela lorsque les arbres de décision seront construits ?
Dans la situation particulière du message d'origine, vous pouvez voir que les facteurs X_1, X_2 et X_7 s'équilibrent de telle sorte que les valeurs additionnées dans la colonne "Différence" totalisent 0. Il en va de même pour tous les autres facteurs X lorsque leurs différences sont additionnées.
Ainsi, dans ce cas, le facteur X_1 est en fait utilisé 5 fois MOINS (Différence/2) dans la formule que ce qui est indiqué dans la colonne Nombre de fractionnements dans la colonne Contributions. De même, pour X_2 et X_7, ils sont utilisés respectivement 124 fois PLUS et 119 fois MOINS dans la formule. Si vous les additionnez : 5 + (-124) + 119 = 0.
Pourrait-il manquer des informations ? C'est trop "parfait" pour être une coïncidence, à mon humble avis. Je n'arrive tout simplement pas à comprendre quelle(s) partie(s) du processus de réglage en est responsable.
Quant à vos questions :
1. J'utilise l'option Uniforme de remplissage d'espace DOE pour générer un grand ensemble d'au moins 60 exécutions (10 fois le nombre de facteurs que je modifie). Ensuite, je réplique le DOE plusieurs centaines de fois et je l'exécute. Je le fais via des scripts afin qu'il ne consomme pas toute ma RAM. L'exécution peut prendre quelques jours.
2. Je prends mon tableau de données d'origine et je le divise en un ensemble de données d'entraînement/test 80/20. J'ai ensuite divisé le tableau de données d'origine en tableaux de formation uniquement et testé uniquement. J'utilise la table de formation et j'utilise une attente aléatoire entre environ 0,18 et 0,25 de l'ensemble de données pour valider l'ajustement du modèle. Encore une fois, je fais tout cela via des scripts afin de pouvoir trouver les valeurs optimales à régler et à utiliser comme partie de validation. Je trouve souvent qu'une répartition exacte de 80/20 formation/validation n'est pas aussi optimale que quelque chose de légèrement différent, disons 0,79/0,21. Vous pouvez souvent obtenir un R^2 un peu meilleur sur l'ensemble de validation.
Merci,
DS
Re : Paramètres de réglage de la forêt Bootstrap, nombre de divisions et formule de prédictionCe n’est peut-être pas une réponse très satisfaisante, mais le nombre de divisions ne représente que le nombre de fois où la variable était le meilleur endroit pour diviser une branche.
Il n'y a pas vraiment de contrôle sur le nombre de fois qu'une variable peut être divisée.
Peut-être que je vous poserai quelques questions :
1. Comment construisez-vous votre table tournante et combien de pistes utilisez-vous ?
2. Lorsque vous effectuez le réglage, effectuez-vous le réglage sur l'ensemble des données ou sur un sous-ensemble aléatoire ?
-quelle proportion de données utilisez-vous dans un sous-ensemble (si vous le faites)
vos observations sur le nom du paramètre utilisé dans les formules sont intéressantes. Je pourrais y réfléchir un peu.
