La plate-forme de régression généralisée a été introduite en JMP Pro 11 pour le montage modèles de régression pénalisés . Notre objectif pour JMP Pro 12 était de faire de la construction de modèles un processus simple et naturel à l’aide de la plate-forme de régression généralisée (nous aimons l’appeler Genreg en abrégé). Cet article portera sur la nouvelle fonctionnalité qui me passionne le plus dans Genreg: le chemin de la solution interactive .
Comme indiqué dans postes précédents , un ajustement de régression pénalisé ne donne pas lieu à un seul modèle de régression. Au lieu de cela, nous aboutissons à une séquence de modèles candidats parmi lesquels nous choisissons le modèle le mieux adapté en fonction d'une méthode de validation (telle que la validation croisée). La meilleure façon de résumer la séquence des modèles candidats est de tracer le chemin de la solution, comme illustré à la figure 1, qui correspond au lasso des données sur le diabète dans le dossier de données exemple dans JMP.
Figure 1: Chemin de la solution Lasso pour les données sur le diabète
Sur la gauche de la figure 1, nous voyons un résumé de la manière dont chaque variable entre dans le modèle et change en fonction de la pénalité de lasso. J'ai étiqueté deux des chemins et les ai mis en gras pour les souligner. Ici, l'IMC (indice de masse corporelle) est la première variable à entrer dans le modèle pour prédire l'évolution du diabète. Lorsque la pénalité de lasso est relâchée (de gauche à droite dans le graphique), le coefficient de l'IMC augmente régulièrement jusqu'à ce qu'il se stabilise autour de 500. Le HDL (le bon cholestérol) est la quatrième variable à entrer dans notre modèle. Il entre dans le modèle avec un coefficient négatif mais a en réalité un coefficient positif à la fin du chemin. Ce changement de signe nous rappelle pourquoi la sélection variable est si importante: choisir un modèle plutôt qu'un autre peut faire toute la différence entre conclure que le cholestérol HDL accélère, ralentit ou n'a aucun impact sur la progression du diabète. Le meilleur modèle (basé sur le Critère d'information bayésien ) est marqué par la ligne rouge verticale.
Sur la droite de la figure 1, nous voyons dans quelle mesure les modèles candidats ajustent les données en fonction de la pénalité. Ici, nous utilisons le BIC pour la validation (plus petit est mieux), mais les résultats de la validation croisée peuvent être résumés de la même manière. À mesure que nous assouplissons la pénalité (en allant de gauche à droite), le modèle s’améliore légèrement, puis il commence à s’aggraver / surpasser. Encore une fois, nous marquons la meilleure solution en utilisant une ligne rouge verticale.
Quelle est donc la particularité du chemin de la solution dans JMP Pro 12? C'est interactif! Cela signifie que nous pouvons cliquer sur la ligne verticale de la figure 1 et la faire glisser pour explorer tous les modèles candidats dans le chemin de la solution. Lorsque nous utilisons le descripteur dans le chemin de la solution pour modifier le modèle, tout le rapport est mis à jour pour refléter le nouveau modèle: estimations de paramètres, graphiques résiduels, profileurs, etc. Cela nous permet d’explorer rapidement des modèles candidats qui ne sont pas nécessairement les mieux adaptés, mais qui restent intéressants ou utiles. Par exemple, il existe peut-être un modèle beaucoup plus simple qui fonctionne presque aussi bien que le meilleur. Nous pouvons maintenant localiser rapidement ce modèle plus simple et l’utiliser. Alternativement, il y a des situations où nous voudrions faire glisser la poignée vers la droite et utiliser un modèle plus grand qui fonctionne de la même manière que le meilleur. En utilisant un modèle plus large, nous pouvons être plus confiants d'avoir identifié les facteurs qui influencent réellement la variable de réponse.
Voyons maintenant un exemple d’utilisation de la solution interactive pour créer un modèle de régression logistique pour l’Afrique du Sud. données sur les maladies cardiaques . La figure 2 montre le chemin de la solution et une partie du tableau des estimations de paramètres pour un ajustement au lasso ajusté à l'aide d'une validation croisée par 5. Nous pouvons voir que la probabilité de validation s’aplatit autour du meilleur modèle, ce qui signifie que nous avons l’occasion de sauvegarder un modèle plus parcimonieux qui convient toujours très bien. En réalité, JMP fournit même une zone ombrée verte où la performance des modèles est similaire à celle du meilleur modèle.
Figure 2: Meilleur modèle pour les données sur les maladies du coeur
Dans la figure 3, nous avons zoomé sur le côté droit du chemin de la solution afin que la gamme de modèles dans la zone verte soit plus évidente. Nous avons également sauvegardé le plus petit modèle dans la zone verte. Notez que les estimations des paramètres ont changé et que deux des interactions ont été supprimées du modèle. Notre nouveau modèle comporte moins de la moitié de termes non nuls par rapport au meilleur modèle. Il est donc beaucoup plus facile à interpréter tout en restant très bien adapté.
Figure 3: Un modèle beaucoup plus simple pour les données sur les maladies du coeur
Il est utile de voir le chemin de la solution interactive en action. La figure 4 est une animation de la construction d'un modèle de régression pour un ensemble de données particulièrement intéressant (vous devrez peut-être cliquer sur la figure pour voir l'animation). Pour plus d’informations sur la création d’ensembles de données uniques tels que ce que vous voyez à la figure 4, consultez la section site Web de Leonard Stefanski, professeur à la NC State University.
Figure 4: chemin de la solution interactive en action
Nous avons ajouté une variété de nouvelles fonctionnalités intéressantes à la plate-forme Genreg, mais je suis particulièrement enthousiasmé par le chemin de la solution interactive. L'interactivité nous permet de créer rapidement et facilement des modèles de régression dans JMP Pro. Parmi les autres points forts de Genreg, citons:
Temps de calcul considérablement améliorésSélection en avantPlus de distributions pour la modélisation de la réponse (exponentielle, bêta, bêta-binomiale, Cauchy, etc.)Régression quantilePrédiction inversePlus de parcelles de diagnostic
