Découvrez comment utiliser JMP et JMP Pro pour identifier les prédicteurs importants adaptés à la modélisation prédictive, réduire la variance causée par l'estimation de termes inutiles et créer des modèles prédictifs. Consultez les études de cas qui montrent comment utiliser JMP Stepwise Regression pour rechercher des variables importantes et des effets de modèle actif et comment cette approche se compare aux techniques de régression généralisée de JMP Pro qui intègrent automatiquement la sélection de variables.
Découvrez comment :
- Comprendre les fondements de la méthode de régression pas à pas
- Choisissez des options de régression pas à pas pour automatiser la sélection des facteurs
- Analyser > Ajuster le modèle > Personnalité : par étapes
- Définir des règles/critères d'arrêt
- Définir une direction avant, arrière ou mixte
- La sélection avant sélectionne la variable avec la valeur p la plus basse, l'ajoute au modèle, puis recalcule les valeurs p et arrête les critères jusqu'à ce que les critères d'arrêt soient satisfaits.
- L'élimination en amont sélectionne la variable avec la valeur p la plus élevée, la supprime du modèle, puis recalcule les valeurs p et les critères d'arrêt jusqu'à ce que les critères d'arrêt soient satisfaits.
- Alternance mixte entre sélection avant et élimination en arrière, en utilisant la valeur p comme critère d'arrêt
- Exécuter le modèle
- Utiliser des options supplémentaires par étapes
- Règle d'arrêt alternative - Validation KFold R2
- Construisez et comparez tous les modèles possibles
- Utiliser la moyenne du modèle en fonction du poids AICc dans chaque modèle
- Implémentez des méthodes pas à pas dans JMP Pro Generalized Regression pour déployer facilement la sélection de variables, la validation, la régression pénalisée pour faciliter la gestion des facteurs corrélés, la visualisation interactive des modèles, comparer les modèles, relancer facilement les modèles avec des termes d'ordre supérieur.
- Comprendre les avantages et les limites des approches de régression pas à pas et généralisée
JMP Stepwise Regression FlowFlux de régression pas à pas JMP
Questions répondues par Scott Allen @scott_allen et Byron Wingerd @Byron_JMP lors du webinaire en direct :
Q : Existe-t-il une ligne directrice indiquant quand AICc est préférable à BIC ?
R : BIC vous propose le meilleur modèle avec le moins de termes ; AICc vous donne le modèle qui explique le plus de variation et il est pénalisé par le nombre de termes. La minuscule c dans AICc signifie corrigé et signifie corrigé pour les petits ensembles de données. L'AIC essaie de sélectionner le modèle qui décrit le plus adéquatement une réalité inconnue de grande dimension. Cela signifie que la réalité n’est jamais dans l’ensemble des modèles candidats envisagés. Au contraire, BIC essaie de trouver le VRAI modèle parmi l’ensemble des candidats.
La réponse courte est que je les exécute tous les deux et les compare ou vous pouvez même prendre les 2 et ensuite faire la moyenne ensemble. Vous disposez des outils ici dans la plateforme Stepwise pour les réaliser, puis les comparer et comparer automatiquement les résultats dans un graphique. Dans certains cas. cela dépend de votre objectif, si vous êtes d'accord avec plus de termes ou si vous cherchez vraiment à réduire cela au minimum. Dans l'exemple avec 500 points de données, le BIC est probablement préféré.
Q : Comment vérifions-nous le montage ?
R : Si nous intégrons simplement des modèles linéaires dans JMP, même en utilisant Stepwise, il sera un peu plus délicat d'identifier les problèmes de surajustement. Dans JMP Pro, nous pouvons configurer des sous-ensembles de test, d'entraînement et de validation (ou si vous préférez, au moins tester et entraîner) et comparer les R-carrés. Donc, si vous voyez que l'ensemble de formation a un R-carré vraiment excellent et que votre validation a un R-carré vraiment terrible, cela signifie que vous avez bien ajusté les données et que vous n'allez pas être très prédictif des observations futures.
Q : Dans le modèle, 568 lignes au total comportent également des lignes de validation. utilisons-nous tous ceux-ci dans le modèle ou les gardons-nous ?
R : Ils sont soumis à validation et évalués séparément en tant que sous-ensemble de validation.
Q : Dans l'ancien SAS Enterprise Miner, le nœud « Ensemble » était souvent le plus performant. Que pensez-vous de l'exécution d'un tas de modèles, de la sauvegarde des prédictions, puis de la simple moyenne de toutes ces valeurs prédites ?
R : Dans JMP, nous utilisons la plateforme de réseau neuronal pour configurer un modèle d'ensemble. Ils ont généralement tendance à surpasser les modèles individuels.
Q : Comment avez-vous obtenu la carte des couleurs pour les corrélations ?
R : Sous le triangle rouge, recherchez les options de la palette de couleurs.
Q : Comment détecter et gérer la multicolinéarité ?
R : Stepwise seul dans JMP ne gérera pas la multicolinéarité, vous devrez donc les extraire à l'avance et/ou trouver une variable représentative à l'aide du clustering. Si vous utilisez la régression généralisée de JMP Pro, les méthodes de régression pénalisée aideront également à résoudre ce problème. Si cela vous inquiète vraiment, la régression généralisée est certainement la voie à suivre. Vous pouvez créer ce modèle des moindres carrés, l'exécuter et examiner vos estimations de paramètres. Des valeurs VIF élevées peuvent indiquer une multicolinéarité. Voir la vidéo ci-dessous.
Merci pour le webinaire ! Et ces remerciements s'étendent également à Scott Allen.
C'était un apprentissage formidable et j'avais hâte d'appliquer immédiatement ce nouvel apprentissage à mes données.
Lorsque j'ai appliqué la méthode de régression du dossier K nouvellement apprise, j'ai obtenu des résultats mitigés.
- Analyse de régression originale par Stepwise avant cette session de webinaire : avec un paramètre par défaut sur Règle, Direction et autres, je l'ai exécuté en premier pour un modèle répertorié ci-dessous (Pic1). J'ai encore affiné le modèle en supprimant les termes de valeur p > 0,05 et en effectuant davantage de simplifications (termes de réduction dans des valeurs raisonnables d'ajustement R2). J'étais content de ces résultats.
- Analyse ultérieure par le même Stepwise après ce webinaire : en changeant la règle en « Max K-fold RSquare », j'ai répété l'analyse pour obtenir l'analyse préliminaire (Pic2). Bien que les résultats préliminaires montrent les valeurs Max R avec 13 termes comme étant les meilleures. Je ne veux pas autant de termes dans mon modèle et j'étais d'accord avec le niveau de valeur R avec 5 à 6 termes pour Training et K-Fold. J'ai donc choisi les résultats de 6 termes comme vu et exécuté le modèle.
Comme vous pouvez le voir, son modèle inclut un terme de PValue >0,05 dans Pic3. De plus, dans son profil, le niveau de confiance/variance est très large pour la plupart des termes. J'ai donc supprimé le terme AR pour avoir des valeurs R similaires et un modèle similaire à mon modèle d'origine – sauf que « RV » du modèle d'origine a été remplacé par le terme « Vol » dans le nouveau modèle. Ces 2 termes de RV & Vol pourraient contenir des informations similaires mais pas exactement identiques. Je ne sais pas pourquoi le pli K règne comme l'un sur l'autre terme.
Quoi qu'il en soit, je suis satisfait des résultats car ils sont venus d'une manière de modélisation similaire qui confirme que mon modèle d'origine n'était pas trop mauvais (sans processus de formation et de validation séparé. C'est ainsi que j'ai compris la méthode K-fold divisant l'ensemble de données en 2 groupes de sous-ensemble pour utiliser un groupe pour la formation et l'autre pour la validation, ai-je raison ?)
Voici ma 2ème question si ce qui précède est compté comme la 1ère question :
Bien que la méthode K-Fold ait abouti à un résultat légèrement meilleur en donnant un R2 de 0,947, je préfère toujours les résultats originaux R2 de 0,942. En effet, son modèle comporte moins d'incertitudes dans la modélisation du profileur pour les termes Rad & RV par rapport aux nouveaux résultats de K-Fold. La méthode K-Fold peut être simplement utilisée pour ce type de validation de modèle ou plus si l'approche originale n'était pas assez bonne.
Pour cet exemple spécifique, la décision n’a pas été difficile puisque les valeurs R2 n’étaient pas très différentes.
Mais, si les valeurs R2 sont faibles de 0,1 (avec 2 à 3 termes en moins) dans le modèle d'origine, mais qu'elles présentent beaucoup moins de variance dans le profileur de prédiction (comme le modèle d'origine par rapport au modèle dans Pic3), quel modèle serait le meilleur ?
J'utilise actuellement JMP 17.
Pic1 : Analyse originale
Pic2 : Régression préliminaire selon la règle du pli K
Pic3 : Modèle par K-Fold
Pic4 : Résultats finaux par la méthode K-Fold
