Découvrez comment utiliser JMP et JMP Pro pour identifier les prédicteurs importants adaptés à la modélisation prédictive, réduire la variance causée par l'estimation de termes inutiles et créer des modèles prédictifs. Consultez des études de cas qui montrent comment utiliser la régression pas à pas de JMP pour trouver des variables importantes et des effets de modèle actifs et comment cette approche se compare aux techniques de régression généralisée de JMP Pro qui intègrent automatiquement la sélection de variables.
Découvrez comment faire :
- Comprendre les fondements de la méthode de régression par étapes
- Choisissez des options de régression par étapes pour automatiser la sélection des facteurs
- Analyser > Modèle d'ajustement > Personnalité : étape par étape
- Définir une règle/des critères d'arrêt
- Définir la direction avant, arrière ou mixte
- La sélection directe sélectionne la variable avec la valeur p la plus basse, l'ajoute au modèle, puis recalcule les valeurs p et les critères d'arrêt jusqu'à ce que les critères d'arrêt soient satisfaits.
- L'élimination vers l'arrière sélectionne la variable avec la valeur p la plus élevée, la supprime du modèle, puis recalcule les valeurs p et les critères d'arrêt jusqu'à ce que les critères d'arrêt soient satisfaits.
- Alternance mixte entre sélection avant et élimination arrière, en utilisant la valeur p comme critère d'arrêt
- Exécuter le modèle
- Utiliser des options supplémentaires par étapes
- Règle d'arrêt alternative - Validation KFold R2
- Construire et comparer tous les modèles possibles
- Utiliser la moyenne du modèle basée sur le poids AICc dans chaque modèle
- Implémentez des méthodes par étapes dans la régression généralisée JMP Pro pour déployer facilement la sélection de variables, la validation, la régression pénalisée pour aider avec les facteurs corrélés, la visualisation interactive des modèles, la comparaison des modèles, le redémarrage facile des modèles avec des termes d'ordre supérieur
- Comprendre les avantages et les limites des approches de régression pas à pas et généralisée
JMP Stepwise Regression FlowFlux de régression pas à pas JMPFlux de régression pas à pas JMP
Questions répondues par Scott Allen @scott_allen et Byron Wingerd @Byron_JMP lors du webinaire en direct :
Q : Existe-t-il une ligne directrice indiquant quand l’AICc est préféré au BIC ?
R : BIC vous donne le meilleur modèle avec le moins de termes ; AICc vous donne le modèle qui explique le plus de variations et il est pénalisé par le nombre de termes. Le c minuscule dans AICc signifie corrigé et signifie corrigé pour les petits ensembles de données. L'AIC essaie de sélectionner le modèle qui décrit le mieux une réalité inconnue et de grande dimension. Cela signifie que la réalité ne fait jamais partie de l'ensemble des modèles candidats envisagés. Au contraire, BIC essaie de trouver le VRAI modèle parmi l'ensemble des candidats.
La réponse courte est que je les exécute tous les deux et que je les compare, ou vous pouvez même prendre les deux et en faire la moyenne. Vous disposez ici des outils sur la plateforme Stepwise pour effectuer ces opérations, puis les comparer et comparer automatiquement les résultats dans un graphique. Dans certains cas, cela dépend de votre objectif, si vous acceptez d'avoir plus de termes ou si vous cherchez vraiment à réduire cela au minimum. Dans l'exemple avec 500 points de données, le BIC est probablement préféré.
Q : Comment vérifions-nous le sur-ajustement ?
R : Si nous ajustons simplement des modèles linéaires dans JMP, même en utilisant Stepwise, il sera un peu plus difficile d'identifier les problèmes de surajustement. Dans JMP Pro, nous pouvons configurer des sous-ensembles de test, d'entraînement et de validation (ou si vous préférez, au moins de test et d'entraînement) et comparer les R-carrés. Ainsi, si vous voyez que l'ensemble d'entraînement a un R-carré vraiment excellent et que votre validation a un R-carré vraiment terrible, cela signifie que vous avez bien ajusté les données et que vous ne serez pas très prédictif des observations futures.
Q : Dans le modèle, un total de 568 lignes contiennent également des lignes de validation. Utilisons-nous toutes celles-ci dans le modèle ou les conservons-nous ?
R : Ils sont retenus pour validation et évalués séparément en tant que sous-ensemble de validation.
Q : Dans l'ancien SAS Enterprise Miner, le nœud « Ensemble » obtenait souvent les meilleurs résultats. Que pensez-vous de l'exécution d'un ensemble de modèles, de l'enregistrement des prédictions, puis de la simple moyenne de toutes ces valeurs prédites ?
R : Dans JMP, nous utilisons la plateforme de réseau neuronal pour mettre en place un modèle d'ensemble. Ils ont généralement tendance à surpasser les modèles individuels.
Q : Comment avez-vous obtenu la carte des couleurs pour les corrélations ?
R : Sous le triangle rouge, recherchez les options de carte des couleurs.
Q : Comment détecter et gérer la multicolinéarité ?
R : Pas à pas seul dans JMP ne va pas gérer la multicolinéarité, vous devrez donc les extraire à l'avance et/ou trouver une variable représentative en utilisant le clustering. Si vous utilisez la régression généralisée de JMP Pro, les méthodes de régression pénalisée vous aideront également à résoudre ce problème. Si cela vous préoccupe vraiment, la régression généralisée est certainement la voie à suivre. Vous pouvez créer ce modèle des moindres carrés, l'exécuter et examiner vos estimations de paramètres. Des valeurs VIF élevées peuvent indiquer une multicolinéarité. Voir la vidéo ci-dessous.
