Colinéarité. Colinéarité. Colinéarité. Lors des sessions de maîtrise de JMP, nous recevons souvent des questions sur la colinéarité, comment la comprendre, comment la détecter, comment elle est liée au VIF affiché dans les rapports JMP, comment interpréter le VIF et comment créer des modèles qui tiennent compte avec précision de la colinéarité.
JMP fournit tous les outils nécessaires pour détecter, comprendre et prendre en compte la colinéarité lors de la modélisation. Une vidéo récente du statisticien de JMP Education, Di Michelson, montre comment procéder. Lorsque vous souhaitez comprendre la relation entre la réponse et les prédicteurs, elle suggère ces étapes, qu'elle suit dans sa vidéo : Identifier et comprendre l'impact de la colinéarité .
Résumer le comportement par paire graphiquement et statistiquement
- Visualisez les données dans la plateforme multivariée (Analyser > Méthodes multivariées > Multivariée) en plaçant toutes les variables dans le rôle Y.
- Examinez les corrélations (à l'aide de la matrice de corrélation), qui contient les corrélations par paires entre les variables. C'est symétrique, car la corrélation entre X1 et Y est la même que la corrélation entre Y et X1.
Correlation MatrixMatrice de corrélation
- Examinez les corrélations sous forme de carte de couleurs (dans le triangle rouge multivarié, choisissez Corrélations > Carte de couleurs), où JMP traduit les nombres du tableau Corrélations en couleurs. Dans son exemple utilisant les couleurs JMP par défaut, les carrés rouges montrent une corrélation positive et les carrés bleus montrent une corrélation négative. Vous pouvez survoler un carré pour obtenir la valeur de corrélation.
- Regardez la matrice de nuages de points par paire (dans le triangle rouge multivarié, choisissez Matrice de nuages de points), qui représente Y par rapport à X. Encore une fois, cette matrice est symétrique.
- Étant donné que la matrice de nuages de points est symétrique, vous n'avez pas besoin des deux côtés. Ainsi, vous pouvez activer la carte thermique (à partir du triangle rouge de la matrice de dispersion, choisissez Options de matrice > Carte thermique).
Scatterplot Matrix with Heat MapMatrice de nuages de points avec carte thermique
- Recherchez les variables X corrélées à des corrélations positives ou négatives élevées. Dans son exemple, les rouges présentent une corrélation positive élevée et les bleus une corrélation négative élevée.
- Remplacez les points de la matrice de nuages de points par des ellipses de densité (à partir du triangle rouge de la matrice de nuages de points, choisissez Ellipses de densité), puis examinez l'ensemble du tracé pour voir s'il y a une asymétrie ou des valeurs aberrantes.
Résumé de Di : Vous voyez que Y est corrélé à certains prédicteurs et que de nombreux prédicteurs sont corrélés les uns aux autres. Les rouges indiquent une corrélation positive élevée, les bleus indiquent une corrélation négative élevée. Une corrélation élevée dans vos variables prédictives peut nuire à votre modèle de régression linéaire. Ce problème en régression linéaire est appelé colinéarité ou multi-colinéarité.
Ajuster un modèle et explorer le facteur d'inflation de la variance
- Ajuster le modèle (Analyser > Ajuster le modèle). (Di utilise la sélection de rapport minimal dans la fenêtre Ajuster le modèle.)
Fit Model Standard Least Squares Minimal Report Selection WindowFenêtre de sélection du rapport minimal des moindres carrés standard du modèle d'ajustement
- Examinez le résumé de l'ajustement et l'analyse de la variance du modèle pour déterminer si le modèle explique bien la variabilité de Y.
Summary of Fit - Looks Like Useful Model for Explaining Variability in YRésumé de l'ajustement - Cela ressemble à un modèle utile pour expliquer la variabilité de Y
- Cliquez avec le bouton droit sur le tableau Estimations des paramètres pour déterminer si, et dans quelle mesure, l'inflation de la variance se produit en raison des prédicteurs corrélés.
How to Add VIFComment ajouter du VIF
- Triez par colonne VIF pour identifier les facteurs avec le VIF le plus élevé, c'est-à-dire la variabilité de ce facteur expliquée par les autres prédicteurs. Dans ce cas, X11 a le VIF le plus élevé.
Parameter Estimate Showing VIF for Each VariableEstimation des paramètres affichant le VIF pour chaque variable
- Modélisez le facteur VIF le plus élevé comme réponse et tous les autres facteurs comme prédicteurs, puis examinez la valeur R au carré pour voir si la variabilité de ce prédicteur est expliquée par les autres prédicteurs, et découvrez ainsi une éventuelle colinéarité. Un VIF élevé indique une colinéarité élevée.
Model and Examine R-Squared for Highest VIF Factor to Uncover CollinearityModélisez et examinez le R-carré pour le facteur VIF le plus élevé afin de découvrir la colinéarité
- Examinez les diagrammes de levier pour obtenir une représentation visuelle de la colinéarité. Ils sont utiles car, contrairement aux nuages de points ou aux matrices de corrélation, ils comprennent plus de deux variables à la fois. Lorsque les points sont réduits dans la direction X et ne remplissent pas tout l'axe X, ce facteur est alors en corrélation avec d'autres facteurs.
Examine Leverage Plots Visually Represent CollinearityExaminer les tracés de levier qui représentent visuellement la colinéarité
- Examinez le profileur de prédiction (à partir du Triangle rouge de réponse > Profilage des facteurs > Profileur), qui comporte une ligne pour chaque réponse et une colonne pour chaque facteur. La combinaison de paramètres donne la réponse prévue affichée à gauche du profileur. Lorsqu'une colinéarité existe, les intervalles de confiance sont très larges sur les bords du graphique du profileur pour ce facteur.
Accessing Prediction ProfilerAccéder au profileur de prédiction
Prediction Profiler Gives Numeric and Cisual Results for Factor InteractionsLe profileur de prédiction donne des résultats numériques et cisuels pour les interactions factorielles
Le résumé de Di : Lorsque vous disposez d'une colinéarité, vous pouvez effectuer une analyse en composantes principales (ACP), un type d'analyse qui dérive de nouvelles variables indépendantes (composantes principales) classées par ordre décroissant de variabilité expliquée. Vous pouvez ensuite utiliser les composants principaux pour créer votre modèle au lieu des prédicteurs d'origine. Voir sa vidéo sur comment utiliser PCA dans JMP .
