Kollinearität. Kollinearität. Kollinearität. Bei Mastering JMP-Sitzungen erhalten wir häufig Fragen zur Kollinearität, wie man sie versteht, wie man sie erkennt, wie sie mit dem in JMP-Berichten angezeigten VIF zusammenhängt, wie man VIF interpretiert und wie man Modelle erstellt, die Kollinearität genau berücksichtigen.
JMP bietet alle Tools zum Erkennen, Verstehen und Berücksichtigen von Kollinearität während der Modellierung. Ein aktuelles Video des JMP-Bildungsstatistikers Di Michelson zeigt, wie. Wenn Sie die Beziehung zwischen der Reaktion und den Prädiktoren verstehen möchten, schlägt sie diese Schritte vor, die sie in ihrem Video befolgt: Identifizieren und Verstehen der Auswirkungen von Kollinearität .
Fassen Sie das paarweise Verhalten grafisch und statistisch zusammen
- Visualisieren Sie die Daten in der Multivariaten-Plattform (Analysieren > Multivariate Methoden > Multivariat), indem Sie alle Variablen in die Y-Rolle einfügen.
- Untersuchen Sie Korrelationen (mithilfe der Korrelationsmatrix), die die paarweisen Korrelationen zwischen den Variablen enthält. Es ist symmetrisch, da die Korrelation zwischen X1 und Y dieselbe ist wie die Korrelation zwischen Y und X1.
Correlation MatrixKorrelationsmatrix
- Betrachten Sie die Korrelationen als Farbkarte (wählen Sie im roten Dreieck „Multivariat“ „Korrelationen > Farbkarte“), wobei JMP die Zahlen in der Korrelationstabelle in Farben umwandelt. In ihrem Beispiel mit Standard-JMP-Farben zeigen rote Quadrate eine positive Korrelation und blaue Quadrate eine negative Korrelation. Sie können den Mauszeiger über ein Quadrat bewegen, um den Korrelationswert zu erhalten.
- Schauen Sie sich die paarweise Streudiagrammmatrix an (wählen Sie im roten Dreieck „Multivariat“ die Streudiagrammmatrix), die Y gegenüber X darstellt. Auch diese Matrix ist symmetrisch.
- Da die Streudiagrammmatrix symmetrisch ist, benötigen Sie nicht beide Seiten davon. Sie können also die Wärmekarte aktivieren (wählen Sie im roten Dreieck der Streudiagrammmatrix „Matrixoptionen“ > „Wärmekarte“).
Scatterplot Matrix with Heat MapStreudiagrammmatrix mit Wärmekarte
- Suchen Sie nach X-Variablen, die mit hohen positiven oder negativen Korrelationen korrelieren. In ihrem Beispiel weisen die Rottöne eine hohe positive Korrelation und die Blautöne eine hohe negative Korrelation auf.
- Ersetzen Sie Punkte der Streudiagrammmatrix durch Dichteellipsen (wählen Sie im roten Dreieck der Streudiagrammmatrix Dichteellipsen) und untersuchen Sie dann das gesamte Diagramm, um festzustellen, ob Schiefe oder Ausreißer vorliegen.
Di's Zusammenfassung: Sie sehen, dass Y mit einigen der Prädiktoren korreliert und viele Prädiktoren miteinander korreliert sind. Die Rottöne weisen auf eine hohe positive Korrelation hin, die Blautöne auf eine hohe negative Korrelation. Eine hohe Korrelation Ihrer Prädiktorvariablen kann Ihrem linearen Regressionsmodell schaden. Dieses Problem der linearen Regression wird Kollinearität oder Multikollinearität genannt.
Passen Sie ein Modell an und untersuchen Sie den Varianzinflationsfaktor
- Modell anpassen (Analysieren > Modell anpassen). (Di verwendet die Auswahl „Minimaler Bericht“ im Fenster „Modell anpassen“.)
Fit Model Standard Least Squares Minimal Report Selection WindowAuswahlfenster für den Standard-Minimalbericht der kleinsten Quadrate anpassen
- Untersuchen Sie die Zusammenfassung der Anpassung und die Varianzanalyse für das Modell, um festzustellen, ob das Modell die Variabilität in Y gut erklärt.
Summary of Fit - Looks Like Useful Model for Explaining Variability in YZusammenfassung der Anpassung – scheint ein nützliches Modell zur Erklärung der Variabilität in Y zu sein
- Klicken Sie mit der rechten Maustaste auf die Tabelle „Parameterschätzungen“, um zu ermitteln, ob und in welchem Ausmaß eine Varianzinflation aufgrund der korrelierten Prädiktoren auftritt.
How to Add VIFSo fügen Sie VIF hinzu
- Sortieren Sie nach der VIF-Spalte, um die Faktoren mit dem höchsten VIF zu identifizieren. Dies ist die Variabilität dieses Faktors, die durch die anderen Prädiktoren erklärt wird. In diesem Fall hat X11 den höchsten VIF.
Parameter Estimate Showing VIF for Each VariableParameterschätzung mit VIF für jede Variable
- Modellieren Sie den höchsten VIF-Faktor als Antwort und alle anderen Faktoren als Prädiktoren und betrachten Sie dann den R-Quadrat-Wert, um zu sehen, ob die Variabilität in diesem Prädiktor durch die anderen Prädiktoren erklärt wird, und decken Sie so mögliche Kollinearität auf. Ein hoher VIF weist auf eine hohe Kollinearität hin.
Model and Examine R-Squared for Highest VIF Factor to Uncover CollinearityModellieren und untersuchen Sie das R-Quadrat auf den höchsten VIF-Faktor, um Kollinearität aufzudecken
- Untersuchen Sie Leverage Plots, um eine visuelle Darstellung der Kollinearität zu erhalten. Sie sind nützlich, weil sie im Gegensatz zu Streudiagrammen oder Korrelationsmatrizen mehr als zwei Variablen gleichzeitig verstehen. Wenn die Punkte in X-Richtung verkleinert werden und nicht die gesamte X-Achse ausfüllen, korreliert dieser Faktor mit anderen Faktoren.
Examine Leverage Plots Visually Represent CollinearityUntersuchen Sie Hebeldiagramme, um Kollinearität visuell darzustellen
- Untersuchen Sie den Prediction Profiler (aus dem roten Dreieck der Antwort > Faktorprofilierung > Profiler), der eine Zeile für jede Antwort und eine Spalte für jeden Faktor enthält. Die Kombination der Einstellungen ergibt die vorhergesagte Reaktion, die links im Profiler angezeigt wird. Wenn Kollinearität vorliegt, sind die Konfidenzintervalle an den Rändern des Profilerdiagramms für diesen Faktor sehr breit.
Accessing Prediction ProfilerZugriff auf den Prediction Profiler
Prediction Profiler Gives Numeric and Cisual Results for Factor InteractionsPrediction Profiler liefert numerische und numerische Ergebnisse für Faktorinteraktionen
Di's Zusammenfassung: Wenn Kollinearität vorliegt, können Sie eine Hauptkomponentenanalyse (PCA) durchführen, eine Art Analyse, die neue unabhängige Variablen (Hauptkomponenten) ableitet, die in absteigender Reihenfolge der erklärten Variabilität geordnet sind. Anschließend können Sie die Hauptkomponenten anstelle der ursprünglichen Prädiktoren zum Erstellen Ihres Modells verwenden. Sehen Sie sich ihr Video an wie man PCA in JMP verwendet .
