HINWEIS: Dieser Artikel erschien ursprünglich in JMPer Cable, Ausgabe 15, Sommer 2004.
John Sall, Executive Vice President, SAS Institute Inc. @John_Sall
Bradley Jones, JMP-Entwicklung @bradleyjones
Jedes statistische Verfahren beinhaltet Annahmen. Uns wird beigebracht, die Verletzung dieser Annahmen zu fürchten. Beispielsweise sind die Standardverfahren zum Vergleichen von Mitteln zwei Stichproben T- Test, das gepaart T -Test und ANOVA beinhalten alle die Annahme, dass der Restfehler normalverteilt ist. Wenn der Fehler normalverteilt ist und alle anderen Annahmen zutreffen, haben alle Teststatistiken ihre behaupteten Verteilungen und Konfidenzintervalle und Hypothesentests können als vertrauenswürdig eingestuft werden. Wir verfügen sogar über eine umfangreiche Quelle an Analysetools, mit denen wir unsere Annahmen überprüfen können, beispielsweise über die Funktionen in der Verteilungsplattform, mit denen die Normalverteilung getestet und grafisch dargestellt wird. Was ist, wenn die Residuen nicht normalverteilt sind? Wie sehr sollte sich ein Arzt Gedanken darüber machen, ob die Residuen normal sind? Nur wenige Artikel und weniger Bücher gehen detailliert darauf ein, wie groß die Sorge um die Normalitätsannahme ist.
Normalverteilte Residuen sind ein Problem, über das wir uns wahrscheinlich keine großen Sorgen machen müssen, weil:
- Bei großen Stichproben ist es leicht, eine Nichtnormalität zu erkennen, aber das spielt keine Rolle.
- Bei kleinen Stichproben kann die Nichtnormalität von Bedeutung sein, aber Sie können sie nicht erkennen.
Bei großen Stichproben besagt der zentrale Grenzwertsatz, dass sich mittelwertähnliche Statistiken mit zunehmender Stichprobengröße Normalverteilungen annähern, selbst wenn die Daten nicht normal sind. Bei kleinen Stichproben ist die Teststatistik nicht unbedingt normal, aber wir haben keine ausreichend große Stichprobe, um dies beurteilen zu können.
JMP-Entwickler erhalten häufig Anfragen, einen Test auf Restnormalität als Komfortfunktion für unsere Anpassungsplattformen zu implementieren. Dies wäre jedoch nur dann sinnvoll, wenn es Stichprobengrößen gäbe, bei denen Nichtnormalität erkannt und berücksichtigt werden könnte. Lassen Sie uns dies mithilfe einer Simulation untersuchen.
Für unsere Simulation vergleichen wir die Mittelwerte zweier Gruppen unter Verwendung zweier unterschiedlicher nicht normaler Fehlerverteilungen: einer doppelten Exponentialverteilung und einer verschiebungskontaminierten Normalverteilung. Die doppelte Exponentialfunktion ist symmetrisch, aber leptokurtotisch, dh , viel spitzer und mit viel schwereren Ausläufern als die Normalverteilung. Die durch Verschiebung kontaminierte Normalverteilung ist eine nach rechts verzerrte Normalverteilung durch Hinzufügen einer Verschiebung um drei Standardabweichungen in zufällig ausgewählten 5 % der Stichproben.
Die doppelte Exponentialfunktion wird durch diese JMP-Formel simuliert:
if(randomUniform()>0.5,1,-1)*log(randomUniform())
Die schichtkontaminierte Verteilung verwendet diese JMP-Formel:
10+5*(randomNormal() + (randomUniform()<0.05)*3)
Diese sollen charakteristisch für eine starke, aber nicht extreme Nichtnormalität sein, die Sie möglicherweise in realen Daten sehen.
Abbildung 1 zeigt 10.000 Punkte der simulierten Doppelexponentialverteilung und Abbildung 2 zeigt die verschiebungskontaminierten Verteilungen. Die durchgezogene rote Diagonallinie ist eine Referenz dafür, wie die Daten aussehen würden, wenn sie einer Normalverteilung entsprechen würden. Beachten Sie, dass die Daten für kleine Quantile unter die Linie und für große Quantile über die Linie fallen. Er ist charakteristisch für leptokurtotische Verteilungen. Sie haben in der Mitte reichlich Wahrscheinlichkeitsmasse mit langen, aber dünn besiedelten Enden.
Die Daten im normalen Quantildiagramm für die verschiebungskontaminierte Verteilung (Abbildung 2) liegen für große Quantile über der durchgezogenen roten Diagonallinie. Dies ist charakteristisch für rechtsschiefe Verteilungen. Wären die Daten normalverteilt gewesen, hätte das obere Ende des Histogramms bei etwa 30 geendet, anstatt sich etwas über 40 hinaus fortzusetzen.
Fig. 1: Distribution results for the double-exponential distribution.Fig. 1: Distribution results for the double-exponential distribution.Fig. 1: Distribution results for the double-exponential distribution.Fig. 1: Distribution results for the double-exponential distribution.Abb. 1: Verteilungsergebnisse für die Doppelexponentialverteilung.
Fig. 2: Distribution results for the shift-contaminate distributions.Fig. 2: Distribution results for the shift-contaminate distributions.Fig. 2: Distribution results for the shift-contaminate distributions.Fig. 2: Distribution results for the shift-contaminate distributions.Abb. 2: Verteilungsergebnisse für die Schichtkontaminatverteilungen.
Es wurde ein JSL-Skript ausgeführt, das 10.000 Monte-Carlo-Stichproben mit 10 Beobachtungen für diese beiden nichtnormalen Verteilungen generierte.Das Skript (MonteCarlo.jsl) ist beigefügt. (HINWEIS: Die Ausführung des Skripts dauert eine Weile.) Jede Stichprobe wurde in zwei gleich große Gruppen aufgeteilt. Es besteht konstruktionsbedingt kein Unterschied zwischen den Mittelwerten der beiden Gruppen. Als Kontrolle haben wir außerdem 10.000 Stichproben für die Standardnormalverteilung generiert. Für jede Stichprobe führten wir eine Einweganalyse durch, um die Differenz der Mittelwerte zu testen, und eine Verteilung, um die Normalität der Residuen zu testen. Wir haben diesen gesamten Vorgang für Stichproben der Größen 20, 30, 50, 70 und 100 wiederholt.
Test auf gleiche Mittelwerte, wenn es keinen Unterschied in den Bevölkerungsmittelwerten gibt
Schauen wir uns zunächst die Grundstücke unserer 10.000 an P -Werte für die Nichtnormalverteilungen. Denken Sie daran, dass unser Verfahren so konzipiert ist, dass es keinen echten Unterschied in den Mittelwerten für jede Stichprobe gibt. Aufgrund der zufälligen Variation ist die P -Werte für unsere 10.000 Einweganalysen sollten gleichmäßig zwischen Null und Eins verteilt sein. Die Gleichverteilungsfunktion ist die Diagonale F(x) = x.
Um die Diagramme in den Abbildungen 3a und 3b zu erstellen, haben wir zunächst die 10.000 sortiert P -Werte. Der j -Achse ist der Anteil der 10.000 P -Werte kleiner oder gleich einer gegebenen Signifikanzwahrscheinlichkeit. Der X -Achse zeigt die Signifikanzwahrscheinlichkeiten ( P Werte). Jede Probengröße wird in einer anderen Farbe angezeigt.
Fig. 3a: Probability plot of p-values for the double-exponential distribution.Fig. 3a: Probability plot of p-values for the double-exponential distribution.Fig. 3a: Probability plot of p-values for the double-exponential distribution.Fig. 3a: Probability plot of p-values for the double-exponential distribution.Abb. 3a: Wahrscheinlichkeitsdiagramm der p-Werte für die Doppelexponentialverteilung.
Fig 3b: Probability plot of p-values for the shift-contaminated distribution.Fig 3b: Probability plot of p-values for the shift-contaminated distribution.Fig 3b: Probability plot of p-values for the shift-contaminated distribution.Fig 3b: Probability plot of p-values for the shift-contaminated distribution.Abb. 3b: Wahrscheinlichkeitsdiagramm der p-Werte für die schichtkontaminierte Verteilung.
Für beide Diagramme und alle Stichprobengrößen sind die Verteilungen der P -Werte liegen nahe an der Diagonalen der gleichmäßigen Summenverteilungsfunktion. Wie wir gehofft hatten, hat weder eine Änderung der Verteilung noch eine Änderung der Stichprobengröße große Auswirkungen auf die Genauigkeit der Signifikanzwahrscheinlichkeit des ANOVA-Tests für gleiche Mittelwerte.
Schauen wir uns die niedrige Skala nahe 0,05 genauer an, auf der wir die Signifikanz beurteilen. Die Diagramme in Abbildung 4a und 4b vergrößern den Bereich.
Fig. 4a: Expanded-scale view of p-value probability plot for non-normal double-exponential distribution.Fig. 4a: Expanded-scale view of p-value probability plot for non-normal double-exponential distribution.Fig. 4a: Expanded-scale view of p-value probability plot for non-normal double-exponential distribution.Fig. 4a: Expanded-scale view of p-value probability plot for non-normal double-exponential distribution.Abb. 4a: Ansicht im erweiterten Maßstab des p-Wert-Wahrscheinlichkeitsdiagramms für eine nicht normale Doppelexponentialverteilung.
Fig. 4b: Expanded-scale view of p-value probability plot for non-normal shift-contaminated distribution.Fig. 4b: Expanded-scale view of p-value probability plot for non-normal shift-contaminated distribution.Fig. 4b: Expanded-scale view of p-value probability plot for non-normal shift-contaminated distribution.Fig. 4b: Expanded-scale view of p-value probability plot for non-normal shift-contaminated distribution. Abb. 4b: Ansicht im erweiterten Maßstab des p-Wert-Wahrscheinlichkeitsdiagramms für eine nicht normalverschiebungskontaminierte Verteilung.
Beachten Sie, dass die rote Diagonallinie, die dem Test auf Mittelwertgleichheit für zwei Gruppen mit fünf Beobachtungen entspricht, leicht unter der Linie y = x abweicht. Was bedeutet das?
Wir wissen, dass wir, wenn wir eine Signifikanzwahrscheinlichkeit von 0,05 wählen, die Hypothese, dass unsere Mittelwerte in 5 % unserer Experimente gleich sind, aufgrund der Unwägbarkeiten des Zufalls ablehnen, selbst wenn die Mittelwerte tatsächlich gleich sind. Das heißt, in 5 % der Fälle machen wir einen Fehler vom Typ I – wir lehnen die Hypothese ab, dass die Mittelwerte gleich sind, wenn die Hypothese wahr ist.
Diese Typ-I-Fehlerrate von 5 % ist eingebaut und das, was wir erwarten, wenn wir eine Signifikanzwahrscheinlichkeit von 0,05 wählen. Wenn dies nach zu vielen Fehlern aussieht, müssen Sie eine kleinere Signifikanzwahrscheinlichkeit wählen.
Wenn die rote diagonale Linie die vertikale gepunktete Linie x = 0,05 kreuzt, ist es j -Wert ist 0,043. Das bedeutet, dass wir die Hypothese, dass unsere Mittelwerte in 5 % der Fälle gleich sind, nicht nur in 4,3 % der Fälle zurückgewiesen haben. Wir nennen dies ein konservatives Ergebnis, da wir weniger Fehler vom Typ I machen, als wir erwarten. Wenn Sie etwas verpassen, ist es besser, konservativ zu verpassen.
Angenommen, eine Linie hätte die vertikale gepunktete Linie bei 0,05 und einem CumProb-Wert von 0,06 gekreuzt. Dann würden wir statt der erwarteten 5 % Typ-I-Fehler tatsächlich 6 % Typ-I-Fehler sehen. Wir bezeichnen einen solchen Test als zu liberal, da die tatsächliche Fehlerquote größer ist als erwartet.
Beruhigend ist, dass es sich im einzigen Fall, in dem die Linien von der 45-Grad-Linie abweichen, auf der konservativen Seite handelt. Der schichtkontaminierte Fall hat auch die N =10 Fall auf die konservative Seite verschoben, aber nicht so sehr wie die doppelte Exponentialfunktion.
Abbildung 5 zeigt die Monte-Carlo-Simulation mit einer reinen Normalkurve, um die natürliche Zufallsvariation in der Monte-Carlo-Studie darzustellen.
Fig. 5: Expanded-scale view of p-value probability plot for the standard normal distribtuion.Fig. 5: Expanded-scale view of p-value probability plot for the standard normal distribtuion.Fig. 5: Expanded-scale view of p-value probability plot for the standard normal distribtuion.Fig. 5: Expanded-scale view of p-value probability plot for the standard normal distribtuion.Abb. 5: Erweiterte Ansicht des p-Wert-Wahrscheinlichkeitsdiagramms für die Standardnormalverteilung.
Nicht-Normalität testen
Die nächste Frage ist, ob wir erkennen können, dass Fehler nicht normal sind. Wir beginnen mit der Berechnung der Residuen aus jeder Einweganalyse, die wir zuvor durchgeführt haben. Mithilfe der Verteilungsplattform testen wir diese Residuen auf Normalität. Daher führen wir für jede Verteilung und Stichprobengröße 10.000 Shapiro-Wilks-Tests auf Normalität durch. Die Diagramme in Abbildung 6 zeigen den kumulativen Prozentsatz der Ergebnisse des Normalitätstests als Funktion der Signifikanzwahrscheinlichkeit im Shapiro-Wilks-Test.
Fig. 6: Power plots of Shapiro-Wilkes tests for non-normal distributions.Fig. 6: Power plots of Shapiro-Wilkes tests for non-normal distributions.Fig. 6: Power plots of Shapiro-Wilkes tests for non-normal distributions.Fig. 6: Power plots of Shapiro-Wilkes tests for non-normal distributions.Abb. 6: Potenzdiagramme von Shapiro-Wilkes-Tests für Nichtnormalverteilungen.
Was sagen uns diese Handlungen? Erstens wissen wir, dass sowohl im doppelt exponentiellen Fall als auch im verschiebungskontaminierten Normalfall die Verteilung der Residuen nicht normal ist. Wir möchten wissen, wie wahrscheinlich es ist, dass unser Test diese Nichtnormalität erkennt. Mit anderen Worten: Wir möchten wissen, wie leistungsfähig unser Test ist.
Ein vollkommen aussagekräftiger Test würde einen Graphen haben, der wie der griechische Buchstabe Gamma, Γ, aussieht.Im Gegensatz dazu hätte ein Test ohne Potenz ein Diagramm, das wie eine diagonale Linie aussieht.
Für doppelt exponentiell verteilte Residuen können wir sehen, dass der Graph für die Stichprobe von 100 Beobachtungen ganz links wie gewünscht schnell ansteigt. Leider nimmt die Ähnlichkeit des Diagramms mit Γ mit abnehmender Stichprobengröße ab. Bei einer Stichprobengröße von 10 ähnelt die Funktion eher der diagonalen Linie (keine Nachweisstärke).
Für die schichtkontaminierten normalverteilten Residuen ist die Nachweisleistung des Shapiro-Wilks-Tests für jede Stichprobengröße schlechter.
Wenn die Residuen wirklich normal sind, wie in Abbildung 7 dargestellt, sehen wir für jede Stichprobengröße eine diagonale Linie. Das ist es, was wir wollen. Wir wollen keine nichtexistierende Nichtnormalität entdecken. Hier ist die „Mächtigkeit“ des Tests die Wahrscheinlichkeit eines Fehlers vom Typ I. Es ist unmöglich, dass ein Test weniger leistungsfähig ist.
Fig. 7: Power plot of Shapiro-Wilkes test for the standard normal distribution.Fig. 7: Power plot of Shapiro-Wilkes test for the standard normal distribution.Fig. 7: Power plot of Shapiro-Wilkes test for the standard normal distribution.Fig. 7: Power plot of Shapiro-Wilkes test for the standard normal distribution.Abb. 7: Potenzdiagramm des Shapiro-Wilkes-Tests für die Standardnormalverteilung.
Jetzt erweitern wir das P -Wertebereich, sodass wir die Potenz bei Alpha=0,05 untersuchen können, wie in den Abbildungen 8a und 8b dargestellt. Die untere Kurve (Probengröße N = 10) in Abbildung 8 kreuzt die vertikale Gitterlinie x=0,05 beim Wert 0,10. Das bedeutet, dass Sie bei einer Shapiro-Wilks-Signifikanzwahrscheinlichkeit von 0,05 eine Chance von 10 % haben, die Tatsache zu erkennen, dass die Residuen nicht normal sind. Wir sagen, dass die Trennschärfe des Shapiro-Wilks-Tests 10 % beträgt. Das ist nicht beeindruckend.
Fig. 8a: Expanded-scale power plots for double-exponential non-normal distribution.Fig. 8a: Expanded-scale power plots for double-exponential non-normal distribution.Fig. 8a: Expanded-scale power plots for double-exponential non-normal distribution.Fig. 8a: Expanded-scale power plots for double-exponential non-normal distribution.Abb. 8a: Leistungsdiagramme im erweiterten Maßstab für die nichtnormale Doppelexponentialverteilung.
Fig. 8b: Expanded-scale power plot for shift-contaminated non-normal distribution.Fig. 8b: Expanded-scale power plot for shift-contaminated non-normal distribution.Fig. 8b: Expanded-scale power plot for shift-contaminated non-normal distribution.Fig. 8b: Expanded-scale power plot for shift-contaminated non-normal distribution.Abb. 8b: Leistungsdiagramm im erweiterten Maßstab für eine schichtkontaminierte Nichtnormalverteilung.
Anders ausgedrückt: Die Wahrscheinlichkeit eines Fehlers vom Typ II beträgt 90 %. Das heißt, dass der Shapiro-Wilks-Test (angesichts dieser Fehlerverteilung und dieses Signifikanzniveaus) in 90 % der Fälle die Hypothese normaler Residuen fälschlicherweise nicht zurückweisen kann.
Im Gegensatz dazu zeigt die obere Kurve oben (Stichprobengröße). N = 100) schneidet die vertikale Gitterlinie x=0,05 beim Wert 0,78. Die Aussagekraft dieses Tests beträgt also fast 80 %.
Die Leistungskurven haben für die schichtkontaminierten Normalreste eine ähnliche Form, die resultierende Leistung ist jedoch noch geringer. Beispielsweise kreuzt die obere Kurve (Stichprobengröße n = 100) die 0,05-Linie bei etwa 0,63 (Leistung beträgt 63 %).
Wir sehen also, dass man bei einer kleinen Anzahl von Beobachtungen keine Nichtnormalität erkennen kann. Bei einer großen Anzahl von Beobachtungen ist es Ihnen egal, ob die Fehler nicht normal sind, da unsere simulierte Fehlerrate vom Typ I mit der erwarteten Rate für große Stichprobengrößen übereinstimmt.
Diese Studie würde tendenziell dafür sprechen, keinen Normalitätstest in den passenden Plattformen durchzuführen. Die Einbeziehung dieser Funktion würde die Menschen nur dazu ermutigen, sich über etwas Sorgen zu machen, das sie entweder nicht sehen können oder das keine Rolle spielt.
Eine andere Sache ist es, grafische und diagnostische Funktionen für die Restverteilung einzubauen. Anstatt zu testen, suchen Sie nach grafischen Anomalien wie Ausreißern oder einem Muster, das einen Hinweis auf eine verborgene Struktur des Modus geben könnte. Ausreißer und Muster sind oft der Haupthinweis auf eine wichtige Entdeckung.
Eines der Gebote von W. Edwards Deming war „Vertreibe die Angst“, aber als Statistiker tun wir normalerweise das Gegenteil und schüren bei unseren Klienten und Studenten irrationale Ängste. Mit dieser Studie, die Sie leicht nachmachen können, hoffe ich, dass Sie jetzt mutig genug sind, gegen „Leptokurtosiphobie“ vorzugehen.
Ist es nicht schön, eine Sache weniger zu haben, um die man sich Sorgen machen muss?
