781201_de-DE

liliconcom

Einfache und ehrliche Erklärung für den Zweistichproben-t-Test?

Dies ist nur ein informelles Gespräch und hat nichts mit der Arbeit zu tun.

Obwohl ich mich seit etwa 30 Jahren mit Statistik beschäftige, kann ich noch immer nicht einmal den Zweistichproben-t-Test, einen sehr einfachen und weit verbreiteten statistischen Test, gut erklären.

Ich möchte die Annahmen sowie die (etwas eingeschränkte) Robustheit erläutern. Das Folgende ist mein schwacher Versuch. Gibt es gute Lehrbücher, die diese Dinge einfach und ehrlich erklären?

Selbst wenn 3 + 5 = 8 ist, ist die Lösung für x1 + x2 = 8 nicht nur x1 = 3 und x2 = 5. Das Gleiche passiert oft auch in der Statistik.

Der t-Test wurde ursprünglich aus X_1, ..., X_n1 – iid N(mu_1, sigma^2) und Y_1, ..., Y_n2 – iid N(mu_2, sigma^2) abgeleitet. Das bedeutet jedoch nicht, dass die t-Teststatistik nur dann als t-Verteilung verteilt ist, wenn die Daten aus diesem speziellen Modell generiert werden.

Die Robustheit ändert sich jedoch je nach Situation.

(1) Der Verstoß gegen iid hat tragische Folgen. Wenn Sie beispielsweise politische Meinungen von Twitter (X) sammeln und versuchen, daraus Rückschlüsse auf die allgemeine Bevölkerung Japans zu ziehen, werden die Ergebnisse stark verzerrt.

(2) Auch wenn die Annahme gleicher Varianzen verletzt wird, ist das Ergebnis immer noch approximativ gültig, wenn die Stichprobenumfänge zweier Gruppen nahezu gleich sind.

(3) Auch wenn die Annahme der Normalverteilung verletzt wird, ist das Ergebnis immer noch näherungsweise gültig, sofern der Stichprobenumfang relativ groß ist und die Verteilung nicht so schief ist oder so starke Randeffekte aufweist.

(4) Der Zweistichproben-t-Test ist auch die Näherung an einen Randomisierungstest, wenn die Stichprobengröße relativ groß ist. Man kann sich den Zweistichproben-t-Test also als einen nichtparametrischen Test mit der Nullhypothese H0 vorstellen: F1(y) = F2(y) für alle y (obwohl in vielen Kochbüchern steht, dass der t-Test ein parametrischer Test ist).

Betreff: Einfache und ehrliche Erklärung für den Zweistichproben-t-Test?

Das Statistik-Wissensportal bietet eine gute Erklärung dazu: https://www.jmp.com/en_us/statistics-knowledge-portal/t-test/two-sample-t-test.html

Betreff: Einfache und ehrliche Erklärung für den Zweistichproben-t-Test?

Vielen Dank für die Informationen, @mzwald -san.

Ich persönlich denke, dass die Annahmen und die Robustheit des Zweistichproben-t-Tests (von Student und Welch) komplexer sind.

Als Beispiel steht auf der Seite folgende Erklärung.
>Was ist, wenn die Varianzen für meine beiden Gruppen nicht gleich sind?
>Sie können immer noch den Zweistichproben-t-Test verwenden. Sie verwenden eine andere Schätzung der Standardabweichung.

Ich vermute, die obigen Sätze legen nahe, dass Sie bei gleichen Varianzen den Student-t-Test und bei ungleichen Varianzen den Welch-t-Test verwenden sollten. (Die „Standardabweichung“ bedeutet vermutlich „Standardfehler“.) Aber wenn die Stichprobengrößen ungefähr gleich sind, liegen die Ergebnisse des Student-t-Tests und des Welch-t-Tests sehr nahe beieinander. Und wenn die Varianzen zweier Gruppen sehr nahe beieinander liegen, liegen die Ergebnisse des Student-t-Tests und des Welch-t-Tests ebenfalls sehr nahe beieinander.

Die aktuelle obige Erklärung scheint zu besagen, dass wir den t-Test von Welch nicht für gleiche Varianzen verwenden können, oder dass wir den t-Test von Student nie für ungleiche Varianzen verwenden können.

Die andere Eigenschaft, die ich für wichtig halte, ist, dass der Zweistichproben-t-Test eine Annäherung an einen Randomisierungstest ist. Diese Eigenschaft macht die Verwendung des t-Tests für randomisierte klinische Studien gültig. Bei den klinischen Studien werden niemals Zufallsstichproben verwendet. Es wird nur die zufällige Zuordnung verwendet. Ihre Daten sind also keine Zufallsstichproben. Trotzdem ist der Zweistichproben-t-Test von Student als Randomisierungstest für H0:F1(x) = F2(x) gültig.

Betreff: Einfache und ehrliche Erklärung für den Zweistichproben-t-Test?

Hallo @yusuke_ono

Der Zweistichproben-t-Test ist eine weit verbreitete statistische Methode, mit der ermittelt werden soll, ob es einen signifikanten Unterschied zwischen den Mittelwerten zweier unabhängiger Gruppen gibt. Er wird häufig in Forschungsszenarien angewendet, in denen die durchschnittlichen Ergebnisse zweier unterschiedlicher Gruppen verglichen werden sollen, um zu beurteilen, ob beobachtete Unterschiede statistisch signifikant sind oder zufällig entstanden sein könnten.

Aspekt	Beschreibung	Beispiel
Annahmen des Zweistichproben-t-Tests
Unabhängigkeit der Beobachtungen	Die Beobachtungen in jeder Gruppe müssen voneinander unabhängig sein.	Untersuchung der Wirkung einer neuen Lehrmethode durch Testen von Schülern, die gemeinsam in Gruppen lernen. Wenn die Schüler während des Tests diskutieren und sich gegenseitig helfen, sind ihre Ergebnisse nicht mehr unabhängig voneinander.
Normalität	Die Daten in jeder Gruppe sollten annähernd normal verteilt sein, was insbesondere bei kleinen Stichprobengrößen wichtig ist.	Einkommensmessung in zwei Städten mit verzerrter Einkommensverteilung.
Gleiche Varianzen	Die Varianzen (Streuung oder Variabilität) der beiden Gruppen sollten ungefähr gleich sein.	Vergleichen konsistenter Daten in einer Gruppe mit stark variablen Daten in einer anderen Gruppe.
Robustheit des Zweistichproben-t-Tests
Verstöße gegen die Unabhängigkeit	Der t-Test ist nicht robust gegenüber Verstößen gegen die Unabhängigkeit, was zu verzerrten Ergebnissen führt.	Befragung von Schülern in einer Klasse, die ihre Antworten diskutieren – wie oben beschrieben (führt zu verzerrten Ergebnissen).
Verstöße gegen die Normalität	Der t-Test ist relativ robust gegenüber Verletzungen der Normalverteilung, insbesondere bei großen Stichproben.	Vergleich der Reaktionszeiten bei einem Videospiel für zwei Gruppen mit leicht verzerrten Daten.
Verstöße gegen gleiche Varianzen	Der t-Test ist mäßig robust gegenüber Verstößen gegen Varianzgleichheit, insbesondere bei ähnlichen Stichprobengrößen. Verwenden Sie den Welch-t-Test, wenn die Varianzen ungleich sind und die Stichprobengrößen unterschiedlich sind.	Vergleich der Testergebnisse zweier Schulen mit unterschiedlichen Punktzahlabweichungen.

Bitte beachten Sie:

1. Während der Welch-t-Test durch die Berücksichtigung ungleicher Varianzen einen flexibleren Ansatz bietet, konvergieren die Ergebnisse des Student-t-Tests und des Welch-t-Tests in vielen praktischen Szenarien, in denen die Stichprobengrößen gleich oder die Varianzen ähnlich sind, stark.
2. Der Zweistichproben-t-Test wird als parametrischer Test klassifiziert, da er davon ausgeht, dass die Daten aus normalverteilten Populationen stammen. Bei ausreichend großen Stichproben kann der t-Test jedoch auch als Annäherung an einen nichtparametrischen Test angesehen werden. In diesem Zusammenhang testet er die Nullhypothese, dass die Verteilungen der beiden Gruppen identisch sind, was ihn unter bestimmten Bedingungen zu einem nichtparametrischen Test macht.

Zu Ihrem letzten Punkt zu klinischen Studien : //Bei klinischen Studien: Zweistichproben-t-Test als Annäherung an einen Randomisierungstest//

Da die Probanden einer Behandlungsgruppe nach dem Zufallsprinzip zugeteilt werden, handelt es sich bei den in klinischen Studien gesammelten Daten nicht um Zufallsstichproben im herkömmlichen Sinne.

Der Zweistichproben-t-Test behält in diesem Kontext jedoch seine Gültigkeit, da er in der Lage ist, einen Randomisierungstest im physiologischen und pharmakologischen Sinn anzunähern (zusätzlich zu strengen Einschlusskriterien). Dies bedeutet, dass der T-Test die Nullhypothese immer noch genau testen kann. Der Zweistichproben-t-Test stellt trotz des Fehlens einer Zufallsstichprobe eine zuverlässige Methode für Hypothesentests in randomisierten Studien dar.

Dies bezieht sich auf die Idee, dass unter der Nullhypothese die Verteilung der t-Teststatistik (im Kontext randomisierter Experimente) der Verteilung der Teststatistik entspricht, die aus einem Permutations- oder Randomisierungstest gewonnen wurde. Diese Eigenschaft rechtfertigt die Verwendung des Zweistichproben-t-Tests in randomisierten Versuchen, bei denen eine zufällige Zuordnung anstelle einer zufälligen Stichprobenziehung verwendet wird, da der t-Test die Ergebnisse eines vollständigen Randomisierungstests annähern kann und damit auch in Abwesenheit einer traditionellen zufälligen Stichprobenziehung gültig ist.

Statistisch gesehen wird dies als randomisierungsbasierte Inferenz bezeichnet.

Beliebte Referenzen:

Eine Einführung in das statistische Lernen

Praktische Statistik für Datenwissenschaftler

Statistik: Die Kunst und Wissenschaft des Lernens aus Daten, dritte Ausgabe (empfohlen)

Primäre Referenzen:

Statistische Methoden

Referenzen zu klinischen Studien:

Randomisierungstests

Design und Analyse klinischer Studien: Konzepte und Methoden Siehe Kapitel (3,4 und 5)

Vertrauen Sie darauf, dass diese Eingaben Ihnen helfen.

Betreff: Einfache und ehrliche Erklärung für den Zweistichproben-t-Test?

@yusuke_ono Es ist gut und macht Spaß, den wohl grundlegendsten und praktisch nützlichsten statistischen Test, den wir haben, gründlich in Frage zu stellen. Sieht so aus, als hätten Sie die Anfänge eines Whitepapers, so etwas wie „Überlegungen zum bemerkenswerten Zwei-Stichproben-T-Test“. Der natürliche Ausgangspunkt ist der ursprüngliche Test, bei dem alle Annahmen vollständig erfüllt sind. Betrachten Sie dann verschiedene Richtungen und Abweichungsgrade von diesen Annahmen und deren Auswirkungen auf die Stichprobeneigenschaften des Tests (Größe und Leistung).

Aus technischer Sicht ist die t-Teststatistik sehr intuitiv ein Signal-Rausch-Verhältnis.

Die Zusammenhänge mit randomisierter Inferenz sind überzeugend, werden aber unterschätzt.

@Chandramouli_R Das ist großartiges Zusammenfassungsmaterial. Ich würde gerne gemischte Modelle zum Flussdiagramm für den nicht unabhängigen Zweig hinzugefügt sehen, wobei der häufigste Fall die Paarung oder allgemeiner die Blockierung ist. Wir haben eine ausgezeichnete gemischte Modelltheorie mit Kenward-Roger-Freiheitsgradberechnungen, die immer noch ungefähre t-Verteilungen zum Testen verwenden und über gute Eigenschaften bei kleinen Stichproben verfügen.

Betreff: Einfache und ehrliche Erklärung für den Zweistichproben-t-Test?

Vielen Dank für Ihre Idee, @Chandramouli_R -san.

Mir gefällt die Erklärung im Textteil. Obwohl das nur meine persönliche Vorliebe ist, gefällt mir persönlich das Flussdiagramm selbst oben nicht (obwohl ich es in vielen Kochbüchern sehe).

Zunächst behält der Wilcoxon-Test den Alpha-Fehler nicht bei, wenn zwei Varianzen nicht gleich sind (selbst wenn die Stichprobengrößen zweier Gruppen gleich sind). Dies wird als „nichtparametrisches Behrens-Fisher-Problem“ bezeichnet. Es gibt Welchs Version des Wilcoxon-Tests (Brunner, E. und Munzel, U. (2000) Das nichtparametrische Behrens-Fisher-Problem: Asymptotische Theorie und eine Approximation für kleine Stichproben).

Zweitens höre ich zwar auch oft die urbane Legende, dass „die zentrale Grenzwerttheorie für n<=30 nicht gilt“, aber ich denke, dass es stark von der Bevölkerungsverteilung abhängt. Soweit ich weiß, stammt diese urbane Legende aus Kendalls Advanced Theory of Statistics. Aber der Originalsatz lautet einfach wie folgt:

... Für einige Verteilungen, insbesondere die des Mittelwerts, ergibt sich eine völlig zufriedenstellende Annäherung durch niedrige n-Werte, beispielsweise n > 30.... (Auf S. 341 in der 6. Auflage.)

Wenn ich den obigen Satz umschreibe, denke ich, dass der Autor einfach so etwas sagt wie: „Die CLT funktioniert für einige Statistiken aus einigen Bevölkerungsverteilungen, sogar bei sehr kleinen Stichprobengrößen (wie n = 30).“ Das Folgende ist ein naives Beispiel. Wenn die Bevölkerungsverteilung gleichmäßig ist, scheint die CLT-Näherung sogar für n = 5 gut zu sein. Aber die Bevölkerungsverteilung hat sehr schwere Enden, die CLT-Näherung funktioniert nicht einmal für n = 100.

Random Reset(1111111);
y1 = J(5, 10000, Random Uniform());
y2 = J(100, 10000,Random SHASH(0.1, 0.1, 2, 3));
dt = As Table(VMean(y1)`||VMean(y2)`);
dt << Distribution(Y(1::2));

Drittens ist der Wilcoxon-Test im Allgemeinen kein Test für die Differenz zwischen zwei Mittelwerten oder zwei Medianwerten. Wenn Sie also an der Differenz zwischen Mittelwerten oder Medianwerten interessiert sind, sollten Sie meiner Meinung nach den Wilcoxon-Test nicht verwenden. Das Folgende ist ein sehr künstliches, naives Beispiel. Die Stichprobenmediane sind gleich, aber der Wilcoxon-Test ist hoch signifikant.

y1 = J(1000,1,Random Lognormal(0,1));
y2 = -y1;
y1 = y1 - Median(y1);
y2 = y2 - Median(y2);
dt = As Table( (J(NRow(y1),1,1)||y1)|/ (J(NRow(y2),1,2)||y2), <<COLUMN names=""></COLUMN>

<P><BR />Viertens wird aus der Sicht der statistischen Modellierung das Flussdiagramm selbst in Abschnitt 1.1 in McElreath, R. (2020) Statistical Rethinking: A Bayesian Course with Examples in R and Stan (2. Ausgabe), CRC Press, kritisiert.</P> <P>Wenn Sie im Flussdiagramm Ja/Nein anhand anderer statistischer Tests beurteilen, wurden diese Vortests auch häufig kritisiert. So wird beispielsweise die Überprüfung der Homogenität von Varianzen mithilfe eines statistischen Tests vor einem Zweistichproben-t-Test oder einer einfaktoriellen ANOVA wie folgt beschrieben: „Einen Vortest auf Varianzen durchzuführen ist etwa so, als würde man mit einem Ruderboot in See stechen, um herauszufinden, ob die Bedingungen ruhig genug sind, damit ein Ozeandampfer den Hafen verlassen kann!“ (S. 333, Box, GEP (1953). Nicht-Normalität und Tests auf Varianzen). Und selbst wenn die Vortests statistisch gültig sind, können wir H0 bei großen p-Werten nicht unbedingt akzeptieren.</P>Betreff: Einfache und ehrliche Erklärung für den Zweistichproben-t-Test?

Vielen Dank für Ihren Rat, @russ_wolfinger -san

Vor etwa 20 bis 30 Jahren, als ich Dozent für grundlegende statistische Analysen mit Base SAS und SAS/STAT war, empfahl ich SAS-Benutzern, die Nicht-Normalverteilung mit UNIVARIATE und die Homogenität der Varianzen mit dem F-Test in TTEST zu überprüfen (und für nicht-normale Daten den Wilcoxon-Test und für unterschiedliche Varianzen den Welch-Test zu verwenden). Dies liegt teilweise daran, dass TTEST die Ergebnisse des T-Tests für Mittelwerte und des F-Tests für Varianzen auf derselben Seite ausgibt. Mein Gedächtnis ist eingerostet, aber SAS/ASSIST hat möglicherweise auch dieselbe Art von Flussdiagramm- oder Kochbuchlogik verwendet.

Mittlerweile bin ich der Meinung, dass es für diese Art von Ritualen oder Bräuchen keinen statistischen Grund gibt.

In der p-Wert-Erklärung von 2016 heißt es jedoch: „Informell ist ein p-Wert die Wahrscheinlichkeit unter einem bestimmten statistischen Modell , dass eine statistische Zusammenfassung der Daten ([… Schnitt nach Ono …]) gleich oder extremer als ihr beobachteter Wert ist.“ Ich denke, diese Erklärung passt zumindest teilweise nicht zum t-Test. Das statistische Modell für den t-Test basierte ursprünglich auf den Normalverteilungen. Aber selbst wenn die Daten nicht normal sind (d. h. die Daten von den ursprünglich angenommenen Modellen abweichen), kann der p-Wert groß sein (wenn die Stichprobenmittelwerte nahezu gleich sind).

Wie Sie wissen, wird bei randomisierten klinischen Studien normalerweise überhaupt keine Zufallsstichprobe verwendet, sondern nur eine Randomisierung. Daher glaube ich, dass wir aus dem Rahmen der Zufallsstichprobe (also „Populationsmodelle“ in Lehmanns Terminologie) keinen gültigen statistischen Grund für die Verwendung des T-Tests in RCTs nennen können.

Betreff: Einfache und ehrliche Erklärung für den Zweistichproben-t-Test?

Ein paar klassische Referenzen mit konkurrierenden Ansichten zur Randomisierung von zwei hochkarätigen angewandten Statistikern: Kempthorne: https://www.jstor.org/stable/2281178 Harville: https://www.jstor.org/stable/2683676