781201_fr-FR

liliconcom

Explication simple et honnête du test t à deux échantillons ?

Il s’agit simplement d’une conversation informelle, sans rapport avec le travail.

Je travaille dans le domaine des statistiques depuis environ 30 ans, mais je n’arrive toujours pas à trouver un bon moyen d’expliquer même le test t à deux échantillons, un test statistique très simple et populaire.

Je voudrais expliquer les hypothèses ainsi que la robustesse (légèrement limitée). Ce qui suit est ma pauvre tentative. Existe-t-il de bons manuels pour expliquer ces choses de manière simple et honnête ?

Même si 3 + 5 = 8, la solution pour x1 + x2 = 8 n'est pas seulement x1 = 3 et x2 = 5. La même chose se produit souvent aussi en statistiques.

Le test t a été dérivé à l'origine de X_1, ..., X_n1 -- iid N(mu_1, sigma^2) et Y_1, ..., Y_n2 -- iid N(mu_2, sigma^2), mais cela ne signifie pas que la statistique du test t est distribuée sous forme de distribution t uniquement lorsque les données sont générées à partir de ce modèle spécifique.

Mais la robustesse change pour chaque situation.

(1) La violation de l'iid entraîne des résultats tragiques. Par exemple, si vous collectez des opinions politiques sur Twitter (X) et que vous essayez de les déduire de la population générale au Japon, le résultat devient très biaisé.

(2) Même lorsque l’hypothèse d’égalité des variances est violée, le résultat est toujours approximativement valide si les tailles d’échantillon des deux groupes sont presque égales.

(3) Même lorsque l’hypothèse de normalité est violée, le résultat reste approximativement valide si la taille de l’échantillon est relativement grande et si la distribution n’est pas si asymétrique ou si fortement décalée.

(4) Le test t à deux échantillons est également l'approximation d'un test de randomisation si la taille de l'échantillon est relativement grande. Vous pouvez donc considérer le test t à deux échantillons comme un test non paramétrique avec l'hypothèse nulle H0 : F1(y) = F2(y) pour tout y (bien que de nombreux livres de cuisine disent que le test t est un test paramétrique).

Ré: Explication simple et honnête du test t à deux échantillons ?

Le portail de connaissances statistiques en propose une bonne explication : https://www.jmp.com/en_us/statistics-knowledge-portal/t-test/two-sample-t-test.html

Ré: Explication simple et honnête du test t à deux échantillons ?

Merci pour l'information, @mzwald -san.

Personnellement, je pense que les hypothèses et la robustesse du test t à deux échantillons (de Student et de Welch) sont plus complexes.

À titre d’exemple, l’explication suivante est écrite dans la page.
>Que se passe-t-il si les variances de mes deux groupes ne sont pas égales ?
>Vous pouvez toujours utiliser le test t à deux échantillons. Vous utilisez une estimation différente de l'écart type.

Je suppose que les phrases ci-dessus suggèrent que si les variances sont égales, vous devez utiliser le test t de Student, et si les variances sont inégales, vous devez utiliser le test t de Welch. (L'« écart type » signifie « erreur standard », je suppose.) Mais si les tailles d'échantillon sont à peu près égales, les résultats du test t de Student et du test t de Welch sont très proches. De plus, si les variances de deux groupes sont très proches, là encore, les résultats du test t de Student et du test t de Welch sont très proches.

L'explication ci-dessus semble dire que nous ne pouvons pas utiliser le test t de Welch pour des variances égales, ou que nous ne pouvons pas toujours utiliser le test t de Student pour des variances inégales.

L'autre propriété qui me semble importante est que le test t à deux échantillons est une approximation d'un test de randomisation. Cette propriété donne sa validité à l'utilisation du test t pour les essais cliniques randomisés. Les essais cliniques n'utilisent jamais d'échantillonnage aléatoire. Ils utilisent uniquement la répartition aléatoire. Ainsi, leurs données ne sont pas des échantillons aléatoires. Même ainsi, le test t de Student à deux échantillons est valide comme test de randomisation pour H0 : F1(x) = F2(x).

Ré: Explication simple et honnête du test t à deux échantillons ?

Salut @yusuke_ono

Le test t à deux échantillons est une méthode statistique largement utilisée conçue pour déterminer s'il existe une différence significative entre les moyennes de deux groupes indépendants. Il est souvent appliqué dans des scénarios de recherche où l'on cherche à comparer les résultats moyens de deux groupes distincts pour évaluer si les différences observées sont statistiquement significatives ou pourraient être le fruit du hasard.

Aspect	Description	Exemple
Hypothèses du test t à deux échantillons
Indépendance des observations	Les observations de chaque groupe doivent être indépendantes les unes des autres.	Étudier l'effet d'une nouvelle méthode d'enseignement en testant des étudiants qui étudient ensemble en groupe. Si les étudiants discutent et s'entraident pendant le test, leurs résultats ne sont plus indépendants
Normalité	Les données de chaque groupe doivent être distribuées approximativement normalement, ce qui est particulièrement important avec des échantillons de petite taille.	Mesurer les revenus dans deux villes où la répartition des revenus est inégale.
Variances égales	Les variances (étalement ou variabilité) des deux groupes doivent être à peu près égales.	Comparer des données cohérentes dans un groupe avec des données très variables dans un autre groupe.
Robustesse du test t à deux échantillons
Violations de l'indépendance	Le test t n’est pas robuste aux violations d’indépendance, ce qui conduit à des résultats biaisés.	Interroger les étudiants d'une classe et discuter de leurs réponses - comme décrit ci-dessus (conduit à des résultats biaisés).
Violations de la normalité	Le test t est assez robuste aux violations de normalité, en particulier avec des échantillons de grande taille.	Comparaison des temps de réaction à un jeu vidéo pour deux groupes avec des données légèrement biaisées.
Violations des écarts égaux	Le test t est modérément résistant aux violations des variances égales, en particulier si les tailles d'échantillon sont similaires. Utilisez le test t de Welch lorsque les variances sont inégales et que les tailles d'échantillon diffèrent.	Comparaison des résultats aux tests de deux écoles présentant des écarts de résultats différents.

Veuillez noter:

1. Bien que le test t de Welch offre une approche plus flexible en prenant en compte des variances inégales, dans de nombreux scénarios pratiques où les tailles d'échantillon sont égales ou les variances sont similaires, les résultats du test t de Student et du test t de Welch convergeront étroitement.
2. Le test t à deux échantillons est classé comme un test paramétrique, en supposant que les données proviennent de populations normalement distribuées. Cependant, lorsque les tailles d'échantillon sont suffisamment grandes, le test t peut également être considéré comme une approximation d'un test non paramétrique. Dans ce contexte, il teste l'hypothèse nulle selon laquelle les distributions des deux groupes sont identiques, ce qui le rend quelque peu analogue à un test non paramétrique dans certaines conditions.

Sur votre dernier point sur les essais cliniques : //Dans les essais cliniques, le test t à deux échantillons comme approximation d'un test de randomisation//

Étant donné la conception consistant à attribuer aléatoirement des sujets à un groupe de traitement, les données collectées dans les essais cliniques ne sont pas des échantillons aléatoires au sens traditionnel du terme.

Cependant, le test t à deux échantillons reste valable dans ce contexte en raison de sa capacité à approximer un test de randomisation dans un sens physiologique et pharmacologique (en plus de critères d'inclusion rigides) - ce qui signifie que le test t peut toujours tester avec précision l'hypothèse nulle. Le test t à deux échantillons fournit une méthode fiable pour tester les hypothèses dans les essais randomisés, malgré l'absence d'échantillonnage aléatoire.

Cela fait référence à l'idée que, sous l'hypothèse nulle, la distribution de la statistique du test t (dans le contexte d'expériences randomisées) se rapproche de la distribution de la statistique de test obtenue à partir d'un test de permutation ou de randomisation. Cette propriété justifie l'utilisation du test t à deux échantillons dans les essais randomisés, où l'allocation aléatoire plutôt que l'échantillonnage aléatoire est utilisée, car le test t peut se rapprocher des résultats d'un test de randomisation complet, le rendant valide même en l'absence d'échantillonnage aléatoire traditionnel.

Statistiquement, on parle d’ inférence basée sur la randomisation .

Références populaires :

Une introduction à l'apprentissage statistique

Statistiques pratiques pour les data scientists

Statistiques : l'art et la science de l'apprentissage à partir des données, troisième édition (recommandé)

Références principales :

Méthodes statistiques

Références des essais cliniques :

Tests de randomisation

Conception et analyse des essais cliniques : concepts et méthodologies Voir les chapitres (3, 4 et 5)

Ayez confiance que ces informations vous aideront.

Ré: Explication simple et honnête du test t à deux échantillons ?

@yusuke_ono C'est bien et amusant de remettre en question en profondeur ce qui est sans doute le test statistique le plus fondamental et le plus utile sur le plan pratique dont nous disposons. Il semble que vous ayez les prémices d'un livre blanc, quelque chose comme « Considérations sur le remarquable test T à deux échantillons ». Le point de départ naturel est le test d'origine avec toutes les hypothèses pleinement satisfaites. Ensuite, considérez les différentes directions et degrés d'écart par rapport à ces hypothèses et leur impact sur les propriétés d'échantillonnage du test (taille et puissance).

D'un point de vue technique, la statistique du test t est très intuitivement un rapport signal/bruit.

Les liens avec l’inférence randomisée sont convaincants et sous-estimés.

@Chandramouli_R C'est un excellent résumé. J'aimerais voir des modèles mixtes ajoutés au diagramme de flux pour la branche non indépendante, le cas le plus courant étant l'appariement ou, plus généralement, le blocage. Nous avons une excellente théorie des modèles mixtes avec des calculs de degrés de liberté Kenward-Roger qui utilisent toujours des distributions t approximatives pour les tests et qui ont des propriétés de petits échantillons performantes.

Ré: Explication simple et honnête du test t à deux échantillons ?

Merci pour votre idée, @Chandramouli_R -san.

J'aime bien l'explication dans la partie texte. Bien que ce ne soit que ma préférence personnelle, je n'aime pas personnellement le diagramme lui-même en haut (même si je le vois dans de nombreux livres de cuisine).

Au début, le test de Wilcoxon ne conserve pas l'erreur alpha lorsque les variances à deux facteurs ne sont pas égales (même si les tailles d'échantillon des deux groupes sont égales). C'est ce qu'on appelle le « problème non paramétrique de Behrens-Fisher ». Il existe la version de Welch du test de Wilcoxon (Brunner, E. et Munzel, U. (2000) The Nonparametric Behrens-Fisher Problem: Asymptotic Theory and a Small-Sample Approximation.)

Deuxièmement, bien que j'entende souvent la légende urbaine selon laquelle "la théorie de la limite centrale ne tient pas pour n<=30", je pense que cela dépend fortement de la distribution de la population. D'après ce que j'ai vérifié, cette légende urbaine vient de la théorie avancée des statistiques de Kendall. Mais la phrase originale dit simplement ce qui suit.

... Pour certaines distributions, notamment celle de la moyenne, une approximation tout à fait satisfaisante est donnée par de faibles valeurs de n, disons n > 30.... (P. 341 de la 6e édition.)

Si je paraphrase la phrase ci-dessus, je pense que l'auteur dit simplement quelque chose comme ça "Le CLT fonctionne pour certaines statistiques de certaines distributions de population même pour un échantillon de très petite taille (comme n = 30)". Ce qui suit est un exemple naïf. Si la distribution de la population est uniforme, l'approximation CLT semble bien fonctionner même pour n = 5. Mais la distribution de la population est très lourde, l'approximation CLT ne fonctionne pas même pour n = 100.

Random Reset(1111111);
y1 = J(5, 10000, Random Uniform());
y2 = J(100, 10000,Random SHASH(0.1, 0.1, 2, 3));
dt = As Table(VMean(y1)`||VMean(y2)`);
dt << Distribution(Y(1::2));

Troisièmement, le test de Wilcoxon n'est généralement pas un test de différence entre deux moyennes ou deux médianes. Donc, si vous êtes intéressé par la différence entre les moyennes ou les médianes, je pense que vous ne devriez pas utiliser le test de Wilcoxon. Ce qui suit est un exemple naïf très artificiel. Les médianes des échantillons sont égales, mais le test de Wilcoxon est hautement significatif.

y1 = J(1000,1,Random Lognormal(0,1));
y2 = -y1;
y1 = y1 - Median(y1);
y2 = y2 - Median(y2);
dt = As Table( (J(NRow(y1),1,1)||y1)|/ (J(NRow(y2),1,2)||y2), <<COLUMN names=""></COLUMN>

<P><BR />Quatrièmement, du point de vue de la modélisation statistique, l'organigramme lui-même est critiqué dans la section 1.1 de McElreath, R. (2020) Statistical Rethinking: A Bayesian Course with Examples in R and Stan (2e éd.), CRC Press.</P> <P>De plus, si vous jugez Oui/Non dans le diagramme par d'autres tests statistiques, ces types de pré-tests ont également été souvent critiqués. Par exemple, la vérification de l'homogénéité des variances par un test statistique avant le test t à deux échantillons ou l'ANOVA à un facteur est dite comme « Effectuer le test préliminaire sur les variances, c'est un peu comme prendre la mer dans un bateau à rames pour savoir si les conditions sont suffisamment calmes pour qu'un paquebot quitte le port ! » (p. 333, Box, GEP (1953). Non-Normality and Tests on Variances). Et, même si les pré-tests sont statistiquement valides, nous ne pouvons pas accepter fortement H0 lorsque les valeurs de p sont élevées.</P>Ré: Explication simple et honnête du test t à deux échantillons ?

Merci pour vos conseils, @russ_wolfinger -san

Il y a environ 20 à 30 ans, lorsque j'étais instructeur en analyse statistique de base avec Base SAS et SAS/STAT, je recommandais aux utilisateurs de SAS de vérifier la non-normalité par UNIVARIATE et de vérifier l'homogénéité des variances par le test F dans TTEST (et d'utiliser le test de Wilcoxon pour les données non normales et d'utiliser le test de Welch dans le cas où les variances sont différentes). Cela est en partie dû au fait que TTEST génère les résultats du test t pour les moyennes et du test F pour les variances sur la même page. Ma mémoire est rouillée, mais SAS/ASSIST a peut-être aussi utilisé le même type de logique d'organigramme ou de livre de recettes.

Mais je pense maintenant qu’il n’y a aucune raison statistique pour ce genre de rituels ou de coutumes.

Cependant, dans la déclaration de 2016 sur la valeur p, il est dit que « de manière informelle, une valeur p est la probabilité, dans le cadre d’un modèle statistique spécifié, qu’un résumé statistique des données ([… coupé par Ono…]) soit égal ou plus extrême que sa valeur observée. » Je pense que cette explication ne correspond pas partiellement au moins au test t. Le modèle statistique du test t était à l’origine basé sur les distributions normales. Mais même si les données ne sont pas normales (c’est-à-dire que les données s’écartent des modèles supposés d’origine), la valeur p peut être élevée (lorsque les moyennes des échantillons sont presque égales).

Comme vous le savez, les essais cliniques randomisés n'utilisent généralement pas d'échantillonnage aléatoire, mais uniquement la randomisation. Je pense donc que nous ne pouvons pas donner de raison statistique valable à l'utilisation du test t dans les ECR à partir du cadre de l'échantillonnage aléatoire (c'est-à-dire des « modèles de population » selon la terminologie de Lehmann).

Ré: Explication simple et honnête du test t à deux échantillons ?

Quelques références classiques avec des points de vue divergents sur la randomisation de la part de deux statisticiens appliqués de haut niveau : Kempthorne : https://www.jstor.org/stable/2281178 Harville : https://www.jstor.org/stable/2683676