REMARQUE: cet article a été publié à l'origine dans JMPer Cable, numéro 15, été 2004.
John Sall, vice-président exécutif, SAS Institute Inc.
Bradley Jones, développement JMP
Chaque procédure statistique implique des hypothèses. On nous apprend à craindre la violation de ces hypothèses. Par exemple, les procédures standard de comparaison des moyennes, le modèle à deux échantillons t- test, le jumelé t -test, et ANOVA incluent tous l'hypothèse que l'erreur résiduelle est normalement distribuée. Si l'erreur est normalement distribuée et que toutes les autres hypothèses sont vérifiées, toutes les statistiques de test ont leurs distributions revendiquées, ainsi que les intervalles de confiance et les tests d'hypothèse. Nous disposons même d'une riche source d'outils analytiques pour sonder nos hypothèses, telles que les fonctionnalités de la plate-forme de distribution permettant de tester et de représenter graphiquement la distribution normale. Et si les résidus ne sont pas normalement distribués? À quel point un pratiquant devrait-il s'inquiéter de savoir si les résidus sont normaux? Peu d'articles, et moins de livres, expliquent dans les détails à quel point l'hypothèse de la normalité est préoccupante.
Avoir des résidus distribués normalement est un problème dont nous n'avons probablement pas à nous soucier car:
- Dans les grands échantillons, il est facile de détecter la non-normalité, mais cela n'a pas d'importance.
- Dans les petits échantillons, la non-normalité peut avoir de l'importance, mais vous ne pouvez pas la détecter.
Avec les grands échantillons, le théorème limite central indique que même si les données ne sont pas normales, les statistiques de type moyenne s'approchent des distributions normales lorsque la taille de l'échantillon augmente. Avec de petits échantillons, les statistiques de test ne sont pas nécessairement normales, mais nous n’avons pas un assez grand échantillon pour le dire.
Les développeurs de JMP sont fréquemment sollicités pour mettre en œuvre un test de normalité résiduelle, une fonctionnalité pratique pour nos plates-formes d'adaptation. Mais cela ne serait utile que s'il existait des tailles d'échantillon pour lesquelles la non-normalité pouvait être détectée et importée. Examinons, en utilisant la simulation.
Pour notre simulation, nous comparons les moyennes de deux groupes en utilisant deux distributions d'erreur non normales différentes: une double exponentielle et une normale contaminée par un décalage. La double exponentielle est symétrique, mais leptokurtotique, c'est à dire , beaucoup plus pointue et ayant des queues beaucoup plus lourdes que la distribution normale. Le décalage contaminé par la normale est une distribution normale asymétrique à droite en ajoutant un décalage de trois écarts-types dans 5% des échantillons sélectionnés au hasard.
La double exponentielle est simulée par cette formule JMP:
if (randomUniform ()> 0.5,1, -
1) * log (randomUniform ())
La distribution contaminée par équipes utilise cette formule JMP:
10 + 5 * (randomNormal () +
(randomUniform () <0.05) * 3)
Celles-ci sont censées être caractéristiques d'une non-normalité forte, mais pas extrême, que vous pourriez voir dans des données réelles.
La figure 1 montre 10 000 points de la double exponentielle simulée et la figure 2 montre les distributions contaminées par le décalage. La ligne diagonale rouge unie indique à quoi les données ressembleraient si elles correspondaient à une distribution normale. Notez que les données sont inférieures à la ligne pour les petits quantiles et supérieures à la ligne pour les grands quantiles. Il est caractéristique des distributions leptokurtotiques. Ils ont beaucoup de probabilité de masse au milieu avec des queues longues mais peu peuplées.
Les données du graphique des quantiles normaux pour la distribution contaminée par décalage (Figure 2) se situent au-dessus de la ligne diagonale rouge unie pour les grands quantiles. Ceci est caractéristique des distributions asymétriques droites. Si les données avaient été distribuées normalement, le sommet de l’histogramme se serait terminé vers 30 heures au lieu de 40.
Fig. 1: Résultats de la distribution pour la distribution double exponentielle.
Fig. 2: Résultats de la distribution pour les distributions par contamination de décalage.
Un script JSL a été exécuté. Il a généré 10 000 échantillons de Monte Carlo avec 10 observations pour ces deux distributions non normales. Chaque échantillon a été divisé en deux groupes de taille égale. De par leur conception, il n'y a pas de différence entre les moyennes des deux groupes. Nous avons également généré 10 000 échantillons pour la distribution normale standard en tant que contrôle. Pour chaque échantillon, nous avons effectué une analyse unidirectionnelle pour tester la différence des moyennes et une distribution pour tester la normalité des résidus. Nous avons répété toute cette procédure pour des échantillons de tailles 20, 30, 50, 70 et 100.
Test d'égalité des moyennes lorsqu'il n'y a pas de différence dans les moyennes de la population
Tout d’abord, regardons les parcelles de nos 10 000 p -values pour les distributions non normales. N'oubliez pas que notre procédure est conçue de manière à ce qu'il n'y ait pas de réelle différence dans les moyennes pour chaque échantillon. En raison de la variation aléatoire, le p -Les valeurs de nos 10 000 analyses unidirectionnelles doivent être uniformément réparties entre zéro et un. La fonction de distribution uniforme est la diagonale F (x) = x.
Pour produire les tracés des figures 3a et 3b, nous avons d’abord trié les 10 000 p -valeurs. le y -axis est la proportion des 10 000 p -valeurs inférieures ou égales à une probabilité de signification donnée. le X -axis indique les probabilités de signification ( p valeurs). Chaque taille d'échantillon est affichée dans une couleur différente.
Fig. 3a: Diagramme de probabilité des valeurs de p pour la distribution double exponentielle.
Fig 3b: Diagramme de probabilité des valeurs de p pour la distribution contaminée par le décalage.
Pour les deux parcelles et toutes les tailles d’échantillon, les distributions des p Les valeurs sont proches de la diagonale de la fonction de distribution cumulative uniforme. Comme nous l'espérions, ni changer la distribution ni changer la taille de l'échantillon n'a beaucoup d'incidence sur l'exactitude de la probabilité de signification du test ANOVA à moyennes égales.
Regardons de plus près l'échelle basse près de 0,05 où nous jugeons l'importance. Les graphiques des figures 4a et 4b agrandissent la zone.
Fig. 4a: Vue à échelle agrandie du graphe de probabilité de la valeur p pour une distribution non normale double-exponentielle. 
Fig. 4b: Vue à échelle agrandie du graphe de probabilité de la valeur p pour une distribution non normale contaminée par un décalage.
Notez que la ligne diagonale rouge correspondant au test d'égalité des moyennes pour deux groupes avec cinq observations s'égare légèrement en dessous de la ligne y = x. Qu'est-ce que ça veut dire?
Nous savons que si nous choisissons une probabilité de signification de 0,05, nous rejetterons l’hypothèse selon laquelle nos moyens sont égaux dans 5% de nos expériences en raison des aléas du hasard, même si les moyens sont réellement égaux. En d’autres termes, nous commettrons une erreur de type I dans 5% des cas. Nous rejetterons l’hypothèse voulant que les moyennes soient égales lorsque l’hypothèse est vraie.
Ce taux d'erreur de 5% de type I est intégré et ce à quoi nous nous attendons si nous choisissons une probabilité de signification de 0,05. Si cela vous semble trop d'erreurs, vous devez choisir une probabilité de signification plus petite.
Lorsque la diagonale rouge croise la ligne pointillée verticale x = 0,05, sa y -value est 0.043. Cela signifie qu'au lieu de rejeter l'hypothèse selon laquelle nos moyens sont égaux à 5% du temps, nous n'en avons rejeté que 4,3%. Nous appelons cela un résultat prudent car nous faisons moins d’erreurs de type I que prévu. Si vous allez manquer, il est préférable de manquer prudemment.
D'autre part, supposons qu'une ligne ait traversé la ligne pointillée verticale à 0,05 à une valeur CumProb de 0,06. Ensuite, au lieu de voir les erreurs de type I attendues à 5%, nous verrions en réalité des erreurs de type I à 6%. Nous qualifions ce test de trop libéral, car le taux d'erreur réel est plus grand que prévu.
Il est rassurant de constater que, dans le seul cas où les lignes s’écartent de la ligne des 45 degrés, c’est du côté conservateur. Le cas contaminé par le quart a aussi le n = 10 cas déplacés du côté conservateur, mais pas autant que le double exponentiel.
La figure 5 montre la simulation de Monte Carlo avec une courbe normale pure pour montrer la variation aléatoire naturelle dans l'étude de Monte Carlo.
Fig. 5: Vue à échelle agrandie du graphe de probabilité de la valeur p pour la distribution normale standard.
Tester la non-normalité
La question suivante est de savoir si nous pouvons détecter que les erreurs sont non normales. Nous commençons par calculer les résidus de chaque analyse unidirectionnelle que nous avons effectuée auparavant. À l'aide de la plate-forme de distribution, nous testons la normalité de ces résidus. Ainsi, pour chaque distribution et taille d'échantillon, nous effectuons 10 000 tests de normalité Shapiro-Wilks. Les graphiques de la figure 6 montrent le pourcentage cumulé des résultats du test de normalité en fonction de la probabilité de signification dans le test de Shapiro-Wilks.
Fig. 6: Diagrammes de puissance des tests de Shapiro-Wilkes pour les distributions non normales.
Que nous disent ces parcelles? Premièrement, nous savons que dans le cas de la double exponentielle et dans le cas normal contaminé du décalage, la distribution des résidus n’est pas normale. Nous voulons savoir quelle est la probabilité que notre test détecte cette anomalie. En d'autres termes, nous voulons savoir à quel point notre test est puissant.
Un test parfaitement puissant aurait un graphique ressemblant à la lettre grecque gamma,. En revanche, un test sans puissance aurait un graphique qui ressemble à une ligne diagonale.
Pour les résidus à double distribution exponentielle, nous pouvons voir que le graphique pour l'échantillon de 100 observations augmente rapidement à l'extrême gauche, comme vous le souhaitez. Malheureusement, la ressemblance du graphique avec Γ se détériore à mesure que la taille de l'échantillon diminue. Lorsque la taille de l'échantillon est 10, la fonction ressemble beaucoup plus à la diagonale (pas de puissance de détection).
Pour les résidus distribués normaux contaminés par équipes, le pouvoir de détection du test de Shapiro-Wilks est pire pour chaque taille d'échantillon.
Lorsque les résidus sont vraiment normaux, comme le montre la figure 7, nous voyons une ligne diagonale pour chaque taille d'échantillon. C'est ce que nous voulons. Nous ne souhaitons pas détecter une non-normalité inexistante. Ici, le «pouvoir» du test est la probabilité d'une erreur de type I. Il est impossible qu'un test soit moins puissant que cela.
Fig. 7: Diagramme de puissance du test de Shapiro-Wilkes pour la distribution normale standard.
Maintenant élargissons la p -valeur afin que nous puissions examiner la puissance à alpha = 0,05, comme indiqué aux figures 8a et 8b. La courbe inférieure (taille de l'échantillon n = 10) sur la figure 8 croise la ligne verticale de la grille x = 0,05 à la valeur 0,10. Cela signifie que si la probabilité de signification de Shapiro-Wilks est de 0,05, vous avez 10% de chances de détecter le fait que les résidus sont non normaux. Nous disons que le test de Shapiro-Wilks a une puissance de 10%. Ce n'est pas impressionnant.
Fig. 8a: Diagrammes de puissance à échelle étendue pour une distribution non normale à double exponentielle.
Fig. 8b: Diagramme de puissance à échelle étendue pour une distribution non normale contaminée par équipes.
Une autre façon de le dire est que la probabilité d'une erreur de type II est de 90%. Autrement dit, dans 90% des cas, le test de Shapiro-Wilks (étant donné cette distribution d'erreur et ce niveau de signification) échouera à tort pour rejeter l'hypothèse des résidus normaux.
En revanche, la courbe supérieure ci-dessus (taille de l'échantillon) n = 100) croise la ligne verticale de la grille x = 0,05 à la valeur 0,78. La puissance de ce test est donc proche de 80%.
Les courbes de puissance ont une forme similaire pour les résidus normaux contaminés par le décalage, mais la puissance résultante est encore inférieure. Par exemple, la courbe supérieure (taille de l'échantillon n = 100) croise la ligne 0,05 à environ 0,63 (la puissance est de 63%).
Ainsi, nous voyons que pour un petit nombre d'observations, vous ne pouvez pas détecter de non-normalité. Pour un grand nombre de
observations vous ne vous souciez pas de savoir si les erreurs sont non normales parce que notre taux d'erreur de type I simulé correspond au taux prévu pour des échantillons de grande taille.
Cette étude tendrait à soutenir la non-mise en œuvre d'un test de normalité dans les plates-formes d'adaptation. Inclure cette fonctionnalité inciterait seulement les gens à s'inquiéter de quelque chose qu'ils ne peuvent pas voir ou que cela n'a pas d'importance.
Mettre en place des fonctionnalités graphiques et de diagnostic pour la distribution résiduelle est une autre affaire. Au lieu de tester, vous recherchez des anomalies graphiques, telles que des valeurs aberrantes, ou un modèle qui pourrait indiquer une structure cachée du mode. Les valeurs aberrantes et les motifs sont souvent le principal indice d’une découverte importante.
L'un des commandements de W. Edwards Deming était «Éliminez la peur», mais en tant que statisticiens, nous faisons généralement le contraire, en instillant des craintes irrationnelles chez nos clients et nos étudiants. Avec cette étude, que vous pouvez facilement reproduire, j'espère que vous avez maintenant le courage de lutter contre le leptokurtosiphobia.
N’est-ce pas bien d’avoir une chose de moins à craindre?
