NOTA: Este artículo apareció originalmente en JMPer Cable, número 15, verano de 2004.
John Sall, vicepresidente ejecutivo, SAS Institute Inc. @john_sall
Bradley Jones, JMP Desarrollo @bradleyjones
Todo procedimiento estadístico implica supuestos. Se nos enseña a temer la violación de estos supuestos. Por ejemplo, los procedimientos estándar para comparar medias, el método de dos muestras t- prueba, el emparejado t -test y ANOVA incluyen la suposición de que el error residual se distribuye normalmente. Si el error se distribuye normalmente y todas las demás suposiciones se mantienen, entonces todas las estadísticas de prueba tienen sus distribuciones reclamadas y se puede confiar en los intervalos de confianza y las pruebas de hipótesis. Incluso contamos con una rica fuente de herramientas analíticas para probar nuestras suposiciones, como las características de la plataforma de distribución que prueban y grafican contra la distribución normal. ¿Qué sucede si los residuos no se distribuyen normalmente? ¿Cuánto debería preocuparse un médico acerca de si los residuos son normales? Pocos artículos, y menos libros, entran en detalles sobre cuánto preocuparse por la suposición de normalidad.
Tener residuos normalmente distribuidos es un problema del que probablemente no debamos preocuparnos mucho porque:
- En muestras grandes, es fácil detectar la no normalidad, pero no importa.
- En muestras pequeñas, la no normalidad puede ser importante, pero no se puede detectar.
Con muestras grandes, el teorema del límite central establece que incluso si los datos no son normales, las estadísticas similares a la media se aproximan a las distribuciones normales a medida que aumenta el tamaño de la muestra. Con muestras pequeñas, la estadística de prueba no es necesariamente normal, pero no tenemos una muestra lo suficientemente grande como para saberlo.
Los desarrolladores de JMP reciben solicitudes frecuentes para implementar una prueba de normalidad residual como una característica conveniente para nuestras plataformas de adaptación. Pero esto solo sería útil si hubiera tamaños de muestra para los cuales se pudiera detectar e importar la no normalidad. Investiguemos, usando simulación.
Para nuestra simulación, comparamos las medias de dos grupos utilizando dos distribuciones de error no normal diferentes: una exponencial doble y una normal contaminada por desplazamiento. La doble exponencial es simétrica, pero leptocurtótica, es decir , mucho más puntiaguda y con colas mucho más pesadas que la distribución normal. El cambio normal contaminado es una distribución normal sesgada hacia la derecha al agregar un cambio de tres desviaciones estándar en un 5% de las muestras seleccionadas al azar.
La doble exponencial se simula mediante esta fórmula JMP:
if(randomUniform()>0.5,1,-1)*log(randomUniform())
La distribución contaminada por turnos utiliza esta fórmula JMP:
10+5*(randomNormal() + (randomUniform()<0.05)*3)
Estos están destinados a ser característicos de la no normalidad fuerte, pero no extrema, que podría ver en datos reales.
La figura 1 muestra 10 000 puntos de la doble exponencial simulada y la figura 2 muestra las distribuciones contaminadas por turnos. La línea diagonal roja sólida es una referencia de cómo se verían los datos si se ajustaran a una distribución normal. Tenga en cuenta que los datos se encuentran por debajo de la línea para los cuantiles pequeños y por encima de la línea para los cuantiles grandes. El suyo es característico de las distribuciones leptocurtósicas. Tienen mucha probabilidad de masa en el medio con colas largas pero escasamente pobladas.
Los datos en el gráfico de cuantiles normales para la distribución contaminada por turnos (Figura 2) caen por encima de la línea diagonal roja continua para cuantiles grandes. Esto es característico de las distribuciones sesgadas a la derecha. Si los datos se hubieran distribuido normalmente, la parte superior del histograma habría terminado alrededor de 30 en lugar de continuar un poco más allá de 40.
Fig. 1: Distribution results for the double-exponential distribution.Fig. 1: Resultados de distribución para la distribución exponencial doble.
Fig. 2: Distribution results for the shift-contaminate distributions.Fig. 2: Resultados de distribución para las distribuciones de cambio de contaminación.
Se ejecutó un script JSL que generó 10 000 muestras de Monte Carlo con 10 observaciones para estas dos distribuciones no normales.Se adjunta el script (MonteCarlo.jsl). (NOTA: el script tarda un poco en ejecutarse). Cada muestra se dividió en dos grupos de igual tamaño. Por diseño, no hay diferencia entre las medias de los dos grupos. También generamos 10.000 muestras para la distribución normal estándar como control. Para cada muestra, realizamos un análisis unidireccional para probar la diferencia de las medias y una distribución para probar la normalidad de los residuos. Repetimos todo este procedimiento para muestras de tamaño 20, 30, 50, 70 y 100.
Prueba de igualdad de medias cuando no hay diferencia en las medias de la población
Primero, echemos un vistazo a las parcelas de nuestros 10.000 pags -valores para las distribuciones no normales. Recuerde que nuestro procedimiento está diseñado para que no haya una verdadera diferencia en las medias de cada muestra. Debido a la variación aleatoria, la pags -los valores para nuestros 10.000 análisis unidireccionales deben distribuirse uniformemente entre cero y uno. La función de distribución uniforme es la línea diagonal F(x) = x.
Para producir las gráficas en las Figuras 3a y 3b, primero clasificamos los 10,000 pags -valores. los y -eje es la proporción de los 10.000 pags -valores menores o iguales a una probabilidad de significación dada. los X El eje muestra las probabilidades de significación ( pags valores). Cada tamaño de muestra se muestra en un color diferente.
Fig. 3a: Probability plot of p-values for the double-exponential distribution.Fig. 3a: Gráfica de probabilidad de valores p para la distribución exponencial doble.
Fig 3b: Probability plot of p-values for the shift-contaminated distribution.Fig. 3b: Gráfica de probabilidad de valores p para la distribución contaminada por turnos.
Tanto para las parcelas como para todos los tamaños de muestra, las distribuciones de los pags -los valores se parecen a la línea diagonal de la función de distribución acumulativa uniforme. Como esperábamos, ni cambiar la distribución ni cambiar el tamaño de la muestra tiene mucho efecto sobre la precisión de la probabilidad de significancia de la prueba ANOVA para medias iguales.
Miremos más de cerca la escala baja cerca de 0.05 donde estamos juzgando la importancia. Las parcelas en la Figura 4a y 4b magnifican el área.
Fig. 4a: Expanded-scale view of p-value probability plot for non-normal double-exponential distribution.Fig. 4a: vista a escala ampliada del gráfico de probabilidad del valor p para una distribución exponencial doble no normal.
Fig. 4b: Expanded-scale view of p-value probability plot for non-normal shift-contaminated distribution. Fig. 4b: vista a escala ampliada de la gráfica de probabilidad del valor p para una distribución contaminada por cambios no normales.
Tenga en cuenta que la línea diagonal roja correspondiente a la prueba de igualdad de medias para dos grupos con cinco observaciones se desvía ligeramente por debajo de la línea y = x. ¿Qué significa esto?
Sabemos que si elegimos una probabilidad de significancia de 0,05, rechazaremos la hipótesis de que nuestras medias son iguales en el 5% de nuestros experimentos debido a los caprichos del azar, incluso si las medias son realmente iguales. Es decir, el 5% de las veces cometeremos un error de tipo I: rechazaremos la hipótesis de que las medias son iguales cuando la hipótesis es verdadera.
Esta tasa de error Tipo I del 5 % está integrada y es lo que esperamos si elegimos una probabilidad significativa de 0,05. Si esto parece demasiados errores, entonces debe elegir una probabilidad de significancia más pequeña.
Cuando la línea diagonal roja cruza la línea punteada vertical x = 0.05, su y -el valor es 0.043. Eso significa que en lugar de rechazar la hipótesis de que nuestras medias son iguales el 5% de las veces, solo rechazamos el 4,3% de las veces. Llamamos a esto un resultado conservador porque cometemos menos errores de Tipo I de lo que esperábamos. Si va a fallar, es mejor fallar de forma conservadora.
Por otro lado, suponga que una línea ha cruzado la línea punteada vertical en 0,05 con un valor CumProb de 0,06. Entonces, en lugar de ver el 5% esperado de errores de Tipo I, en realidad veríamos un 6% de errores de Tipo I. Llamamos a esta prueba demasiado liberal porque la verdadera tasa de error es mayor de lo esperado.
Es tranquilizador que en el único caso en que las líneas se desvían de la línea de 45 grados, sea en el lado conservador. El caso contaminado por turnos también tiene la norte =10 caso desplazado hacia el lado conservador, pero no tanto como el doble exponencial.
La Figura 5 muestra la simulación de Monte Carlo con una curva normal pura para mostrar la variación aleatoria natural en el estudio de Monte Carlo.
Fig. 5: Expanded-scale view of p-value probability plot for the standard normal distribtuion.Fig. 5: Vista a escala ampliada del gráfico de probabilidad del valor p para la distribución normal estándar.
Probando la no normalidad
La siguiente pregunta es si podemos detectar que los errores no son normales. Comenzamos calculando los residuos de cada análisis unidireccional que hicimos antes. Usando la plataforma de distribución, probamos la normalidad de estos residuales. Así, para cada distribución y tamaño de muestra hacemos 10.000 pruebas de normalidad de Shapiro-Wilks. Los gráficos de la Figura 6 muestran el porcentaje acumulativo de los resultados de la prueba de normalidad en función de la probabilidad de significancia en la prueba de Shapiro-Wilks.
Fig. 6: Power plots of Shapiro-Wilkes tests for non-normal distributions.Fig. 6: Diagramas de potencia de las pruebas de Shapiro-Wilkes para distribuciones no normales.
¿Qué nos dicen estas tramas? Primero, sabemos que tanto en el caso exponencial doble como en el caso normal contaminado por turnos, la distribución de los residuos no es normal. Queremos saber qué tan probable es que nuestra prueba detecte esta no normalidad. En otras palabras, queremos saber qué tan poderosa es nuestra prueba.
Una prueba perfectamente poderosa tendría un gráfico que se parecería a la letra griega gamma, Γ.Por el contrario, una prueba sin potencia tendría un gráfico que parece una línea diagonal.
Para residuos distribuidos exponencialmente dobles, podemos ver que el gráfico para la muestra de 100 observaciones aumenta rápidamente en el extremo izquierdo, como se desea. Desafortunadamente, la semejanza del gráfico con Γ se deteriora a medida que disminuye el tamaño de la muestra. Cuando el tamaño de la muestra es 10, la función se parece mucho más a la línea diagonal (sin poder de detección).
Para los residuos distribuidos normales contaminados por turnos, el poder de detección de la prueba de Shapiro-Wilks es peor para cada tamaño de muestra.
Cuando los residuos son realmente normales, como se muestra en la Figura 7, vemos una línea diagonal para cada tamaño de muestra. Esto es lo que queremos. No deseamos detectar una no normalidad inexistente. Aquí, el "poder" de la prueba es la probabilidad de un error de Tipo I. Es imposible que una prueba sea menos poderosa que esta.
Fig. 7: Power plot of Shapiro-Wilkes test for the standard normal distribution.Fig. 7: Diagrama de potencia de la prueba de Shapiro-Wilkes para la distribución normal estándar.
Ahora ampliemos el pags -área de valor para que podamos examinar la potencia en alfa = 0.05, como se muestra en las Figuras 8a y 8b. La curva inferior (tamaño de la muestra norte = 10) en la Figura 8 cruza la línea de cuadrícula vertical x=0.05 en el valor 0.10. Eso significa que si la probabilidad de significación de Shapiro-Wilks es 0,05, tiene un 10 % de posibilidades de detectar el hecho de que los residuos no son normales. Decimos que la potencia de la prueba de Shapiro-Wilks es del 10%. Esto no es impresionante.
Fig. 8a: Expanded-scale power plots for double-exponential non-normal distribution.Fig. 8a: Gráficas de potencia de escala expandida para una distribución no normal exponencial doble.
Fig. 8b: Expanded-scale power plot for shift-contaminated non-normal distribution.Fig. 8b: Gráfica de potencia a escala expandida para distribución no normal contaminada por turnos.
Otra forma de decir esto es que la probabilidad de cometer un error de tipo II es del 90 %. Es decir, el 90% de las veces la prueba de Shapiro-Wilks (dada esta distribución de error y nivel de significancia) fallará incorrectamente al rechazar la hipótesis de residuos normales.
Por el contrario, la curva superior anterior (tamaño de la muestra norte = 100) cruza la línea de cuadrícula vertical x=0.05 en el valor 0.78. Entonces, el poder de esta prueba es de casi el 80%.
Las curvas de potencia tienen una forma similar para los residuos normales contaminados por desplazamiento, pero la potencia resultante es aún menor. Por ejemplo, la curva superior (tamaño de muestra n = 100) cruza la línea de 0,05 en alrededor de 0,63 (la potencia es del 63 %).
Entonces, vemos que para un pequeño número de observaciones no se puede detectar la no normalidad. Para una gran cantidad de observaciones, no le importa si los errores no son normales porque nuestra tasa de error Tipo I simulada coincidió con la tasa esperada para tamaños de muestra grandes.
Este estudio tendería a apoyar la no implementación de una prueba de normalidad en las plataformas de ajuste. Incluir esta función solo alentaría a las personas a preocuparse por algo que no pueden ver o que no importa.
Poner características gráficas y de diagnóstico para la distribución residual es un asunto diferente. En lugar de realizar pruebas, está buscando anomalías gráficas, como valores atípicos o un patrón que podría ser una pista de alguna estructura oculta del modo. Los valores atípicos y los patrones suelen ser la pista principal de un descubrimiento importante.
Uno de los mandamientos de W. Edwards Deming era “Expulsar el miedo”, pero como estadísticos solemos hacer lo contrario, inculcando miedos irracionales en nuestros clientes y estudiantes. Con este estudio, que puede duplicar fácilmente, espero que ahora sea lo suficientemente valiente como para luchar contra la “leptokurtosifobia”.
¿No es bueno tener una cosa menos de qué preocuparse?
