NOTA: Este artículo apareció originalmente en JMPer Cable, número 15, verano de 2004.
John Sall, vicepresidente ejecutivo, SAS Institute Inc. @John_Sall
Bradley Jones, Desarrollo de JMP @bradleyjones
Todo procedimiento estadístico implica suposiciones. Se nos enseña a temer la violación de estos supuestos. Por ejemplo, los procedimientos estándar para comparar medias, el método de dos muestras t- prueba, el par t -test y ANOVA incluyen el supuesto de que el error residual se distribuye normalmente. Si el error se distribuye normalmente y todos los demás supuestos se cumplen, entonces todas las estadísticas de prueba tienen sus distribuciones declaradas y se puede confiar en los intervalos de confianza y las pruebas de hipótesis. Incluso tenemos una rica fuente de herramientas analíticas para probar nuestras suposiciones, como las características de la plataforma de distribución que prueban y grafican con la distribución normal. ¿Qué pasa si los residuos no se distribuyen normalmente? ¿Cuánto debería preocuparse un médico acerca de si los residuos son normales? Pocos artículos y menos libros detallan cuánto debemos preocuparnos por el supuesto de normalidad.
Tener residuos distribuidos normalmente es un problema del que probablemente no debamos preocuparnos mucho porque:
- En muestras grandes, es fácil detectar anormalidades, pero no importa.
- En muestras pequeñas, la anormalidad puede ser importante, pero no se puede detectar.
Con muestras grandes, el teorema del límite central establece que incluso si los datos no son normales, las estadísticas similares a la media se aproximan a distribuciones normales a medida que aumenta el tamaño de la muestra. Con muestras pequeñas, la estadística de la prueba no es necesariamente normal, pero no tenemos una muestra lo suficientemente grande para saberlo.
Los desarrolladores de JMP reciben solicitudes frecuentes para implementar una prueba de normalidad residual como una característica conveniente para nuestras plataformas de adaptación. Pero esto sólo sería útil si hubiera tamaños de muestra para los cuales se pudiera detectar e importar la anormalidad. Investiguemos, usando simulación.
Para nuestra simulación comparamos las medias de dos grupos utilizando dos distribuciones de error no normales diferentes: una doble exponencial y una normal contaminada por desplazamiento. La doble exponencial es simétrica, pero leptokurtótica, es decir , mucho más puntiagudo y con colas mucho más pesadas que la distribución normal. El desplazamiento normal contaminado es una distribución normal sesgada hacia la derecha al agregar un desplazamiento de tres desviaciones estándar en un 5% de las muestras seleccionadas al azar.
El doble exponencial se simula mediante esta fórmula JMP:
if(randomUniform()>0.5,1,-1)*log(randomUniform())
La distribución contaminada por turnos utiliza esta fórmula JMP:
10+5*(randomNormal() + (randomUniform()<0.05)*3)
Estos deben ser característicos de una no normalidad fuerte, pero no extrema, que se puede ver en datos reales.
La Figura 1 muestra 10.000 puntos del doble exponencial simulado y la Figura 2 muestra las distribuciones contaminadas por cambios. La línea diagonal roja continua es una referencia de cómo se verían los datos si se ajustaran a una distribución normal. Tenga en cuenta que los datos caen por debajo de la línea para cuantiles pequeños y por encima de la línea para cuantiles grandes. La suya es característica de distribuciones leptokurtóticas. Tienen mucha probabilidad de masa en el medio con colas largas pero escasamente pobladas.
Los datos en el gráfico de cuantiles normales para la distribución contaminada por cambios (Figura 2) caen por encima de la línea diagonal roja sólida para cuantiles grandes. Esto es característico de las distribuciones asimétricas a la derecha. Si los datos se hubieran distribuido normalmente, la parte superior del histograma habría terminado alrededor de 30 en lugar de continuar un poco más allá de 40.
Fig. 1: Distribution results for the double-exponential distribution.Fig. 1: Distribution results for the double-exponential distribution.Fig. 1: Distribution results for the double-exponential distribution.Fig. 1: Distribution results for the double-exponential distribution.Fig. 1: Resultados de la distribución para la distribución doble exponencial.
Fig. 2: Distribution results for the shift-contaminate distributions.Fig. 2: Distribution results for the shift-contaminate distributions.Fig. 2: Distribution results for the shift-contaminate distributions.Fig. 2: Distribution results for the shift-contaminate distributions.Fig. 2: Resultados de distribución para las distribuciones de contaminación por turnos.
Se ejecutó un script JSL que generó 10.000 muestras de Monte Carlo con 10 observaciones para estas dos distribuciones no normales.Se adjunta el script (MonteCarlo.jsl). (NOTA: el script tarda un poco en ejecutarse). Cada muestra se dividió en dos grupos de igual tamaño. Por diseño, no hay diferencia entre las medias de los dos grupos. También generamos 10.000 muestras para la distribución normal estándar como control. Para cada muestra, realizamos un análisis unidireccional para probar la diferencia de medias y una distribución para probar la normalidad de los residuos. Repetimos todo este procedimiento para muestras de tamaño 20, 30, 50, 70 y 100.
Prueba de medias iguales cuando no hay diferencia en las medias poblacionales
Primero, veamos las gráficas de nuestros 10.000 pag -valores para las distribuciones no normales. Recuerde que nuestro procedimiento está diseñado para que no exista una verdadera diferencia en las medias de cada muestra. Debido a la variación aleatoria, la pag -Los valores de nuestros 10.000 análisis unidireccionales deben distribuirse uniformemente entre cero y uno. La función de distribución uniforme es la línea diagonal F(x) = x.
Para producir los gráficos de las Figuras 3a y 3b, primero clasificamos los 10.000 pag -valores. El y -eje es la proporción de los 10.000 pag -valores menores o iguales a una probabilidad de significancia dada. El X -el eje muestra las probabilidades de significancia ( pag valores). Cada tamaño de muestra se muestra en un color diferente.
Fig. 3a: Probability plot of p-values for the double-exponential distribution.Fig. 3a: Probability plot of p-values for the double-exponential distribution.Fig. 3a: Probability plot of p-values for the double-exponential distribution.Fig. 3a: Probability plot of p-values for the double-exponential distribution.Fig. 3a: Gráfico de probabilidad de los valores p para la distribución exponencial doble.
Fig 3b: Probability plot of p-values for the shift-contaminated distribution.Fig 3b: Probability plot of p-values for the shift-contaminated distribution.Fig 3b: Probability plot of p-values for the shift-contaminated distribution.Fig 3b: Probability plot of p-values for the shift-contaminated distribution.Fig. 3b: Gráfico de probabilidad de los valores p para la distribución contaminada por cambios.
Tanto para las parcelas como para todos los tamaños de muestra, las distribuciones de la pag -los valores se ven cerca de la línea diagonal de la función de distribución acumulativa uniforme. Como esperábamos, ni cambiar la distribución ni cambiar el tamaño de la muestra tienen mucho efecto sobre la precisión de la probabilidad de significancia de la prueba ANOVA para medias iguales.
Miremos más de cerca la escala baja cerca de 0,05 donde juzgamos la importancia. Los gráficos de las Figuras 4a y 4b amplían el área.
Fig. 4a: Expanded-scale view of p-value probability plot for non-normal double-exponential distribution.Fig. 4a: Expanded-scale view of p-value probability plot for non-normal double-exponential distribution.Fig. 4a: Expanded-scale view of p-value probability plot for non-normal double-exponential distribution.Fig. 4a: Expanded-scale view of p-value probability plot for non-normal double-exponential distribution.Fig. 4a: Vista a escala ampliada del gráfico de probabilidad del valor p para una distribución doble exponencial no normal.
Fig. 4b: Expanded-scale view of p-value probability plot for non-normal shift-contaminated distribution.Fig. 4b: Expanded-scale view of p-value probability plot for non-normal shift-contaminated distribution.Fig. 4b: Expanded-scale view of p-value probability plot for non-normal shift-contaminated distribution.Fig. 4b: Expanded-scale view of p-value probability plot for non-normal shift-contaminated distribution. Fig. 4b: Vista en escala ampliada del gráfico de probabilidad del valor p para una distribución contaminada por cambios no normales.
Tenga en cuenta que la línea diagonal roja correspondiente a la prueba de igualdad de medias para dos grupos con cinco observaciones se desvía ligeramente por debajo de la línea y = x. ¿Qué quiere decir esto?
Sabemos que si elegimos una probabilidad de significancia de 0,05, rechazaremos la hipótesis de que nuestras medias son iguales en el 5% de nuestros experimentos debido a los caprichos del azar, incluso si las medias son realmente iguales. Es decir, el 5% de las veces cometeremos un error de tipo I: rechazaremos la hipótesis de que las medias son iguales cuando la hipótesis sea verdadera.
Esta tasa de error tipo I del 5% está incorporada y es lo que esperamos si elegimos una probabilidad significativa de 0,05. Si esto le parece demasiados errores, entonces debe elegir una probabilidad de significancia menor.
Cuando la línea diagonal roja cruza la línea de puntos vertical x = 0,05, su y -el valor es 0,043. Eso significa que en lugar de rechazar la hipótesis de que nuestras medias son iguales el 5% de las veces, solo rechazamos el 4,3% de las veces. A esto lo llamamos resultado conservador porque estamos cometiendo menos errores de Tipo I de los que esperábamos. Si va a fallar, es mejor fallar de manera conservadora.
Por otro lado, supongamos que una línea hubiera cruzado la línea de puntos vertical en 0,05 con un valor CumProb de 0,06. Entonces, en lugar de ver el esperado 5% de errores de Tipo I, en realidad veríamos un 6% de errores de Tipo I. Consideramos que esta prueba es demasiado liberal porque la verdadera tasa de error es mayor de lo esperado.
Es tranquilizador que en el único caso en el que las líneas se desvían de la línea de 45 grados, sea en el lado conservador. El caso contaminado por turnos también tiene la norte =10 caso se desplazó hacia el lado conservador, pero no tanto como el doble exponencial.
La Figura 5 muestra la simulación de Monte Carlo con una curva normal pura para mostrar la variación aleatoria natural en el estudio de Monte Carlo.
Fig. 5: Expanded-scale view of p-value probability plot for the standard normal distribtuion.Fig. 5: Expanded-scale view of p-value probability plot for the standard normal distribtuion.Fig. 5: Expanded-scale view of p-value probability plot for the standard normal distribtuion.Fig. 5: Expanded-scale view of p-value probability plot for the standard normal distribtuion.Fig. 5: Vista a escala ampliada del gráfico de probabilidad del valor p para la distribución normal estándar.
Prueba de no normalidad
La siguiente pregunta es si podemos detectar que los errores no son normales. Comenzamos calculando los residuos de cada análisis unidireccional que hicimos antes. Utilizando la plataforma de distribución, probamos la normalidad de estos residuos. Por lo tanto, para cada distribución y tamaño de muestra realizamos 10.000 pruebas de normalidad de Shapiro-Wilks. Los gráficos de la Figura 6 muestran el porcentaje acumulado de resultados de la prueba de normalidad en función de la probabilidad de significancia en la prueba de Shapiro-Wilks.
Fig. 6: Power plots of Shapiro-Wilkes tests for non-normal distributions.Fig. 6: Power plots of Shapiro-Wilkes tests for non-normal distributions.Fig. 6: Power plots of Shapiro-Wilkes tests for non-normal distributions.Fig. 6: Power plots of Shapiro-Wilkes tests for non-normal distributions.Fig. 6: Gráficos de potencia de las pruebas de Shapiro-Wilkes para distribuciones no normales.
¿Qué nos dicen estas tramas? Primero, sabemos que tanto en el caso de doble exponencial como en el caso normal contaminado por desplazamiento, la distribución de los residuos no es normal. Queremos saber qué probabilidades hay de que nuestra prueba detecte esta anormalidad. En otras palabras, queremos saber qué tan poderosa es nuestra prueba.
Una prueba perfectamente poderosa tendría una gráfica que se pareciera a la letra griega gamma, Γ.Por el contrario, una prueba sin potencia tendría un gráfico que parece una línea diagonal.
Para residuos distribuidos exponencialmente dobles, podemos ver que la gráfica de la muestra de 100 observaciones aumenta rápidamente en el extremo izquierdo, como se desea. Desafortunadamente, la semejanza del gráfico con Γ se deteriora a medida que disminuye el tamaño de la muestra. Cuando el tamaño de la muestra es 10, la función se parece mucho más a la línea diagonal (sin poder de detección).
Para los residuos distribuidos normalmente contaminados por turnos, el poder de detección de la prueba de Shapiro-Wilks es peor para cada tamaño de muestra.
Cuando los residuos son realmente normales, como se muestra en la Figura 7, vemos una línea diagonal para cada tamaño de muestra. Esto es lo que queremos. No queremos detectar una no normalidad inexistente. Aquí, la “potencia” de la prueba es la probabilidad de cometer un error de Tipo I. Es imposible que una prueba sea menos potente que ésta.
Fig. 7: Power plot of Shapiro-Wilkes test for the standard normal distribution.Fig. 7: Power plot of Shapiro-Wilkes test for the standard normal distribution.Fig. 7: Power plot of Shapiro-Wilkes test for the standard normal distribution.Fig. 7: Power plot of Shapiro-Wilkes test for the standard normal distribution.Fig. 7: Gráfico de potencia de la prueba de Shapiro-Wilkes para la distribución normal estándar.
Ahora ampliemos el pag -área de valor para que podamos examinar la potencia en alfa = 0,05, como se muestra en las Figuras 8a y 8b. La curva inferior (tamaño de muestra norte = 10) en la Figura 8 cruza la línea vertical de la cuadrícula x=0,05 en el valor 0,10. Eso significa que si la probabilidad de significancia de Shapiro-Wilks es 0,05, tiene un 10% de posibilidades de detectar el hecho de que los residuos no son normales. Decimos que la potencia del test de Shapiro-Wilks es del 10%. Esto no es impresionante.
Fig. 8a: Expanded-scale power plots for double-exponential non-normal distribution.Fig. 8a: Expanded-scale power plots for double-exponential non-normal distribution.Fig. 8a: Expanded-scale power plots for double-exponential non-normal distribution.Fig. 8a: Expanded-scale power plots for double-exponential non-normal distribution.Fig. 8a: Gráficos de potencia a escala ampliada para una distribución no normal doble exponencial.
Fig. 8b: Expanded-scale power plot for shift-contaminated non-normal distribution.Fig. 8b: Expanded-scale power plot for shift-contaminated non-normal distribution.Fig. 8b: Expanded-scale power plot for shift-contaminated non-normal distribution.Fig. 8b: Expanded-scale power plot for shift-contaminated non-normal distribution.Fig. 8b: Gráfico de potencia a escala ampliada para una distribución no normal contaminada por cambios.
Otra forma de decir esto es que la probabilidad de cometer un error de tipo II es del 90%. Es decir, el 90% de las veces la prueba de Shapiro-Wilks (dada esta distribución de error y nivel de significancia) no logrará rechazar incorrectamente la hipótesis de residuos normales.
Por el contrario, la curva superior de arriba (tamaño de muestra norte = 100) cruza la línea vertical de la cuadrícula x=0,05 en el valor 0,78. Entonces, el poder de esta prueba es casi del 80%.
Las curvas de potencia tienen una forma similar para los residuos normales contaminados por el cambio, pero la potencia resultante es aún menor. Por ejemplo, la curva superior (tamaño de muestra n = 100) cruza la línea 0,05 aproximadamente en 0,63 (la potencia es 63%).
Entonces, vemos que para un número pequeño de observaciones no se puede detectar la no normalidad. Para una gran cantidad de observaciones, no le importa si los errores no son normales porque nuestra tasa de error tipo I simulada coincidió con la tasa esperada para tamaños de muestra grandes.
Este estudio tendería a apoyar la no implementación de un test de normalidad en las plataformas de montaje. Incluir esta característica sólo alentaría a las personas a preocuparse por algo que no pueden ver o que no importa.
Introducir características gráficas y de diagnóstico para la distribución residual es un asunto diferente. En lugar de realizar pruebas, busca anomalías gráficas, como valores atípicos o un patrón que podría ser una pista de alguna estructura oculta del modo. Los valores atípicos y los patrones suelen ser la pista principal de un descubrimiento importante.
Uno de los mandamientos de W. Edwards Deming era "Expulsar el miedo", pero como estadísticos solemos hacer lo contrario, inculcando miedos irracionales en nuestros clientes y estudiantes. Con este estudio, que puedes duplicar fácilmente, espero que ahora seas lo suficientemente valiente para luchar contra la “leptokurtosifobia”.
¿No es bueno tener una cosa menos de qué preocuparse?
