Phillip Ramsey - Comunidad de usuarios de JMP @philramsey , consultor y profesor, Universidad de New Hampshire
Este artículo apareció originalmente en JMPer Cable, número 28, verano de 2013.
Bootstrapping es una capacidad importante que se ofrece en Pro JMP . La implementación de bootstrapping es simple y flexible porque las distribuciones bootstrapping se pueden generar dentro de la mayoría de los informes estadísticos de JMP Pro. Este artículo proporciona un breve tutorial sobre bootstrapping básico y describe las aplicaciones de bootstrapping dentro de los contextos de métodos inferenciales independientes, pedagogía y como componente de otros métodos estadísticos.
Bootstrapping es una metáfora común en inglés para un proceso que es autosuficiente y continúa sin necesidad de una fuerza impulsora externa. Bradley Efron (1979) adoptó la metáfora bootstrap para describir una nueva técnica de remuestreo que había desarrollado. Su trabajo estuvo motivado por un trabajo anterior sobre el jackknifing (Tukey, 1958).
El bootstrapping estadístico desarrollado por Bradley Efron (1979) es un proceso mediante el cual se extraen repetidamente muestras independientes y aleatorias de tamaño N (posiblemente miles de veces) con reemplazo de un conjunto de datos original de tamaño N. Reemplazo significa que cualquier observación individual en el conjunto de datos original puede seleccionarse varias veces o quizás no todas en una sola muestra. Esto asegura que es muy probable que cada muestra de arranque difiera en la membresía de los datos originales.
Al calcular las estadísticas de muestra de interés en cada nueva muestra, se generan funciones de distribución empíricas para estas estadísticas. A su vez, las distribuciones empíricas se pueden usar para estimar los errores estándar de estas estadísticas y estimar los intervalos de confianza para los parámetros teóricos que estiman las estadísticas. Los intervalos de confianza de bootstrap (hay varias versiones de ellos) tienen la ventaja de que el cálculo no requiere necesariamente el uso de una fórmula matemática específica o paramétrica. Hall y Wilson (1991) muestran que el bootstrapping se adapta fácilmente a la prueba de hipótesis.
La forma más sencilla de calcular un intervalo de confianza del 100 por ciento de bootstrap (1-α) para un parámetro teórico es usar los percentiles apropiados de la distribución bootstrap para esa estadística de muestra, que estima el parámetro teórico de interés. Como ejemplo, los percentiles 2,5 y 97,5 de la distribución de arranque de un promedio de muestra se pueden utilizar para formar un intervalo de confianza del 95 por ciento para la media teórica de la distribución subyacente.
La investigación de Bootstrap encontró que, en algunos casos, los intervalos de confianza del percentil de bootstrap podrían estar sustancialmente sesgados en términos de la cobertura real (Chernick, 2008). Existen algoritmos de corrección de sesgo para intervalos de confianza percentiles. Sin embargo, actualmente no están disponibles en JMP Pro y la discusión adicional está más allá del alcance de este artículo. ( Actualizado en diciembre de 2018: Los algoritmos de corrección de polarización ahora están incluidos en JMP Pro .)
Inferencia estadística basada en el bootstrap
El siguiente ejemplo muestra cómo usar JMP Pro para el arranque para generar intervalos de confianza percentiles para parámetros teóricos de poblaciones objetivo. El ejemplo usa 20 lecturas de temperatura (Kelvin) originalmente de Cox y Snell (1981).
Suponga que desea encontrar intervalos de confianza para el rango intercuartílico (RIC) de la muestra, que es la diferencia entre los percentiles 25 y 75 de la distribución de la muestra. El cálculo exacto de los intervalos de confianza para el IQR generalmente no es posible.
Comience utilizando la plataforma de distribución en JMP para generar una tabla de estadísticas de resumen para la muestra original. El rango intercuartílico no se muestra de manera predeterminada en la tabla Resumen de estadísticas, así que use el menú del triángulo rojo para solicitarlo, como se muestra en la Figura 1. Además, debido a que el proceso de arranque opera en todas las estadísticas que se muestran en la tabla a la que hace referencia, desmarque todas las estadísticas de resumen predeterminadas que no son de interés en este ejemplo. La tabla Resumen de distribución luego muestra solo el rango intercuartílico, como se muestra en la Figura 1.
Figure 1 Tailor Summary Statistics table to show only Interquartile RangeFigure 1 Tailor Summary Statistics table to show only Interquartile RangeFigure 1 Tailor Summary Statistics table to show only Interquartile RangeFigure 1 Tailor Summary Statistics table to show only Interquartile RangeFigura 1 Tabla de estadísticas de resumen adaptadas para mostrar solo el rango intercuartílico
A continuación, coloque el cursor en el cuerpo del informe, haga clic con el botón derecho y seleccione Bootstrap en el menú que aparece (Figura 2). En el cuadro de diálogo Bootstrap, seleccione la opción Pesos fraccionarios; esta opción proporciona muestras de arranque más suaves Rubin (1981).
Figure 2 Choose the Bootstrap with sample size 200Figure 2 Choose the Bootstrap with sample size 200Figure 2 Choose the Bootstrap with sample size 200Figure 2 Choose the Bootstrap with sample size 200Figura 2 Elija el Bootstrap con tamaño de muestra 200
Este ejemplo genera 200 muestras. Puede ingresar cualquier cantidad de muestras que desee, pero tenga en cuenta que cada muestra vuelve a ejecutar la plataforma de distribución y calcula el rango intercuartílico para esa muestra. Entonces, la cantidad de muestras que elija depende de los recursos computacionales que tenga. Una solicitud de arranque grande puede consumir mucho tiempo y recursos.
Cuando se complete el proceso de arranque, verá un JMP tabla con los resultados del muestreo. Estas son columnas llamadas BootID y Interquartile Range para la variable Temperature. El número de filas es el número de muestras que solicitó más uno para el cálculo de la muestra original. Ahora use la plataforma de distribución para ver las estadísticas resumidas para el rango intercuartílico de arranque.
Las plataformas JMP que tienen la opción de arranque reconocen la variable BootID y muestran la tabla de límites de confianza de arranque, como se muestra en la figura 3.
Figure 3 Distribution of bootstrapped Interquartile RangeFigure 3 Distribution of bootstrapped Interquartile RangeFigure 3 Distribution of bootstrapped Interquartile RangeFigure 3 Distribution of bootstrapped Interquartile RangeFigura 3 Distribución del rango intercuartílico con bootstrap El rango intercuartílico calculado en la muestra original es 28,25 (Figura 1). Tenga en cuenta que el rango intercuartílico calculado para la muestra de arranque de 200 es 25,4 y que los límites de confianza del 95 por ciento de arranque, tomados de los cuantiles de la muestra, son 7 y 45, que incluyen la estimación original.
El bootstrap en la educación El bootstrapping está comenzando a adaptarse en la educación estadística (Lock, 2012) para hacer la transición de los estudiantes del análisis exploratorio de datos (EDA), donde se introducen las estadísticas de muestra, al análisis de datos confirmatorios (CDA), donde se introduce por primera vez la inferencia estadística formal.
A partir de la experiencia del autor en la enseñanza de cursos de estadística de pregrado, posgrado y Six Sigma, los estudiantes tienen dificultades para comprender los conceptos de distribución de muestreo, error estándar e intervalo de confianza o prueba de hipótesis). Es decir, luchan con los conceptos básicos del pensamiento estadístico.
Desafortunadamente, incluso el cálculo manual de errores estándar e intervalos de confianza paramétricos, cuando tales cálculos son factibles, hace poco para motivar la comprensión conceptual por parte de los estudiantes. A menudo, los estudiantes se vuelven competentes en el cálculo aritmético sin desarrollar una comprensión conceptual real de las inferencias que se extraerán de dicho cálculo. Esto generalmente se manifiesta cuando los estudiantes calculan correctamente los intervalos de confianza paramétricos (por ejemplo) y luego declaran interpretaciones incorrectas o incluso sin sentido de esos intervalos. Aparentemente, los estudiantes se han vuelto competentes en el cálculo aritmético sin la capacidad necesaria para pensar estadísticamente.
Comenzando con el lanzamiento de JMP Pro 10, introdujimos bootstrapping en los planes de estudio para los cursos académicos y de estadística Six Sigma. En lugar de comenzar CDA con la discusión tradicional de distribuciones de muestreo paramétrico, errores estándar e intervalos de confianza, la introducción inicial de bootstrapping motiva estos conceptos.
Como anécdota, los resultados hasta ahora han sido bastante alentadores en términos de estudiantes que demuestran una comprensión conceptual más profunda de las distribuciones de muestreo, los intervalos de confianza y la prueba de hipótesis: los estudiantes parecen más expertos en el pensamiento estadístico adecuado.
Las pruebas de hipótesis de arranque no están disponibles directamente en JMP Pro, sin embargo, varias de las pruebas de hipótesis más comunes se pueden realizar fácilmente a partir de los resultados de arranque proporcionados por JMP Pro. Consulte Hall y Wilson (1991) para obtener más detalles sobre las pruebas de hipótesis de arranque.
Bootstrapping en otras plataformas estadísticas
Además de utilizarse como métodos independientes para la inferencia estadística, los métodos de arranque se incorporan cada vez más a otros métodos estadísticos. Un buen ejemplo es el modelado de particiones, donde los conceptos de arranque se utilizan para hacer crecer un conjunto aleatorio (o bosque) de árboles de decisión individuales. JMP Pro ha implementado este concepto en la plataforma Partition con la opción Bootstrapped Forest.
Bootstrapping también se ha incorporado en ANOVA, MANOVA, análisis discriminante y métodos de regresión. Muchas de las plataformas JMP Pro para estos análisis tienen bootstrapping disponible. Desafortunadamente, las pruebas de hipótesis de arranque en algunos casos requieren un error estándar de arranque para cada una de las muestras de arranque; no existe un cálculo exacto para el error estándar. El error estándar de arranque para cada muestra de arranque se calcula mediante el uso de un arranque doble (Chernick, 2008). El arranque doble no se admite actualmente en JMP Pro.
En general, el uso de pruebas de arranque y aleatorización en la educación estadística está creciendo y solo está limitado por la tecnología disponible para estudiantes, profesores y formadores. Su uso también es consistente con las recomendaciones del Informe GAISE (ASA, 2012) para la educación estadística. JMP Pro proporciona una plataforma agradable y fácil de usar para que los profesores incorporen bootstrapping en los planes de estudios de los cursos de estadística.
Resumen
En este artículo, hemos discutido los usos del bootstrapping como una forma de inferencia estadística, especialmente cuando los errores estándar y los intervalos de confianza no se pueden calcular fácilmente, y como una herramienta pedagógica importante para la educación estadística. Con la llegada de computadoras cada vez más poderosas, el uso de bootstrapping y métodos relacionados sin duda crecerá. JMP Pro proporciona una capacidad de arranque simple y fácil de usar, de modo que el usuario de JMP puede incorporar el arranque en los análisis estadísticos y en los planes de estudios para la educación estadística.
Referencias
- Chernick, M. (2008). Métodos Bootstrap: una guía para profesionales e investigadores, segunda edición. Wiley and Sons: Nueva York, Nueva York.
- Cox, DR y Snell, EJ (1981). Estadística aplicada: principios y ejemplos. Londres: Chapman and Hall.
- Efron, Bradley (1979). Métodos Bootstrap: otra mirada a Jackknife, The Annals of Statistics, 7, 1-26.
- Asociación Estadounidense de Estadística (2012). Directrices para la Evaluación y la Instrucción en Educación Estadística
- Pasillo, P. y Wilson S. (1991). Dos Directrices para la Prueba de Hipótesis Bootstrap. Biometría, 47, 757 – 762
- Bloqueo, et. Alabama. (2012). Desbloqueando el poder de los datos. Wiley and Sons: Nueva York, Nueva York
- Rubín, DB (1981). El Bootstrap bayesiano, Annals of Statistics, vol. 9, N° 1, 130 – 134.
- Tibshirani, et. Alabama. (2008). Elementos del Aprendizaje Estadístico, Segunda Edición. Springer Verlag.
- Tukey, JW (1958). Sesgo y confianza en muestras no muy grandes, Annals of Mathematical Statistics. vol. 29, 2, págs. 614.
Philip J. Ramsey, PhD, es propietario de North Haven Group, una empresa de consultoría de calidad y estadísticas que ofrece capacitación y consultoría de servicio completo en todos los niveles y fases de Six Sigma, así como capacitación integral en diseño de experimentos y análisis predictivo. Ramsey también es miembro de la facultad en el Departamento de Matemáticas y Estadística de la Universidad de New Hampshire (UNH). Es coautor de Seis Sigma Visual de Prensa SAS.