En
mi post anterior , vimos la relación entre ANOVAs y regresión lineal simple. Aunque no vimos una relación lineal significativa entre el año y el número de palabras distintas en las canciones de Rhianna, una cosa que podemos hacer es comprobar si existe una diferencia entre las canciones de Rhianna anteriores a 2010 y las canciones de Rhianna posteriores a 2010. Al agrupar (o “agrupar”) nuestra variable continua (año), podemos convertir nuestra regresión lineal simple en un ANOVA. Esto a menudo puede hacer que las cosas parezcan más simples, en lugar de muchos años, ahora tenemos dos categorías ordenadas. Y dije que ANOVA y la regresión lineal son casi lo mismo, ¿verdad?
Bueno, sorta. Los modelos lineales utilizados para calcular un ANOVA o una regresión lineal simple son similares, de hecho están haciendo algo ligeramente diferente. Aunque a menudo es común dividir nuestras variables continuas en grupos, se debe hacer con reserva, y les mostraré por qué, así que manténganse firmes y pongan sus sombreros de división de grupos.
Antes de comenzar, quiero recordarles que todos estos modelos lineales son como motosierras. Toman la distancia total entre los puntos de datos y la media general y la dividen en diferentes categorías.
Si recuerda, tanto en el ANOVA como en la regresión lineal simple, calculamos la suma de los cuadrados de la misma manera, tomamos cada punto de datos y calculamos la diferencia entre él y la media general de todos los puntos de datos. Entonces, el total de Sumas de cuadrados (SST) es el mismo, ya sea que miremos las canciones de Rhianna continuamente por año o antes y después de 2010. Entonces, ¿dónde está la diferencia?
La diferencia está en el “Modelo” de sumas de cuadrados (en regresión, llamamos a esto Regresión de sumas de cuadrados; en ANOVA, a veces lo llamamos Grupo de sumas de cuadrados). En cualquier caso, nuestro "Modelo" es cómo pensamos que X afectará a nuestra Y, nuestra variable de interés. En el caso de la regresión, creemos que el año tendrá un continuo lineal efecto en Y: cada unidad de X tendrá un efecto adicional en Y. En el caso de ANOVA agrupado, creemos que ser anterior o posterior a 2010 tendrá un grupo efecto sobre Y.
Recuerde que nuestro modelo de sumas de cuadrados (SSM) para regresión predice su valor Y (número de palabras distintas en una canción de Rhianna) según el año. En los datos que observamos, observamos una tendencia general a la baja, ya que cada año que pasa allí tiende a haber menos palabras distintas en las canciones de Rhianna. Nuestro mejor conjetura para el número de palabras distintas en una canción de Rhianna es lo que predice la línea de regresión. El error en nuestro modelo de regresión es la distancia entre el punto de datos y la línea de regresión.
Nuestro SSM para ANOVA contenedores pre-2010 juntos, así que en lugar de una tendencia general a la baja a lo largo de los años, simplemente esperaríamos que las canciones pre-2010 tengan un mayor número de palabras distintas en comparación con las canciones posteriores a 2010. Bajo este modelo ANOVA, nuestra mejor conjetura Para cualquier canción del 2010 sería la media del grupo. Todo lo demás se considera error.
Si realmente tuviéramos una relación lineal entre el año y el número de palabras distintas, entonces ejecutar un ANOVA en los dos grupos de años agrupados sobreestimará la proporción de sumas de cuadrados que se debe al "error". Esto sucede porque los puntos extremos más alejados de la media de cada grupo tenderán a estar mucho más alejados de la media del grupo de lo que habrían estado desde la línea de regresión.
En nuestro ejemplo de Rhianna, puede ver en las tablas ANOVA de los modelos continuos y dicotomizados que tienen las mismas sumas de cuadrados totales, pero las sumas de cuadrados para el modelo (año vs. Pre-2010) es mucho menos en el modelo dicotomizado Pre-2010. Si hay una verdadera relación lineal, entonces la potencia del modelo siempre será más fuerte como modelo continuo en lugar de dicotomizar y usar un ANOVA.
en un
JMP simulación
[1] , Utilicé la relación lineal aproximada de nuestros datos de BadGirlRiri para simular lo que sucede con el poder estadístico cuando dicotomiza una de sus variables continuas. A medida que la cantidad de error en torno a la verdadera relación lineal se hace cada vez más pequeña, eventualmente, cualquiera de los dos métodos tendrá casi el 100% de potencia. Cuando la relación es tan fuerte, incluso una reducción en el poder debido a la dicotomización permitirá una detección casi perfecta del efecto.
Por otro lado, cuando hay una gran cantidad de variación en torno a la relación lineal, tanto los modelos dicotomizados como los continuos tienen problemas para detectar cualquier efecto debido al error desproporcionadamente grande en la relación. En ese momento, el error alrededor del modelo supera cualquier relación lineal que pueda estar escondida allí (recuerde, las pruebas estadísticas miden la cantidad de variación debida al modelo y la comparan con la cantidad de variación que no se debe al modelo)
[2] .
La mayoría de los experimentadores apuntan al 80% de potencia como su umbral
[3] . Esto significa que si realmente hay un efecto de ese tamaño, el experimento permitirá que nuestro modelo estadístico detecte ese efecto el 80% del tiempo. Una revisión rápida del poder estadístico lo ayudará a recordar que hay cuatro cosas principales que pueden afectar su poder: el tamaño de la muestra, el tamaño del efecto, la varianza de la población y el alfa (sus criterios de corte para la importancia). Desafortunadamente, el tamaño del efecto, la variación de la población y el alfa normalmente están establecidos para usted, pero el tamaño de la muestra es el juguete del investigador. Sin embargo, los cultivos celulares, los sujetos humanos y los isótopos radiactivos cuestan dinero y tiempo. Así que desea la prueba más potente que pueda obtener con el tamaño de muestra más pequeño.
La distancia vertical entre los puntos resaltados en rojo y azul es la diferencia promedio en potencia cuando se dicotomiza en comparación con la variable continua. Cuando su modelo continuo tiene un 80% de potencia (n = 20), su modelo dicotomizado tiene solo aproximadamente un 65% de potencia, ¡eso es una reducción del 15% en potencia! Para tener un 80% de potencia con tu modelo dicotomizado, necesitarías más células, humanos o isótopos, ¡y NSF no pagará por eso!
Como es de esperar, cuando no existe una relación estadística, ambos tienen el mismo 5% de probabilidad de señalar falsamente la presencia de un efecto cuando no hay uno. Cuando definimos nuestro criterio de corte alfa, estamos eligiendo un porcentaje del tiempo en que nuestro modelo encontrará un efecto incluso cuando no lo hay.
¿Qué hemos aprendido? No debe dividir una variable continua en grupos si hay razones para sospechar una relación verdaderamente lineal. Piense acerca de sus datos y de lo que espera que sea la relación entre su X y Y. Si desea dividir su variable continua en grupos, asegúrese de que haya una razón teórica para hacerlo y no se limite a divisiones dicotómicas. -A menudo las personas se dividen en la mediana, pero eso puede no tener sentido para sus datos. Escucha tus datos.
[1] n para cada simulación es 20; Cada nivel o error fue simulado 1,000 veces cada uno. Se ejecutaron modelos continuos y modelos dicotomizados para los mismos datos y se registró el número de respuestas positivas. Más información está en los scripts adjuntos. Las versiones Python y R están disponibles.
[2] Debe tenerse en cuenta que a medida que obtenga muestras de tamaños arbitrariamente grandes, estas cosas no sucederán tan rápido. Esto se debe a que no importa cuánto error tengas, lo estás dividiendo por n-1; de modo que n se aproxima a un número arbitrariamente grande, su MSerror aún podría ser bastante pequeño en comparación con su MSmodel. TL; DR cuanto mayor sea el tamaño de la muestra, mayor será la variación antes de obtener una potencia del 0% para ambos modelos.
[3] Para una revisión sobre el poder, vea esto
artículo .
