Blog impresionante! Me sentí mucho más joven hoy como "1" en comparación con los jóvenes en "0"
Es impresionante
Seré un gran fan de ti desde ahora.
Chul-Hee
Felicitaciones por la explicación! He estado leyendo muchos textos y nadie fue tan didáctico como tú. ¡Muchas gracias!
Alguna vez se ha confundido cuando alguien dijo que una
ANOVA es lo mismo que
regresión ? ¿O sintió resentimiento hacia el profesor de matemáticas que le dijo que usaría la forma de intercepción de la pendiente un día? Bueno, prepárate para enviar una enorme caja de chocolate a tu antiguo profesor de álgebra, porque Y = mx + b está de vuelta, bebé. O mejor dicho, nunca se fue.

Ahora que el ANOVA está en su cinturón de herramientas de análisis, hagamos un resumen rápido. Lo que realmente está bajo el capó de un ANOVA es una ecuación lineal: Y = mx + b. Si quisiera ver si las personas mayores de 40 años tienen más empastes dentales que los menores de 40 años, usaría esta ecuación:

En una ANOVA , La variable ( X ) es lo que llamamos una "variable ficticia". Solo puede tomar los valores de 0 o 1 (usted tiene o no tiene menos de 40 años). Se llama 0/1 codificación de grupos indicador-variable codificación, uno de los pocos tipos de esquemas de codificación, como codificación de efectos - que puedes ver en JMP .
Si alguien es menor de 40 años, le damos un 0 por X , y si son mayores de 40, les damos un 1. Años Es la diferencia entre el número medio de rellenos para cada grupo. 
Regresión usa la misma ecuación exacta, pero permite que el coeficiente sea cualquier número real, ¡como en la escuela intermedia! los metro (o pendiente) en el caso de una regresión significa " esperamos Y Para cambiar tanto por cada vez que aumentamos X por 1 unidad. ”

los metro (o pendiente) en un ANOVA es el mismo, pero solo puedes aumentar en 1 unidad ya que solo puedes tener un 0 o 1 para X (nuestro cambio esperado en Y Es la diferencia entre los medios).
en un regresión , en lugar de probar si las medias de dos o más grupos son significativamente diferentes, estamos probando si la pendiente de una línea es significativamente diferente de cero (todavía estamos haciendo esto en un ANOVA, pero la "pendiente" en un ANOVA es La diferencia entre los dos medios).
Las pruebas de significación para las regresiones son exactamente las mismas que para los ANOVA. Voy a ver la relación entre el número de palabras únicas en las canciones de Rhianna por año de lanzamiento [1] (solo hay tantas veces que puedes decir "trabajo" en una canción).
Sumas de cuadrados totales (SST)
Primero, necesitamos calcular la varianza total en los datos. Esto se hace de la misma manera que en un ANOVA: tomamos la suma de las diferencias al cuadrado entre cada punto y la media. [2]
Sumas de regresión de cuadrados (SSR)
En segundo lugar, calculamos la varianza debida al "grupo" como hicimos en ANOVA, pero no tenemos grupos. En su lugar tenemos una línea que predice valores para Y basado en valores de X por lo que calculamos la suma de la regresión de cuadrados ( SSR ). Por cada valor de X , restamos el valor predicho para X de la media de todos los valores (la gran media).

Sumas de error de cuadrados (SSE)
Al igual que antes, el SST = SSR - SSE lo que significa que nosotros podría calcular sumas de error de cuadrados tomando SST y restando SSR Pero, solo por diversión, hagámoslo por el camino largo. 
Todo lo que hacemos es tomar el valor real en X menos el valor predicho en X (En ANOVA, también lo hacemos, pero nuestros valores esperados en ANOVA son medios de grupo). Recuerde, una vez más, que la Regresión (como ANOVA) toma la cantidad total de variación, la coloca en diferentes grupos y los compara. Aquí, estamos comparando la varianza debido a regresión y varianza debida a error . Juntos, estos forman la cantidad total de variación; Si no se debe a la regresión, se atribuye al error.

La prueba f
Ahora que tenemos todas nuestras sumas de cuadrados, ¡todo lo que queda es la prueba F!
Al igual que en un ANOVA, tomamos la cantidad de variación debida a regresión y error y dividirlos por sus respectivos grados de libertad. [3] para obtener los cuadrados medios (MS) para cada uno de nuestros términos.
Nuestra estadística F se calcula al dividir MS para regresión por MS para error. En esencia, esto nos dice la relación de variabilidad que el regresión explica la variabilidad que no modelamos, o error diferencia. Si solo contamos con tanta variabilidad como error aleatorio, no creemos que nuestro efecto sea significativo.
Para hacer esto en JMP , abierto BadGirlRiRi.jmp (adjunto).

Utilizando la Analizar > Ajustar Y por X, Arrastrar Palabras únicas a la caja Y, y Año a la casilla X

Hacer clic De acuerdo y la ventana de salida aparecerá. Usando el triángulo rojo debajo de Ajuste bivariado para seleccionar Línea de ajuste .

Observe la Análisis de variación La tabla muestra las sumas de cuadrados, los grados de libertad (DF), los cuadrados medios y nuestra prueba F. Ya que nuestra F es relativamente cercana a 1, y nuestro valor de p es mucho mayor que 0.05, no tenemos evidencia de que haya una relación estadísticamente significativa entre el número de palabras únicas en las canciones de Rhianna y el año, pero estoy atento. en ti, riri ....
ANOVA table from Fit LineANOVA table from Fit LineANOVA table from Fit LineMesa ANOVA de Fit Line
Así que eso es una regresión lineal en pocas palabras, y por qué el ANOVA es solo un caso especial de regresión. Me temo que son tortugas lineales ... me refiero a modelos ... hasta abajo.

¿Tienes un tema que quieres cubrir?
Siente acercarte en Twitter @chelseaparlett ! La forma de solicitud preferida es "¿Qué diablos es _________?"
Notas[1] Para el Cuaderno Jupyter que extrae los datos de Rhianna, vea esta repositorio.
[2] Si desea seguir los cálculos, consulte esta hoja.
[3] ¿Por qué hacemos esto? Los grados de libertad representan esencialmente información "nueva". Queremos obtener la mayor cantidad de "bang" para nuestra información "buck", es decir, queremos que se explique la mayor variabilidad en la menor cantidad de grados de libertad. La división de la variabilidad total por los grados de libertad nos da la cantidad de variabilidad "por grado de libertad". No es justo comparar la cantidad de variabilidad de un factor con 89 cuentas de información a la cantidad de variabilidad de un factor con cuentas de información. Para una revisión de los grados de libertad, ver esta artículo.