849792_es-ES

liliconcom

Modelos lineales mixtos con JMP® Pro: una cara, muchos sabores

Modelos lineales mixtos con JMP® Pro: Una cara, muchos sabores*

Jian Cao, doctor

Instituto SAS, Inc.

24 de marzo de 2015

Bruselas, Bélgica

Abstracto

Una de las nuevas funciones de JMP Pro 11 son los modelos mixtos. Esta nueva funcionalidad de modelado en la plataforma Fit Model permite ajustar diversos modelos de regresión con efectos fijos y aleatorios, junto con una estructura de covarianza adecuada. ¿Qué es un modelo mixto? ¿Cuándo y por qué conviene ajustarlo? ¿Y cómo ajusta JMP dicho modelo? En este artículo, intentaré disipar mitos sobre los modelos mixtos mediante: 1) una breve revisión de los antecedentes estadísticos; 2) un análisis de por qué los modelos mixtos proporcionan mejores estimaciones y las consecuencias de ajustar los modelos de regresión tradicionales a datos donde las mediciones de una variable de respuesta están correlacionadas o falta una variable explicativa clave; y 3) una ilustración de los modelos mixtos de JMP® Pro mediante el ajuste de diferentes variantes de modelos mixtos que se emplean ampliamente en aplicaciones prácticas.

Agradecimiento: Me gustaría agradecer a Christopher Gotwalt y Laura Lancaster por su ayuda.

* El material presentado en este documento también se aplica a JMP Pro 12. La mejora clave en el nuevo JMP Pro 12 es un algoritmo de optimización mejorado que permite que JMP funcione más rápido que en JMP Pro 11 para datos de gran tamaño .

JMP Pro 11 ha añadido una nueva personalidad de modelado, el Modelo Mixto, a su plataforma de Ajuste de Modelo. ¿Qué es un modelo mixto? ¿Cómo se ajusta JMP a dicho modelo? ¿Cuáles son las aplicaciones clave donde se pueden aplicar los modelos mixtos? En este artículo, intentaré disipar mitos sobre los modelos mixtos y demostrar la capacidad de JMP con ejemplos reales.

¿Qué es un modelo lineal mixto?

Los modelos lineales mixtos son una generalización de los modelos de regresión lineal , y=Xβ +eAl extender el modelo para permitir efectos aleatorios, Z , el nuevo modelo se convierte en y=Xβ+Z γ + ε. Este es el modelo lineal mixto, ya que hay efectos fijos, INCÓGNITA, y efectos aleatorios, CON.

Se hacen las siguientes suposiciones para elparámetros de efectos aleatorios, γy error aleatorio ε:

(1) c y ε se distribuyen normalmente y (2) no existen correlaciones entre y εJMP proporciona varias estructuras de uso común paraε. Los coeficientes de efectos fijos , , y matrices de covarianza para y se estiman conjuntamente mediante el método de máxima verosimilitud restringida. El ajuste de modelos mixtos requiereadatos adicionales sobre cada unidad de sección transversal o, en caso de modelado de datos espaciales, dimensiones de las mediciones.Existen modelos mixtos para respuestas distribuidas no normales o modelos mixtos no lineales; sin embargo, Limito el alcance de mi discusión a los modelos mixtos lineales compatibles con JMP Pro.

¿Por qué modelos mixtos?

Cuando existe correlación entre las respuestas o una variable explicativa importanteSi falta información, no tenerla en cuenta da lugar a estimaciones sesgadas de los efectos del tratamiento y otros factores.

A continuación se muestran algunos casos de uso comunes para modelos mixtos:

• Permitiendocoeficientes
• Análisis de diseños de bloques aleatorios y diseños de parcelas divididas donde factores difíciles de cambiar y fáciles de cambiar dan lugar a múltiples términos de error;
• Controlar la heterogeneidad individual no observada en forma de efectos aleatorios (es decir, modelos de datos de panel);
• Análisis de medidas repetidasdonde los errores intra-sujetos están correlacionados;
• Respuestas múltiples que están correlacionadas porque las medidas se toman de los mismos sujetos;
• Los sujetos son jerárquicos (es decir, estudiantes dentro de las escuelas)Esto se conoce como Modelo Lineal Jerárquico o Modelos Multinivel;
• Variabilidad espacial (es decir, regresión geoespacial);

Con JMP Pro puedes especificar y ajustar fácilmente todos estos modelos utilizando la interfaz de apuntar y hacer clic y revisar los resultados de una manera sencilla.

Pasos para especificar un modelo mixto en JMP Pro

1. 1.Seleccione Analizar =>Ajustar modelo y elija Personalidad de modelo mixto ;
2. 2.Seleccione una variable de respuesta continua de su tabla de datos como Y y construya efectos fijos como lo haría normalmente con un ajuste de mínimos cuadrados estándar;

3A. Utilice la pestaña Efectos aleatorios para especificar coeficientes aleatorios o efectos aleatorios;

3B. Utilice la pestaña Estructura repetida para seleccionar una estructura de covarianza para los errores del modelo;

1. 4. Haga clic en Ejecutar .

Ahora pasaré a un ejemplo para mostrar cuatro tipos diferentes de modelos mixtos: modelo de coeficientes aleatorios, análisis de medidas repetidas, modelo de datos de panel yregresión geoespacial.

Ejemplo 1: Modelos de coeficientes aleatorios—permitiendo intersecciones y pendientesvariar aleatoriamente entre sujetos

En este ejemplo, nos interesa estimar el efecto de la humedad del suelo antes de la siembra en el rendimiento del trigo, permitiendo que cada variedad de trigo presente una desviación aleatoria de los efectos poblacionales. Por lo tanto, se requiere un modelo de coeficientes aleatorios.El experimento selecciona aleatoriamente 10 variedades de la población de trigo y asigna cada una aseis parcelas de tierraEn total, se recopilan 60 observaciones con 6 mediciones de rendimiento para cada variedad. (Los datos "Trigo" están disponibles en el directorio de datos de muestra del JMP).

Seguí los pasos descritos anteriormente para especificar el modelo.En la pestaña Efectos fijos , especifique Humedad junto con una intercepción predeterminada como efectos fijos.

Fit Model: Fixed EffectsModelo de ajuste: efectos fijosModelo de ajuste: efectos fijos

A continuación, desde la pestaña Efectos aleatorios , utilice el botón Anidar coeficientes aleatorios para solicitar la intercepción aleatoria y el efecto de humedad para cada variedad. Fit Model: Random EffectsModelo de ajuste: efectos aleatoriosModelo de ajuste: efectos aleatorios

Por último, en la pestaña Estructura repetida , seleccione Residual para el término de error del modelo. Fit Model: Repeated Structures Modelo de ajuste: Estructuras repetidas Modelo de ajuste: Estructuras repetidas

La siguiente captura de pantalla muestra las estimaciones de los parámetros de covarianza de efectos aleatorios, las estimaciones de los parámetros de efectos fijos y los coeficientes aleatorios . Analicémoslos uno por uno.

La estimación de la varianza para la intersección es de 18,89 con un error estándar de 9,11, por lo que el valor z es de 2,07 (=18,89/9,11). Utilizando la función de distribución normal del editor de fórmulas de JMP, el valor p es de 0,0192, lo que indica que la variación en el rendimiento base entre variedades es estadísticamente significativa. De igual forma, el valor p para Cov(Humedad, Intersección) es de 0,3777 y el valor p para Var(Humedad) es de 0,0380.

El informe de coeficientes aleatorios proporciona el BLUP (BPredictor lineal imparcial más antiguo)Valores de cómo cada variedad difiere de la intersección de la población y el efecto de la humedad de la población reportados en las Estimaciones de Parámetros de Efectos Fijos. Para la Variedad 1, el efecto estimado de la humedad en su rendimiento es de 0.61 (=0.66-0.05), y el rendimiento base es de 34.39 (=33.43+0.96) y la ecuación de rendimiento predicho es

Combinando los efectos fijos y las estimaciones de coeficientes aleatorios, encontramos un efecto general significativo en el rendimiento de la humedad del trigo y descubrimos una variación significativa en el efecto de la humedad en diferentes variedades.

Otras aplicaciones de los modelos de coeficientes aleatorios

El modelo de crecimiento individual es un tipo de modelo de coeficiente aleatorio en el queEl efecto del tiempo aleatorio esSe estima para cada individuo. Esto se hace especificando un continuovariable de tiempo comodía o mes como efecto aleatorio, yuCante el botón Coeficientes aleatorios de nido para solicitar una pendiente (es decir, crecimiento) e intersección separadas para cada individuo.

En la investigación educativa, los temas suelen estar jerarquizados. Al agregar múltiples grupos de enunciados de efectos aleatorios, se pueden ajustar los modelos lineales jerárquicos o los modelos multinivel .

Ejemplo 2: Análisis de medidas repetidas: consideración de errores correlacionados

Las medidas repetidas son las mediciones múltiples de una respuesta obtenidas de los mismos sujetos a lo largo del tiempo. En este ensayo clínico, los sujetos (es decir, los pacientes) fueron asignados aleatoriamente a diferentes grupos de tratamiento. El nivel de colesterol total de cada sujeto se midió varias veces durante el ensayo.El objetivo del estudio es comprobar siLos nuevos medicamentos son eficaces para reducir el colesterol. ¿Qué?Lo que distingue al análisis de medidas repetidas es la correlación de las mediciones dentro de un sujeto. No tenerla en cuenta suele llevar a conclusiones incorrectas sobre el efecto del tratamiento. (Los datos, Colesterol apilado , están disponibles en el directorio de datos de muestra de JMP).

JMP Pro ofrece tres estructuras de covarianza de uso común:

• No estructurado
• AR(1)(Autorregresivo de primer orden) estima la correlación entre dos mediciones separadas por una unidad de tiempo. La correlación disminuye a medida que aumenta la diferencia temporal.
• CS

La siguiente captura de pantalla muestra la parte de Efectos fijos del análisis de medidas repetidas, que incluye Tratamiento , Mes , AM/PM y sus interacciones. Fixed effects part of the model Parte de efectos fijos del modelo Parte de efectos fijos del modelo

Consideraré tres estructuras de covarianza diferentes para los errores intrasujeto. Primero, usemos la no estructurada. ApliquemosLa columna "Tiempo" se define como "Repetido" y la columna "Paciente" como "Sujeto" . Esto define las mediciones repetidas dentro de un sujeto. Es importante tener en cuenta que JMP requiere que la columna " Sujeto" tenga un valor único y que la columna "Repetido" sea categórica para la opción "No estructurado" . Unstructured Covariance Structure Estructura de covarianza no estructurada Estructura de covarianza no estructurada

Los informes clave incluyen estimaciones de parámetros de covarianza de efectos repetidos,Estimaciones de parámetros de efectos fijos,y Pruebas Pruebas de Efectos Fijos . Results using Unstructured Resultados utilizando resultados no estructurados Resultados utilizando resultados no estructurados

Una forma de comprobar la significancia estadística de las estimaciones de covarianza es calcular las puntuaciones z y hallar sus valores p, como hice en el ejemplo anterior del modelo de coeficientes aleatorios. Sin embargo, podemos comprobar los límites de confianza: si el intervalo de confianza del 95 % para una estimación de covarianza incluye cero, podemos afirmar que la estimación no es estadísticamente significativa desde cero.α=5%. Como podemos ver, las seis estimaciones de varianza son significativamente diferentes de cero, pero la mayoría deLas estimaciones de covarianza no lo son. Esto sugiere que se deben considerar estructuras parsimoniosas, como AR (1).

Pruebas de efectos fijosEl informe muestra un efecto del tratamiento altamente significativo. Cnivel de colesterolTambién se observa que varía significativamente de un mes a otro y de la mañana a la tarde.

A continuación, consideramos AR(1) como la estructura de covarianza para los errores intrasujeto. Tenga en cuenta que la columna Repetido utilizada en AR(1) por JMP debe ser una variable continua. Por lo tanto, se utiliza D ays ( número de días desde la fecha de inicio del ensayo en cada medición) en lugar de la variable categórica utilizada para la opción UN. AR(1) Covariance Structure Estructura de covarianza AR(1) Estructura de covarianza AR(1)

El informe de Estimación del Parámetro de Covarianza de Efectos Repetidos muestra una correlación intraindividual altamente significativa de 0,95. Los resultados de los efectos fijos son similares a los de la opción UN (no se muestra): el efecto del tratamiento y el efecto del tiempo son estadísticamente significativos. Results using AR(1) Resultados usando AR(1) Resultados usando AR(1)

Para completar nuestro ejemplo, finalmente, ajustamos el modelo con una estructura de covarianza repetida . Para ello, seleccionamos Residual como Estructura de covarianza repetida , pero no es necesario especificar las columnas Repetido y Sujeto con esta opción; en su lugar, añadimos el ID del sujeto, Paciente, como efecto aleatorio en la pestaña Efectos aleatorios . Es decir

wLa covarianza intra-sujeto se modela a través del efecto del sujeto.efecto. CS Covariance Structure with random subject effect and residual error Estructura de covarianza CS con efecto de sujeto aleatorio y error residual Estructura de covarianza CS con efecto de sujeto aleatorio y error residual

Results using CSResultados usando CSResultados usando CS

A juzgar por los límites de confianza del 95%, la covarianza entre dos medidas cualesquiera sobre el mismo tema no es estadísticamente significativa enα=0,05 (en realidad, valor p= 0.0621). Los resultados de la prueba de efectos fijos son similares a los modelos anteriores y, por lo tanto, no se muestran aquí.

Entonces, ¿qué estructura repetida debería adoptarse? Un criterio para la comparación de modelos es el AICc. Según los estadísticos de ajuste reportados por JMP (no mostrados), los AICc son: No estructurado —703.84, AR(1) —652.63 y CS —832.55. Por lo tanto, AR(1) es el ganador.

Ejemplo 3: Modelos de datos de panel: control de la heterogeneidad no observada

Este ejemplo está tomado deVella y Verbeek (1998), que se analiza en Introducción a la econometría de Jeffrey Woodridge comoEjemplo 14.4. Consulte las referencias a continuación para obtener más información.

Los datos originales provienen de la Encuesta Longitudinal Nacional de Jóvenes de la Cohorte de 1979 (NLSY79). En los datos, cada uno de los 545 trabajadores varones trabajó cada año entre 1980 y 1987. Nos interesa estimar el efecto de la afiliación sindical en los ingresos salariales, considerando la educación, la experiencia laboral, la etnia, etc.

Aunque el NLSY79 recopila información detallada sobre los antecedentes de los trabajadores que se utilizará como variables de control, aún existen diferencias individuales que no se pueden observar ni medir. Los datos de panel ofrecen una forma de explicar la heterogeneidad individual: si se asume que la heterogeneidad no observada no está correlacionada con ninguna de las variables explicativas incluidas en el modelo, podemos explicarla tratándola como un efecto aleatorio.

Siguiendo la discusión de Woodridge, se ajusta una ecuación Log(Wage) en la que se ingresa el ID del trabajador como un efecto aleatorio para capturar las diferencias no observadas. Fixed effects part of the Log(Wage) Equation Parte de los efectos fijos de la ecuación Log(Wage) Parte de los efectos fijos de la ecuación Log(Wage)

Random effects part of the Log(Wage) EquationEfectos aleatorios que forman parte de la ecuación Log(Wage)Efectos aleatorios que forman parte de la ecuación Log(Wage)

Selecciono Residual para el término de error de moda. En econometría, este modelo se denomina modelo de efectos aleatorios unidireccional .

Los resultados se muestran a continuación. Panel Model Results Resultados del modelo de panel Resultados del modelo de panel

Del informe Estimaciones de parámetros de covarianza de efectos aleatorios encontramos que los individuosLa heterogeneidad representa el 47,8 % (=0,11/(0,11+0,12)) de la variación total, lo que indica un gran efecto de heterogeneidad no observada. En otras palabras, un análisis MCO probablemente arrojaría resultados engañosos.

El informe de Estimaciones de Parámetros de Efectos Fijos muestra una tasa de retorno estimada de la educación del 9,2 % y una prima sindical del 10,5 %, ambas con alta significancia estadística. A modo de comparación, un método de MCO agrupado estimaría la prima sindical en el 18,2 %. Véase Woodridge (2013, pág. 495).

Referencias

Francis Vella y Marno Verbeek (1998), " ¿A quiénes aumentan los salarios los sindicatos? Un modelo dinámico de sindicalismo y determinación de la tasa salarial para hombres jóvenes ", Journal of Applied Econometrics, vol. 13, n.º 2, págs. 163-183. Los datos pueden descargarse del sitio web de la revista.http://qed.econ.queensu.ca/jae/1998-v13.2/vella-verbeek/

Jeffrey M. Woodridge (2013),Econometría introductoria: un enfoque moderno ( ^5.ª ed.),Aprendizaje CENGAGE.

Ejemplo 4: Modelado de datos geoespaciales: teniendo en cuenta la correlación espacial

Al igual que las medidas repetidas se correlacionan a lo largo del tiempo, es probable que los datos espaciales se correlacionen en el espacio. Es decir, las mediciones que sonLas áreas relativamente cercanas son más parecidas que las más alejadas. Por lo tanto, debemos tener en cuenta la dependencia espacial en el análisis.

Los datos espaciales se registran junto con coordenadas comoLatitud y longitud, posiciones de filas y columnas, direcciones norte-sur y este-oeste. La distancia entre dos mediciones se calcula mediante una distancia euclidiana. función, que se utiliza para formar una estructura de covarianza.Si la función de distancia no depende de las direcciones de las mediciones, entonces se dice que la covarianza esisótropo;de lo contrario es anisotrópico .Además,Se puede agregar un efecto pepita para tener en cuenta cambios abruptos en pequeñas distancias en un área local.

JMP Pro proporciona cuatrodistancia euclidiana Funciones para estructuras isotrópicas: potencia, exponencial, gaussiana y esférica. Existen diversas formas de estructuras anisotrópicas. También se puede añadir un efecto nugget a las estructuras de covarianza.

El siguiente ejemplo está tomado de SAS for Mixed Models, 2.ª edición , 2006, págs. 457-460.http://www.sas.com/store/prodBK_59882_en.htmPara investigar el drenaje de agua en un vertedero de residuos peligrosos, se tomaron 30 muestras en diversos puntos del sitio y se registraron según sus direcciones norte-sur y este-oeste. Se propuso una relación lineal entre el drenaje de agua (medido mediante la transmisividad logarítmica) y el espesor de una capa de sal.(TLos datos, Residuos peligrosos , son el conjunto de datos 11.6 en el archivo comprimido

http://support.sas.com/publishing/bbu/59882/59882.zip.)

Un modelo de regresión espacial se ajusta mediante una estructura de potencia anisotrópica espacial con efecto nugget. Esta estructura permite que (1) la distancia sea una función de potencia de la correlación espacial, (2) las correlaciones espaciales difieran en distintas direcciones, y (3) la variación en distancias pequeñas. Spatial anisotropic power with nugget Potencia anisotrópica espacial con nugget Potencia anisotrópica espacial con nugget

Results using spatial anisotropic power with nuggetResultados utilizando potencia anisotrópica espacial con nuggetResultados utilizando potencia anisotrópica espacial con nugget

Estimación del parámetro de covarianzaEl informe sugiere una correlación espacial altamente significativa y dos coeficientes de correlación son, respectivamente, 0,81 (Este-Oeste) y 0,91 (Norte-Sur). Sin embargo, no parece haber ningún dato relevante según los límites de confianza. Las estimaciones de parámetros de efectos fijos muestran un efecto negativo significativo (-0,025) en el drenaje del espesor de la sal.

Reajusto el modelo eliminando el efecto pepita. Results using spatial anisotropic power without nugget Resultados utilizando potencia anisotrópica espacial sin nugget Resultados utilizando potencia anisotrópica espacial sin nugget

Observamos algunos cambios menores: las correlaciones espaciales estimadas son de 0,86 y 0,82, respectivamente, y el efecto del espesor de la sal es de -0,021. Al comparar la bondad de ajuste con el AICc, el segundo modelo es ligeramente mejor, ya que su AIC es menor (84,7 frente a 86,4).

Para comprobar formalmente la existencia de correlación espacial, ajustamos un modelo de errores independientes seleccionando Residual como estructura (es decir, asumiendo que no hay correlación espacial). La diferencia en el valor de -2 del logaritmo de verosimilitud residual entre los dos modelos forma una prueba de razón de verosimilitud χ². El logaritmo de verosimilitud residual -2 del modelo de errores independientes es 94,07, por lo que la diferencia es 13,72 (=94,07-80,35). Esto arroja un valor p de 0,001 para DF = 2. Por lo tanto, se encuentra una correlación espacial significativa en este sitio.

Resumen

Esperamos que estos ejemplos hayan ilustrado la versatilidad de los modelos lineales mixtos y la facilidad para ajustar un modelo mixto con JMP. Antes de finalizar, me gustaría compartir algunos consejos generales.

• Para ejecutar un modelo mixto, los datos deben organizarse en un formato "alto y estrecho", donde las múltiples medidas de una respuesta se apilan en una sola columna. Si sus datos están en un formato "corto y ancho", utilice la función " Apilar" de JMP Tables para transponerlos.
• Siga los requisitos de estructura de covarianza repetida de JMP al ingresar columnas repetidas y de sujeto.http://www.jmp.com/support/help/Launch_the_Mixed_Model_Personality.shtml#1013652
• Pruebe diferentes estructuras de covarianza y evalúe diferentes modelos comparando el AICc o el BIC. Cuanto menor sea el AICc (o el BIC), mejor se ajustará el modelo. En igualdad de condiciones , un modelo parsimonioso es mejor.
• Un modelo de errores independientes (es decir, un modelo con sólo efectos fijos) puede servir como modelo de base para realizar una prueba de razón de verosimilitud χ2 sobre la existencia de una estructura de covarianza.
• Tenga en cuenta que cuando se incluyen efectos aleatorios y repetidos en un modelo, a menudo no hay suficientes datos para estimar ambos efectos.