En una publicación anterior, usé la plataforma de Regresión Generalizada (Genreg) en Pro JMP a analizar los datos que recopilé mientras jugaba un juego de mesa con mi hija . Dado que solo había un único efecto en mi modelo (Player), no pude mostrar los métodos de selección de variables que están disponibles en Genreg.
Tener acceso a métodos de selección de variables como el lazo o la selección hacia adelante es especialmente importante cuando su respuesta no es numérica (como rojo/azul/verde o pequeño/mediano/grande) porque los modelos de regresión logística nominal y ordinal pueden sobreajustarse fácilmente. Aquí, veremos un ejemplo en el que consideramos muchos más efectos para modelar la respuesta.
Los datos
Usaremos el archivo Diabetes.jmp, que está disponible en el JMP carpeta de datos de muestra. El conjunto de datos mide la progresión de la diabetes en el transcurso de un año, con atributos como edad, sexo y niveles de colesterol para cada individuo en la muestra de 442 pacientes. Queremos usar esos atributos para modelar "Y Ordinal", que etiqueta la gravedad de la diabetes de cada paciente: baja, media o alta. Como sugiere el nombre de la columna de respuesta, la modelaremos utilizando un modelo de regresión logística ordinal, que es nuevo en Genreg para la versión 14. Es razonable sospechar que existen interacciones entre nuestras variables explicativas, por lo que incluiremos efectos principales e interacciones de dos factores en nuestro modelo. Especificar este modelo en el cuadro de diálogo Ajustar modelo es fácil usando la macro "Factorial a grado".
Launching an ordinal logistic model for the Diabetes dataLaunching an ordinal logistic model for the Diabetes dataLaunching an ordinal logistic model for the Diabetes dataLaunching an ordinal logistic model for the Diabetes data Lanzamiento de un modelo logístico ordinal para los datos de Diabetes
Después de especificar nuestro modelo y presionar el botón Ejecutar, ingresamos a la plataforma de Regresión Generalizada. Genreg realiza automáticamente un ajuste de probabilidad máxima (modelo completo, sin selección de variables) para nosotros en los datos de entrenamiento. Pero me preocupa el sobreajuste, así que no quiero el MLE. En cambio, quiero hacer el Lazo, ya que nos proporcionará un modelo más parsimonioso que debería ajustarse mejor a los nuevos datos.
Doing a Lasso fit in GenregDoing a Lasso fit in GenregDoing a Lasso fit in GenregDoing a Lasso fit in Genreg Haciendo un ajuste Lasso en Genreg
Lasso output for the Diabetes dataLasso output for the Diabetes dataLasso output for the Diabetes dataLasso output for the Diabetes dataSalida de lazo para los datos de Diabetes
Como podemos ver en la salida, el lazo produce un modelo que usa solo 15 parámetros de los 57 candidatos originales. Entonces tenemos un modelo que es mucho más fácil de interpretar/explicar que el MLE. ¿Cuánto mejor se desempeña el modelo de lazo en nuevas observaciones que el modelo completo de 57 términos? Eso es más fácil de ver usando la plataforma de comparación de modelos. Podemos ver que el modelo completo se ajusta muy bien a los datos de entrenamiento y terriblemente a los datos de validación (la validación R^2 es negativa, siempre una mala señal). Este es un caso clásico de sobreajuste . Mientras tanto, el modelo de lazo tiene un R^2 mucho mejor y tasas de clasificación errónea en los datos de validación. Así que el modelo de lazo es el claro favorito aquí.
Lasso vs MLE using the Model Comparison platformLasso vs MLE using the Model Comparison platformLasso vs MLE using the Model Comparison platformLasso vs MLE using the Model Comparison platformLasso vs MLE utilizando la plataforma de comparación de modelos
El caso multinomial
Como en mi publicación anterior , nuestra respuesta tiene un ordenamiento natural. Pero ignoremos eso por ahora para que podamos hacer una selección de variables en un problema multinomial. La selección de variables es especialmente importante en este caso porque el modelo multinomial es muy fácil de sobreparametrizar o sobreajustar.
¿Por qué este modelo es tan fácil de sobreajustar? Si tenemos p predictores y nuestra respuesta toma k niveles, entonces el modelo que estamos ajustando tiene p*(k-1) parámetros. En el caso de nuestros datos de diabetes, tenemos 56 predictores y tres niveles de nuestra respuesta, lo que nos da 56*(3-1) = 112 parámetros a considerar. ¡Esto puede salirse de control rápidamente! Para obtener más información acerca de este modelo, consulte el Ayuda JMP .
Lanzamos Genreg exactamente de la misma manera que antes. Simplemente cambiamos la distribución a Multinomial.
Launching the Multinomial in GenregLaunching the Multinomial in GenregLaunching the Multinomial in GenregLaunching the Multinomial in Genreg Lanzamiento del Multinomio en Genreg
Nuevamente usaremos el lazo para la estimación y selección de variables. Esta vez, el lazo produce un modelo con solo 25 variables, lo que significa que ha eliminado casi 90 parámetros de nuestro modelo. Y aunque puede parecer que el modelo de lazo no tiene un gran R ^ 2 generalizado en los datos de validación (alrededor de .35), ¡el modelo completo tiene un R ^ 2 generalizado peor que -2 en el conjunto de validación!
Lasso summaryLasso summaryLasso summaryLasso summary resumen de lazo
Lasso beats the MLE even worse in the Multinomial caseLasso beats the MLE even worse in the Multinomial caseLasso beats the MLE even worse in the Multinomial caseLasso beats the MLE even worse in the Multinomial caseLasso supera aún peor al MLE en el caso Multinomial
¡Inténtalo tú mismo!
Estoy entusiasmado con el soporte para respuestas ordinales y multinomiales en Genreg en Pro JMP 14 Este tipo de datos es muy común en la práctica, pero como hemos visto con los datos de Diabetes, debemos tener cuidado al construir modelos. Las herramientas interactivas de selección de variables en Genreg pueden ayudarlo a crear modelos que se ajusten mejor y sean más fáciles de interpretar. Déjame saber lo que piensas.
