Todos los modelos posibles de regresión múltiple: evaluación del cambio de R2 entre modelosHola a todos,
Soy relativamente nuevo en JMP. He realizado una regresión múltiple de todos los subconjuntos, ya que estoy intentando encontrar el mejor modelo de variables independientes que prediga mi variable dependiente. Según AICc, BIC y Mallows, hay un modelo que parece ser el mejor. Sin embargo, hay otro modelo que tiene una variable adicional que tiene un AICc similar, etc. (aunque peor), pero un R2 mejor ajustado. ¿Hay alguna forma en JMP de comparar estadísticamente el cambio en R2 entre los dos modelos ("cambio de R2"), como se puede hacer con SPSS? Quiero evaluar si este aumento en R2 es estadísticamente significativo. Sospecho que no lo es y debería quedarme con el modelo menos complicado.
Muchas gracias,
Phil
Modelado estadístico avanzadoRe: Todos los modelos posibles de regresión múltiple: evaluación del cambio de R2 entre modelosHola @philc86 , ¡bienvenido! Si la diferencia entre los modelos es solo una de las variables potenciales (como describes), entonces lo que buscas es el valor p para esa variable adicional (lo mismo que probar un aumento significativo en R^2). Y, en general, consulta lo siguiente:
https://www.stat.uchicago.edu/~yibi/teaching/stat224/L04.pdf
Re: Todos los modelos posibles de regresión múltiple: evaluación del cambio de R2 entre modelosHola MRB3855,
Gracias por esto. Sí, quiero probar si hay un aumento significativo en R2 estadísticamente hablando al agregar nuevas variables. En SPSS puedo hacer esto usando regresión jerárquica (agregando todas las variables excepto la adicional al bloque 1, luego agregando la variable adicional en el bloque 2). Sin embargo, no puedo ver cómo hacer esto en JMP. ¿Sabes cómo hacerlo? Prefiero seguir usando solo el programa de estadísticas.
Phil
Re: Todos los modelos posibles de regresión múltiple: evaluación del cambio de R2 entre modelosHola @philc86 : Para más de una variable adicional, no veo una manera de hacerlo directamente en JMP (a menos que me esté perdiendo algo). El artículo al que le proporcioné un enlace describe cómo hacerlo, pero necesitará ejecutar los dos modelos (completo y reducido) para obtener la información que necesita (consulte las páginas 31 a 33) para realizar los cálculos usted mismo. Si desea ver esa capacidad en una versión futura de JMP, puede agregarla a la "Lista de deseos" de JMP. https://community.jmp.com/t5/JMP-Wish-List/idb-p/jmp-wish-list
Y aquí hay alguien que ha hecho un vídeo sobre cómo hacerlo...
https://www.youtube.com/watch?v=OwXHkoLOse8
Re: Todos los modelos posibles de regresión múltiple: evaluación del cambio de R2 entre modelos¡Bienvenido a la comunidad @philc86 !
Hola @MRB3855 ,
No está directamente relacionado con sus sugerencias o la demanda inicial de @philc86 , pero si se cumplen las condiciones para usar la plataforma Fit Two Level Screening Platform ( Descripción general de Fit Two Level Screening Platform (jmp.com) ), podría ayudar a identificar términos activos importantes y ayudar a la selección de modelos. Tenga en cuenta que los efectos se ingresan en el análisis siguiendo un orden jerárquico.
Esta plataforma se puede encontrar en DoE, Classical, Factor Screening, Fit Two Level Screening.
Espero que esto pueda ayudar en la discusión.
Re: Todos los modelos posibles de regresión múltiple: evaluación del cambio de R2 entre modelosHola @philc86 ,
Una forma de hacer esto en JMP Pro es mediante la plataforma SEM, que permite especificar el modelo completo, el modelo restringido y, luego, ofrece una prueba estadística de la diferencia. Esta prueba es una prueba de chi-cuadrado, pero dará lugar a la misma inferencia que R^2 en la regresión jerárquica.
De hecho, se puede ajustar un modelo de regresión múltiple en SEM con los mismos resultados que con la plataforma Fit Model. Una ventaja particular de realizar este análisis en SEM es que maneja los datos faltantes con un algoritmo de vanguardia de manera predeterminada, por lo que no se descartan datos, lo que aumenta la potencia.
Hay una pequeña curva de aprendizaje si nunca has usado SEM antes, sin embargo, incluyo un par de scripts JSL aquí en caso de que te ayuden:
1) Al ejecutar el script en "Compare_FitModel_to_SEM.jsl", se mostrarán los resultados de una regresión múltiple utilizando la plataforma Fit Model y la plataforma SEM. Puede observar los resultados uno al lado del otro para ver los mismos resultados:

2) El script "Hierarchical_Regression_in_SEM.jsl" ajusta dos modelos en el mismo informe SEM: el modelo completo, que tiene todas las variables que predicen el resultado, y el modelo restringido, que tiene todas las variables excepto una (o más) sin efecto sobre el resultado. En el diagrama de ruta SEM, un efecto de regresión se representa como una flecha, por lo que puede ver que el modelo completo tiene todos los efectos:

y el modelo restringido tiene un efecto fijado en cero:

En este ejemplo, la prueba de diferencia de chi-cuadrado muestra una cantidad estadísticamente significativa de desajuste inducido al fijar el efecto de una variable en cero:

Por tanto, concluimos que el modelo completo es el mejor modelo.
Una posible desventaja de hacer esto en SEM es que las varianzas y covarianzas de los predictores se estiman como parte del modelo y, por lo tanto, es posible que necesite un tamaño de muestra razonablemente grande para que todos funcionen correctamente. Además, si tiene predictores categóricos, deben ingresarse como variables binarias numéricas (como variables codificadas ficticias en regresión múltiple).
Saludos cordiales,
~Laura