Regresión logística y reducción del modelo: discrepancia entre los resultados del ajuste del modeloestoy usando el Regresión generalizada plataforma con Distribución binomial para ajustar un modelo Logístico, y luego hacer selección de modelo (por ejemplo, Best Subset - AIC) para reducir la complejidad del modelo.
Una vez reducido el modelo, relanzarlo con Solo Términos Activos , utilizando exactamente la misma plataforma: regresión generalizada con distribución binomial, de modo que debería obtener exactamente el mismo modelo ajustado que el reducido, con los mismos coeficientes y predicciones.
Sin embargo, cuando comparo los dos perfiladores, obtengo valores predichos ligeramente diferentes, y intervalos de predicción extremadamente diferentes .
¿Puede dar una explicación de por qué sucede esto?
Además, ¿en cuál de los dos ajustes debo confiar?
¡Gracias!
Re: Regresión logística y reducción del modelo: discrepancia entre los resultados del ajuste del modeloHola Micol,
La razón de esta discrepancia es que los dos modelos utilizan estimadores diferentes para la covarianza de las estimaciones de los parámetros (lo que afecta los errores estándar). Siempre que hacemos una selección de variables (Lasso, FS, …), utiliza una matriz sándwich, como se describe en Zou 2006 y Huber y Ronchetti 2009:
Zou, H. (2006). "El lazo adaptativo y sus propiedades oraculares." Revista de la Asociación Estadounidense de Estadística 101: 1418–1429.
Huber, PJ y Ronchetti, EM (2009). Estadísticas Robustas. 2ª ed. John Wiley & Sons.
Cada vez que hacemos un MLE como en el ajuste logístico/binomial, utiliza la matriz de información habitual de Fisher. Para un modelo reducido al que llegó usando la regresión por pasos y luego volvió a ajustar, creemos que está bien usar los resultados secundarios (con intervalos de confianza más pequeños).
¡Espero que esto ayude!
Gracias,
adam morris
Soporte técnico JMP
