Régression logistique et réduction de modèle - Écart entre les résultats d'ajustement du modèlej'utilise le Régression généralisée plate-forme avec Distribution binomiale pour ajuster un modèle logistique, puis faire sélection du modèle (par exemple, meilleur sous-ensemble - AIC) pour réduire la complexité du modèle.
Une fois le modèle réduit, je relancez-le avec Only Active Terms , en utilisant exactement la même plate-forme - Régression généralisée avec distribution binomiale, de sorte que je devrais obtenir exactement le même modèle ajusté que celui réduit, avec les mêmes coefficients et prédictions.
Néanmoins, lorsque je compare les deux profileurs, j'obtiens des valeurs prédites légèrement différentes, et intervalles de prédiction extrêmement différents .
Pouvez-vous expliquer pourquoi cela se produit?
De plus, à laquelle des deux coupes dois-je faire confiance ?
Merci!
Re : Régression logistique et réduction de modèle - Écart entre les résultats d'ajustement du modèleSalut Micol,
La raison de cet écart est que les deux modèles utilisent des estimateurs différents pour la covariance des estimations des paramètres (ce qui affecte les erreurs types). Chaque fois que nous faisons de la sélection de variables (Lasso, FS, …), elle utilise une matrice sandwich, comme décrit dans Zou 2006 et Huber et Ronchetti 2009 :
En ligneZou, H. (2006). "Le lasso adaptatif et ses propriétés Oracle." Journal de l'Association statistique américaine 101: 1418–1429.
Huber, PJ, et Ronchetti, EM (2009). Statistiques robustes. 2e éd. John Wiley et fils.
Chaque fois que nous faisons un MLE comme dans l'ajustement logistique/binomial, il utilise la matrice d'information habituelle de Fisher. Pour un modèle réduit auquel vous êtes arrivé en utilisant une régression pas à pas puis un réajustement, nous pensons qu'il est bon d'utiliser les résultats secondaires (avec des intervalles de confiance plus petits).
J'espère que ça aide!
Merci,
Adam Morris
Assistance technique JMP
