Hypothèse de normalité dans Ajuster les moindres carrésSalut,
J'ai une question simple sur laquelle je me demandais si des personnes plus expérimentées pourraient nous éclairer.
Je sais que les MCO ne nécessitent pas nécessairement une hypothèse de normalité, mais la normalité des résidus conduit à des estimations impartiales avec une variance minimale.
J'ai essayé d'ajuster un modèle sur une réponse continue avec trois variables indépendantes en utilisant les moindres carrés dans la plateforme Fit Model. Ce modèle avait un Radj d'environ 0,45 et le tracé des résidus présentait une tendance claire.
Ensuite, j'ai vérifié la distribution de la réponse continue et j'ai vu qu'elle était loin d'être normale.
En utilisant la régression généralisée (Lasso) et la distribution de réponse normale, le modèle conduit toujours à un Rcarré généralisé d'environ 0,45. Cependant, lorsque je suis passé à une distribution de réponse exponentielle, le Rsquare est passé à 0,84.
Si la normalité de la réponse n’est pas nécessaire sur les moindres carrés, qu’est-ce qui pourrait expliquer une telle différence ?
Merci!
Exploration et visualisation des donnéesRe: Hypothèse de normalité dans Ajuster les moindres carrésAu fait, j'ai trouvé ce matériel ( https://community.jmp.com/kvoqx44227/attachments/kvoqx44227/discovery-2019-content/28/1/glmTalkTucson.pdf) où il dit que supposer que les erreurs (et la réponse) sont normales rend la vie beaucoup plus facile. Cependant, dans ce lien ( https://www.jmp.com/en_us/statistics-knowledge-portal/what-is-regression/simple-linear-regression-assumptions.html) , il ne traite que de la normalité des erreurs.
Donc, je ne suis pas sûr si la normalité de la réponse est supposée dans JMP?
Si oui, pourquoi la normalité de la réponse «rendrait-elle la vie beaucoup plus facile»?
Re: Hypothèse de normalité dans Ajuster les moindres carrésBonjour Anna,
L'hypothèse réelle pour la plate-forme Fit Least Square est que les résidus du modèle sont distribués normalement; il n'y a aucune hypothèse pour que la réponse ou les variables soient normalement distribuées. Je ne sais pas à quelle expression «rendre la vie beaucoup plus facile» se réfère en termes de statistiques.
Meilleur,
TSRe: Hypothèse de normalité dans Ajuster les moindres carrésLa régression des moindres carrés ordinaires est souvent traitée comme un cas particulier en ce qui concerne la distribution de la réponse. Comme @Thierry_S expliqué, nous traitons généralement les résidus (erreurs estimées) en supposant que les erreurs sont normalement distribuées. Vous pouvez également la décrire comme une distribution conditionnelle: Y ~ Normal (moyenne = prédite Y = f (X), variance). Ainsi, la moyenne Y varie avec X comme décrit par le modèle de régression linéaire mais la variance de Y est constante ou indépendante de la réponse. En d'autres termes, la réponse présente une distribution normale des erreurs pour toute réponse moyenne (prédite).
Je ne dirais pas ça " OLS n'exige pas nécessairement la normalité. "
L'hypothèse de normalité et les MCO conduisent à un modèle médiocre si la distribution conditionnelle n'est pas normale. Ainsi, la distribution exponentielle semble être un modèle pour la variance par rapport à la distribution normale dans votre cas.