J'ai eu des conversations avec Peter Bartell et il m'a suggéré de commencer une discussion sur ce concept.
J'espère que certaines des personnes les plus intelligentes auront vu ce résultat s'il avait été publié. Je prépare un court cours sur la régression logistique. En tant que mathématicien, je peux facilement visualiser le concept de minimisation de la distance entre l’envergure d’une matrice de conception et le vecteur de réponse (approche de l’espace vectoriel), utilisé dans la méthode MCO. Dans la régression logistique, je recherchais une notion analogue de distance entre un vecteur de probabilités et une réponse consistant à dire vrai et faux ... sans coder les réponses en tant que 0 et 1. J'ai passé un excellent moment ahaaa et j'ai trouvé un moyen de reformuler le problème. Au lieu de maximiser une probabilité, je pourrais minimiser une distance. Mais le "span" de la matrice de conception est maintenant un espace de fonctions de masse de probabilité, mais pas un espace vectoriel, et la réponse est encore un autre pmf, et cet espace a une métrique naturelle. Fait intéressant, le pmf qui minimise la distance entre l’envergure de la matrice de conception s’avère être le même que le MLE pmf. J'ai présenté la proposition à un excellent mathématicien et les calculs semblent sains et généralisables. Mais ils n'étaient pas des statisticiens et ne pouvaient pas dire si le résultat était nouveau. Pour ma part, j'ai fouillé et cherché la leterature et je n'ai pas vu l'union glm / MLE de cette façon.
Lorsque nous posons le glm / MLE dans un espace métrique, nous avons maintenant la structure supplémentaire qui accompagne le trajet. À savoir les ensembles ouverts et fermés ainsi que la notion de convergence. En particulier, nous pouvons maintenant voir exactement pourquoi, dans la régression logistique, certaines réponses donnent une solution à coefficients instables. Le problème est que l'étendue de la matrice de conception est un ensemble ouvert dans cet espace métrique et que la réponse est un point situé au bord de cet ensemble. Ainsi, bien qu'il y ait une séquence de pmf qui converge vers la réponse pmf, ils ne peuvent pas l'atteindre.
J'ai joint un court exposé et je serais heureux de recevoir vos commentaires.
