Tuve conversaciones con Peter Bartell y me sugirió comenzar una discusión sobre este concepto.
Espero que algunas de las personas más inteligentes que hay por ahí hubieran visto este resultado si se hubiera publicado. Estoy preparando un curso corto sobre regresión logística. Como matemático, puedo visualizar fácilmente el concepto de minimizar la distancia entre el alcance de una matriz de diseño y el vector de respuesta (enfoque de espacio vectorial), que se usa en OLS. En la regresión logística buscaba una noción análoga de la distancia entre un vector de probabilidades y una respuesta que consiste en decir Verdadero y Falso ... sin codificar las respuestas como 0 y 1. Tuve un gran momento ahaaa y se me ocurrió una manera de reafirmar el problema. En lugar de maximizar una probabilidad, podría minimizar una distancia. Pero el "intervalo" de la matriz de diseño ahora es un espacio de funciones de masa de probabilidad, pero no un espacio vectorial, y la respuesta es otro pmf, y este espacio tiene una métrica natural. Curiosamente, el pmf que minimiza la distancia entre el intervalo de la matriz de diseño resulta ser el mismo que el MLE pmf. He realizado la propuesta de algunos matemáticos excelentes y las matemáticas parecen ser sólidas y bastante generalizables. Pero no eran estadísticos y no podían decir si el resultado es nuevo. Por mi parte, he buscado y buscado en la literatura y no he visto glm / MLE unificado de esta manera.
Cuando colocamos el glm / MLE en una configuración de espacio métrico, ahora tenemos la estructura adicional que viene para el viaje. A saber, conjuntos abiertos y cerrados, así como la noción de convergencia. En particular, ahora podemos ver exactamente por qué, en regresión logística, ciertas respuestas producen una solución con coeficientes inestables. El problema es que el intervalo de la matriz de diseño es un conjunto abierto en este espacio métrico y la respuesta es un punto en el borde de este conjunto. Entonces, aunque hay una secuencia de pmf que converge a la respuesta pmf, no pueden lograrla.
He adjuntado un breve artículo de exposición y agradecería cualquier comentario.
