Distribuciones en GenRegLe pregunté a Chris acerca de las distribuciones en GenReg
En la ventana de lanzamiento del modelo para GenReg se dice distribución de respuesta. ¿Es esto correcto? ¿O es la distribución de los residuos del modelo?
La respuesta corta es que es la distribución de respuestas y no una distribución de errores lo que se modela en general. Para la Normal y un par de otras distribuciones como la Cauchy, puede pensar que la distribución del error y la distribución de la respuesta son las mismas, pero no son las mismas fuera de algunos casos especiales. Por ejemplo, uno nunca piensa en un "término de error" para las distribuciones binomial, Poisson, Lognormal, Gamma o Weibull, solo distribuciones de respuesta. Solo en los casos en que la distribución es simétrica en relación con el modo en el que se considera que existe un concepto de "y = modelo medio + término de error" que se aplica. Lo que sucede es que las personas aprenden el modelado de mínimos cuadrados primero utilizando el concepto de modelo + error, pero luego, para comprender realmente la regresión logística y de Poisson, debe desaprenderlo y pensar en ello mediante distribuciones de respuesta. Desafortunadamente, fuera de ciertos entornos universitarios, este punto casi nunca se aclara. La buena noticia es que, en su mayor parte, esta sutil falta de comprensión no interfiere con las personas que utilizan los modelos con éxito en la industria.
Confusión sobre esto totalmente comprensible porque está muy difundida. Incluso la primera frase en el Página de Wikipedia sobre modelos lineales generalizados. se equivoca cuando dicen:
"En estadística , la modelo lineal generalizado ( GLM ) es una generalización flexible de ordinaria regresión lineal que permite variables de respuesta que tienen modelos de distribución de error distintos de un distribución normal . ”
Empiezan a hacerlo bien en la segunda oración, sin embargo ...
Lo que realmente está sucediendo en la regresión logística, de Poisson o gamma es que estamos permitiendo que la variable de respuesta tenga una distribución no normal. La relación entre la respuesta y las variables predictoras se produce al colocar un modelo lineal en una función adecuadamente elegida de la media, que se denomina función de enlace. En el caso de la regresión logística (binomial), esta es una función logística (), en Poisson es el registro (), etc. La combinación de este modelo de medias con una distribución no normal para la estimación nos permite hacer un uso más eficiente de los datos porque, inherentemente, tiene en cuenta cómo cambia la varianza en función de la media, que es el caso de todas las distribuciones no negativas y Nos permite obtener los aspectos inferenciales como las pruebas de hipótesis y los intervalos de confianza del análisis correcto.
Re: Distribuciones en GenRegClay presentó este mismo tema en Copenhague en el JMP Discovery Summit Europe este año. Muy bien hecho, muy esclarecedor!
Re: Distribuciones en GenReghttps://community.jmp.com/t5/Discovery-Summit-Europe-2019/Not-Quite-Normal-Choosing-the-Best-Response-Distribution-for/ta-p/110053
Aquí está la presentación de Clay.
Re: Distribuciones en GenReg¡Gracias por publicar esto, Pete! Esto me pareció confuso también. La normalidad de la suposición de residuos siempre se enfatizó más que la distribución de la respuesta.Re: Distribuciones en GenRegGracias por mencionar esto. Ha sido algo que he tenido problemas para entender lo suficiente como para explicar lo que está sucediendo. Su publicación me ha motivado para encontrar una manera de explicar mejor GLM y GenReg.
Para aclarar, la distribución de la respuesta no es lo que se especifica en el cuadro de diálogo de inicio, al menos no es lo que generalmente pienso como una distribución de respuesta. Es la distribución de observaciones para valores de entrada fijos y parámetros del modelo (es decir, las observaciones condicionales a los predictores) . Clay menciona esto en su charla en la diapositiva 18. Este condicionamiento dice, "no mire la distribución en el rango de entradas sino para un valor de entrada dado" (o vector de valores cuando se trata de entradas múltiples). En mi opinión, esto caracteriza la dispersión, lo que yo llamaría varianza de error. También creo que gran parte de la confusión se debe a que la palabra 'respuesta' se usa no solo para indicar, en general, las observaciones incondicionales observadas, sino también para indicar, en el caso de GLM o GenReg, los valores condicionales observados. Para evitar esta confusión, podría ser más claro dejar caer el adjetivo 'respuesta' cuando se habla de lo posterior.
Adjunto una tabla de datos simulados para ayudar a ilustrar lo que está sucediendo. Digamos que estamos interesados en generar un ejemplo para predecir el número de intentos fallidos necesarios para completar con éxito una tarea en relación con la experiencia de un trabajador. El binomio negativo (NB) es la distribución estándar para contar norte fracasos hasta el r Éxito. La formula en la columna Respuesta media es lo que condicionaremos. Para generar dispersión alrededor de la respuesta media, simularemos variaciones NB aleatorias con parámetros r = 1 (dado como una variable de tabla) y pag (que se calcula utilizando los valores de r, la respuesta media y la fórmula cuadrática). Si nos fijamos en la fórmula para N intenta , verás que es una función de r (un valor fijo) y pag (vía Respuesta media ), un valor que cambia en relación con Años de experiencia , haciéndolo basado en NB múltiples. Puede ver esto si simula una gran cantidad de observaciones para las experiencias de los mismos años, luego ajusta un NB a los datos. Obtiene una estimación de dispersión cercana a 1 (dispersión = 1 / r ) y una estimación media de r * (1- pag ) / pag (la media esperada de un NB). Tenga en cuenta que los valores en Respuesta media y la media del NB son dos cosas diferentes. El primero especifica la relación lineal entre los predictores (incondicionales) y la respuesta después de que se aplica la función de enlace. La última es la media de la dispersión para observaciones condicionadas a valores de entrada fijos. Para el bajo valor de años de experiencia, la diferencia entre Respuesta media y la estimación media de NB puede ser relativamente grande. En cuanto a los residuos, son solo la diferencia entre Respuesta media y N intenta columnas Dado lo que mencioné anteriormente con respecto a cómo N intenta es creado, no es sorprendente que no siga ninguna distribución dada.
Re: Distribuciones en GenRegOlvidé decir que la secuencia de comandos guardada estimará de cerca los valores de los parámetros de Respuesta media usando N Intentos, lo que hará que todo vuelva al círculo completo.