Cómo determinar el mayor efecto de las regresiones logísticas ordinalesHola,
Estoy probando los efectos de cuatro variables en un índice de 6 puntos utilizando regresiones logísticas ordinales separadas. Tres de mis variables muestran resultados significativos, pero tengo problemas para evaluar cuál de ellas tiene el mayor efecto en la probabilidad de alcanzar clasificaciones más altas en mi índice.
Estoy publicando mis resúmenes de efectos como referencia. Mi variable (LOG MBL Balances) exhibe el valor logarítmico más alto y el pseudor-cuadrado más alto, pero una estimación de coeficiente ligeramente menor que las otras dos variables. Mis otras dos variables (activos LOG y membresía LOG) muestran resultados muy similares y ambas tienen un valor absoluto más alto para la probabilidad logarítmica promedio que los saldos de MBL.
¿Puedo decir que, dado que LOG MBL muestra un mejor ajuste, sería la variable con el mayor efecto en mi DV a pesar de tener un coeficiente más bajo y un valor absoluto más bajo en la probabilidad logarítmica promedio? ¿O es mejor decir que las tres variables exhiben efectos modestos y similares en mi VD?
PD He ejecutado mis regresiones tanto en JMP 14 como en Eviews 11. ¿Alguien puede decirme por qué los coeficientes se reportan como negativos en JMP mientras que en Eviews se reportan como positivos?
Gracias
Re: Cómo determinar el mayor efecto de las regresiones logísticas ordinalesEl PCA es una herramienta muy útil en el análisis multivariado de datos reales. Las correlaciones son difíciles de evitar. Es de esperar que la PCA por sí sola proporcione alguna idea, como que los activos y la membresía posiblemente sean la expresión de alguna variable latente.
Supongo que por "un Aunque el factor 3 proporciona el valor explicativo más bajo (~12%) "Te refieres al 12% de la variación en el PCA. Tienes razón sobre el factor 3. El hecho de que el factor 1 represente la mayor variación en las variables originales no implica de ninguna manera que sea el predictor más importante. El uso de los tres factores en el modelo proporciona un análisis sólido para separar y probar los efectos.
Re: Cómo determinar el mayor efecto de las regresiones logísticas ordinalesNo quise cuestionar la validez del análisis. La validez depende del diseño del estudio y de la selección de las variables.Sólo estaba advirtiendo contra la práctica a la que a veces se hace referencia como "phishing de valor p". No estoy sugiriendo que estés haciendo phishing. Creo que has demostrado un buen estudio. Solo quiero aclarar mi inquietud.
Permítanme ilustrarlo con un ejemplo extremo. Un estudio ficticio y agresivo reúne cientos de variables según la disponibilidad y prueba cada una de ellas con una respuesta. Se concluye que muchas variables (un gran número, no una proporción) tienen un efecto significativo. Todo lo que ese resultado significa es que se descubrió un patrón de correlación o asociación. Hay muchas preguntas que no pueden responderse con los datos que se utilizaron para obtener ese resultado.
- ¿Es ese resultado simplemente una cuestión de error de tipo I debido al gran número de pruebas de hipótesis?
- ¿Las variables significativas son razonables según la teoría actual?
- ¿Son los resultados otro ejemplo de correlaciones espurias ?
Se deben recopilar nuevos datos para verificar y fortalecer la creencia en los hallazgos iniciales. Los estudios y hallazgos válidos son reproducibles. Si nos saltamos la verificación y nos apresuramos a denunciarlo, entonces probablemente se trate de un caso de phishing.
Entonces, un estudio válido es una exploración planificada, que comienza con una teoría, que considera de antemano la recopilación de datos y los métodos adecuados. Los experimentos diseñados son estudios muy exitosos, aunque no siempre son posibles. Un estudio válido debe intentar obtener evidencia empírica a favor y en contra de la teoría. Esperamos que no haya pruebas en contra de nuestra teoría, pero aún así estamos obligados a buscarlas. No queremos que nadie más lo encuentre por nosotros.
Re: Cómo determinar el mayor efecto de las regresiones logísticas ordinalesRealicé un análisis factorial en el PCA y ejecuté un modelo logístico ordinal utilizando tres factores. He encontrado resultados muy interesantes.
Parece que los activos y la membresía están acoplados como los valores de carga más altos en el factor 1 (con una variación del 47% explicada), los saldos promedio son los más altos en el factor 2 (con ~25% explicado) y las carteras de préstamos son las más altas en el factor 3. .
Aunque el factor 3 proporciona el valor explicativo más bajo (~12%), parece tener la mayor importancia práctica en el modelo. ¿Estaría en lo cierto al interpretar que el factor 3 tiene el mayor efecto práctico en mi VD independientemente del hecho de que sólo explica el 12% de la variación?
Re: Cómo determinar el mayor efecto de las regresiones logísticas ordinalesSí, era particularmente malo cuando el tamaño de los activos y las variables de membresía actual estaban juntas. Afectaría la importancia del modelo y cambiaría el signo de algunos coeficientes. Podría tener un modelo viable si solo probara tres variables (dejando de lado los activos o la membresía), pero sentí que probarlas por separado sería más apropiado para los objetivos de mi investigación en general.
¿Crees que la serie de modelos que he publicado son válidamente interpretables tal como están? (al menos con respecto a los niveles 1-3)
Gracias por el consejo sobre PCA, lo investigaré. ¿Tendría algún enlace rápido o tutorial a mano para hacer lo que mencionó al rotar los componentes más grandes de PCA para usarlos como IV sustituto a través de JMP? No te preocupes si no, ¡esto fue muy útil!
Re: Cómo determinar el mayor efecto de las regresiones logísticas ordinalesGracias por compartir esos detalles. Esa información es útil.
Existen algunas correlaciones fuertes, pero no tan fuertes como para considerarlas redundantes. Entonces, ¿juntarlos en el mismo modelo causó muchos problemas? Son colineales como dijiste, pero eso solo debería inflar la varianza. ¿El problema era de importancia? Puede probar un PCA y luego rotar los componentes más grandes para guardarlos como factores. Podrían ser interpretables cuando se examina la carga y podrían servir como vía intravenosa sustituta evitando al mismo tiempo el problema de colinealidad.
Re: Cómo determinar el mayor efecto de las regresiones logísticas ordinalesEstoy probando el efecto de factores relacionados con la escala en la adopción de servicios empresariales no crediticios entre las cooperativas de crédito. Cada uno de mis IV representa algún aspecto de la escala institucional (tamaño de los activos, membresía total, cartera de préstamos, saldo promedio de los miembros). Los niveles aquí se miden.
Los niveles de mi DV se construyen como un índice utilizando información sobre la prestación de servicios comerciales de cada cooperativa de crédito; los niveles más altos reflejan tipos más avanzados de servicios empresariales.
Aquí está mi matriz multivariada.
Re: Cómo determinar el mayor efecto de las regresiones logísticas ordinales¿Cómo se seleccionaron los IV para el estudio? ¿Cómo se determinaron los niveles? ¿Se establecieron (por ejemplo, niveles de factores) o se midieron (por ejemplo, covariables)?
¿Cuál es la correlación en el IV? ¿Puedes mostrar la plataforma Multivariante con la matriz de correlaciones y los diagramas de dispersión?
El problema es que si las correlaciones son altas, entonces este conjunto de datos no puede evaluar los efectos del IV de forma independiente. Los datos no se pueden utilizar para decir cuál tuvo el efecto.
Sí, la pendiente negativa significa que la probabilidad cambia del nivel más bajo al nivel más alto a medida que aumenta el nivel del predictor.
Re: Cómo determinar el mayor efecto de las regresiones logísticas ordinalesEl objetivo de mi investigación es evaluar los efectos respectivos de cada una de estas variables. Si los resultados son redundantes, ¿hay alguna otra forma de hacerlo, quizás otro tipo de modelo? ¿O me veo obligado a elegir solo uno?
Con una curva logística de pendiente negativa, ¿puedo decir que la magnitud del efecto está en la dirección deseada (que los aumentos en mi IV están asociados con mayores probabilidades de niveles más altos?).
Re: Cómo determinar el mayor efecto de las regresiones logísticas ordinalesNo podemos utilizar criterios de información, como el AICc, para evaluar la significancia. Son más bien una declaración probabilística. Cuanto menor sea el AICc, mayor será la probabilidad de los parámetros, dados los datos fijos, con una penalización por la complejidad del modelo. La penalización es la misma para todos los modelos candidatos, por lo que la diferencia es enteramente la probabilidad.
Si están altamente correlacionados, entonces son redundantes. (No hay información independiente) ¿Puedes elegir uno de la teoría o el conocimiento previo?
¿Están establecidos o medidos los niveles de predictor?
Las curvas logísticas en el gráfico muestran una disminución en la probabilidad de cada uno de los niveles ordinales a medida que aumentan los niveles del predictor. La pendiente es negativa. La regresión logística ordinal utiliza logits acumulativos. Las probabilidades no se refieren a un nivel frente a otro, sino a sumas de logits frente a otras sumas. Podría utilizar el logit generalizado en un análisis de regresión logística nominal si esa forma de probabilidades es más significativa o útil.
Podría intentar agregar el cuadrado del IV al modelo y comparar AICc para decidir si hay una mejora. La respuesta (logit) podría no ser lineal.
Re: Cómo determinar el mayor efecto de las regresiones logísticas ordinalesGracias por la respuesta,
Entiendo que cada una de mis tres variables es estadísticamente significativa y que parecen tener un efecto práctico modesto en mi VD. ¿Se refiere la AICc en este caso principalmente a la importancia práctica? ¿El AICc más amplio tendrá una importancia práctica más amplia?
Sí, las variables parecen estar asociadas entre sí. Los estoy probando individualmente porque cada uno muestra una alta multicolinealidad entre sí, por lo que cuando los pruebo juntos mis resultados están muy distorsionados.
¿Podrías hablar un poco más sobre lo que significa que la curva logística tiene pendiente descendente? ¿Es esto lo mismo que decir que los cambios de unidad en mi IV disminuyen las probabilidades de terminar en el nivel 1 (y, por lo tanto, mayores probabilidades de terminar en niveles más altos)?
Re: Cómo determinar el mayor efecto de las regresiones logísticas ordinalesPuede haber confusión sobre la significación práctica (tamaño del efecto) y la significación estadística (valor p pequeño). Usaría AICc para seleccionar un modelo y luego usaría información sobre el modelo seleccionado para evaluar el predictor.
También corre un mayor riesgo de cometer un mayor error de tipo I al probar los predictores individualmente. En este caso sólo hay unos pocos predictores, pero en otra situación podrían haber muchos.
¿Intentó hacer una regresión de un modelo con todos los predictores en lugar de modelos individuales?
¿Están estos predictores asociados entre sí? Es interesante que produzcan resultados de regresión tan similares.
Tienes un nivel 3 escaso y un nivel 4 muy escaso, así que ten cuidado con la interpretación.
No estoy familiarizado con Eviews y no lo apoyo, pero quizás otro miembro de la comunidad pueda responder esta pregunta. Puede ver en los gráficos de mosaico que la curva logística tiene pendiente hacia abajo, de ahí el coeficiente negativo para el predictor.
