Comment déterminer le plus grand effet pour les régressions logistiques ordinalesBonjour,
Je teste les effets de quatre variables sur un indice à 6 points en utilisant des régressions logistiques ordinales distinctes. Trois de mes variables montrent des résultats significatifs, mais j'ai du mal à évaluer laquelle d'entre elles a le plus grand effet sur la probabilité d'atteindre des rangs plus élevés sur mon indice.
Je publie mes résumés d'effets pour référence. Ma variable (LOG MBL Balances) présente la valeur log la plus élevée et le pseudo r carré le plus élevé, mais une estimation de coefficient légèrement inférieure à celle des deux autres variables. Mes deux autres variables (actifs LOG et adhésion au LOG) présentent des résultats très similaires et toutes deux ont une valeur absolue plus élevée pour la vraisemblance log moyenne que les soldes MBL.
Suis-je en mesure de dire que, puisque LOG MBL présente un meilleur ajustement, ce serait la variable ayant le plus grand effet sur mon DV malgré un coefficient plus faible et une valeur absolue plus faible sur la log-vraisemblance moyenne ? Ou vaut-il mieux dire que les trois variables présentent des effets similaires et modestes sur ma DV ?
PS J'ai exécuté mes régressions dans JMP 14 et Eviews 11. Quelqu'un peut-il me dire pourquoi les coefficients sont signalés comme négatifs dans JMP alors que dans Eviews, ils sont signalés comme positifs ?
Merci
Re : Comment déterminer le plus grand effet pour les régressions logistiques ordinalesLa PCA est un outil très utile dans l’analyse multivariée de données réelles. Les corrélations sont difficiles à éviter. Espérons que l'APC à elle seule fournisse certaines informations, telles que les actifs et l'adhésion, éventuellement l'expression d'une variable latente.
Je suppose que par "un bien que le facteur 3 fournisse la valeur explicative la plus faible (à ~12 %) " vous voulez dire 12 % de la variance du PCA. Vous avez raison pour le facteur 3. Le fait que le facteur 1 représente la plus grande variation des variables d’origine n’implique en aucun cas qu’il s’agisse du prédicteur le plus important. L’utilisation des trois facteurs dans le modèle fournit une analyse solide pour séparer et tester les effets.
Re : Comment déterminer le plus grand effet pour les régressions logistiques ordinalesJe ne voulais pas remettre en question la validité de l’analyse. La validité dépend de la conception de l'étude et de la sélection des variables.Je mettais seulement en garde contre la pratique parfois appelée « phishing à valeur p ». Je ne dis pas que vous faites du phishing. Je pense que vous avez démontré une bonne étude. Je veux juste clarifier ma préoccupation.
Permettez-moi d'illustrer avec un exemple extrême. Une étude fictive et agressive rassemble des centaines de variables en fonction de leur disponibilité et teste chacune d'elles par rapport à une réponse. De nombreuses variables (un grand nombre et non une proportion) semblent avoir un effet significatif. Tout ce résultat signifie qu’un modèle de corrélation ou d’association a été découvert. Il existe de nombreuses questions auxquelles les données utilisées pour obtenir ce résultat ne peuvent répondre.
- Ce résultat est-il simplement une question d’erreur de type I due au grand nombre de tests d’hypothèses ?
- Les variables significatives sont-elles raisonnables sur la base de la théorie actuelle ?
- Les résultats sont-ils un autre exemple de corrélations parasites ?
De nouvelles données doivent être collectées pour vérifier et renforcer la confiance dans les premiers résultats. Les études et les résultats valides sont reproductibles. Si nous ignorons la vérification et nous précipitons pour le signaler, il s’agit probablement d’un cas de phishing.
Une étude valide est donc une exploration planifiée, commençant par une théorie, qui considère au préalable la collecte de données et les méthodes appropriées. Les expériences planifiées sont des études très réussies, même si elles ne sont pas toujours possibles. Une étude valide doit tenter d’obtenir des preuves empiriques pour et contre la théorie. Nous espérons qu’il n’existe aucune preuve contre notre théorie, mais nous sommes quand même obligés de la rechercher. Nous ne voulons pas que quelqu'un d'autre le trouve à notre place.
Re : Comment déterminer le plus grand effet pour les régressions logistiques ordinalesJ'ai effectué une analyse factorielle sur la PCA et exécuté un modèle logistique ordinal utilisant trois facteurs. J'ai découvert des résultats très intéressants.
Il semble que les actifs et l'adhésion soient couplés en tant que valeurs de chargement les plus élevées sur le facteur 1 (avec une variation de 47 % expliquée), que les soldes moyens sont les plus élevés sur le facteur 2 (avec environ 25 % expliqués) et que les portefeuilles de prêts sont les plus élevés sur le facteur 3. .
Bien que le facteur 3 fournisse la valeur explicative la plus faible (environ 12 %), il semble avoir la plus grande importance pratique dans le modèle. Aurais-je raison d'interpréter le facteur 3 comme ayant le plus grand effet pratique sur ma DV, même s'il n'explique que 12 % de la variation ?
Re : Comment déterminer le plus grand effet pour les régressions logistiques ordinalesOui, c’était particulièrement mauvais lorsque la taille de l’actif et les variables d’adhésion actuelle étaient réunies. Cela perturberait la signification du modèle et modifierait le signe de certains coefficients. Je pourrais avoir un modèle réalisable si je ne testais que trois variables (en omettant les actifs ou l'adhésion), mais j'avais l'impression que les tester séparément serait plus approprié pour mes objectifs de recherche en général.
Pensez-vous que la série de modèles que j'ai publiée est valablement interprétable telle quelle ? (au moins en ce qui concerne les niveaux 1 à 3)
Merci pour le conseil concernant PCA, je vais y réfléchir. Auriez-vous un lien rapide ou un didacticiel à portée de main pour faire ce que vous avez mentionné en faisant pivoter les plus gros composants de PCA pour les utiliser comme substitut IV via JMP ? Pas de soucis sinon, cela a été très utile !
Re : Comment déterminer le plus grand effet pour les régressions logistiques ordinalesMerci d'avoir partagé ces détails. Ces informations sont utiles.
Il existe de fortes corrélations, mais pas au point de qualifier ces IV de redondantes. Donc les réunir dans un même modèle a posé beaucoup de problèmes ? Ils sont colinéaires comme vous l'avez dit mais cela ne devrait que gonfler la variance. Le problème était-il significatif ? Vous pouvez essayer une PCA, puis faire pivoter les composants les plus gros pour les enregistrer en tant que facteurs. Ils peuvent être interprétables lorsque vous examinez le chargement et ils peuvent servir de substitut IV tout en évitant le problème de colinéarité.
Re : Comment déterminer le plus grand effet pour les régressions logistiques ordinalesJe teste l'effet de facteurs liés à l'échelle sur l'adoption de services commerciaux hors prêts parmi les coopératives de crédit. Mes IV représentent chacun un aspect de l'échelle institutionnelle (taille de l'actif, nombre total de membres, portefeuille de prêts, solde moyen des membres). Les niveaux ici sont mesurés.
Les niveaux de ma DV sont construits sous forme d'index en utilisant des informations sur la fourniture de services aux entreprises de chaque coopérative de crédit ; les niveaux plus élevés reflètent des types de services aux entreprises plus avancés.
Voici ma matrice multivariée
Re : Comment déterminer le plus grand effet pour les régressions logistiques ordinalesComment les IV ont-elles été sélectionnées pour l’étude ? Comment les niveaux ont-ils été déterminés ? Ont-ils été définis (par exemple, niveaux de facteurs) ou mesurés (par exemple, covariables) ?
Quelle est la corrélation dans le IV ? Pouvez-vous montrer la plateforme multivariée avec la matrice de corrélations et les nuages de points ?
Le problème est que si les corrélations sont élevées, cet ensemble de données ne peut pas évaluer les effets de l’IV de manière indépendante. Les données ne peuvent pas être utilisées pour dire laquelle a eu l’effet.
Oui, la pente négative signifie que la probabilité passe du niveau le plus bas au niveau le plus élevé à mesure que le niveau du prédicteur augmente.
Re : Comment déterminer le plus grand effet pour les régressions logistiques ordinalesMon objectif de recherche est d'évaluer les effets respectifs de chacune de ces variables. Si les résultats sont redondants, existe-t-il un autre moyen de procéder, peut-être un autre type de modèle ? Ou suis-je obligé de n’en choisir qu’un ?
Avec une courbe logistique à pente négative, suis-je capable de dire que l'ampleur de l'effet va dans la direction souhaitée (que les augmentations de ma IV sont associées à des probabilités accrues de niveaux plus élevés ?).
Re : Comment déterminer le plus grand effet pour les régressions logistiques ordinalesNous ne pouvons pas utiliser des critères d'information, tels que l'AICc, pour évaluer l'importance. Il s’agit plutôt d’une déclaration probabiliste. Plus l'AICc est petit, plus la probabilité des paramètres est grande, compte tenu des données fixes, avec une pénalité pour la complexité du modèle. La pénalité est la même pour tous vos modèles candidats, la différence réside donc entièrement dans la probabilité.
S’ils sont fortement corrélés, ils sont alors redondants. (Aucune information indépendante) Pouvez-vous en choisir une parmi une théorie ou des connaissances antérieures ?
Les niveaux de prédicteurs sont-ils définis ou mesurés ?
Les courbes logistiques du graphique montrent une diminution de la probabilité de chacun des niveaux ordinaux à mesure que les niveaux des prédicteurs augmentent. La pente est négative. La régression logistique ordinale utilise des logits cumulatifs. Les probabilités ne concernent pas un niveau par rapport à un autre, mais des sommes de logits par rapport à d'autres sommes. Vous pouvez utiliser le logit généralisé dans une analyse de régression logistique nominale si cette forme de cote est plus significative ou utile.
Vous pouvez essayer d'ajouter le carré du IV au modèle et comparer l'AICc pour décider s'il y a une amélioration. La réponse (logit) peut ne pas être linéaire.
Re : Comment déterminer le plus grand effet pour les régressions logistiques ordinalesMerci pour la réponse,
Je comprends que chacune de mes trois variables est statistiquement significative et qu'elles semblent avoir un effet pratique modeste sur ma DV. L’AICc se réfère-t-elle principalement à une signification pratique dans ce cas ? L’AICc plus large aura-t-il une signification pratique plus grande ?
Oui, les variables semblent effectivement associées les unes aux autres. Je les teste individuellement car ils présentent chacun une multicolinéarité élevée les uns avec les autres, donc lorsque je les essaie ensemble, mes résultats sont très déformés.
Pourriez-vous nous expliquer un peu plus ce que signifie que la courbe logistique est descendante ? Est-ce la même chose que de dire que les changements d'unités dans mon IV diminuent les chances de se retrouver au niveau 1 (et donc les chances plus élevées de se retrouver dans des niveaux supérieurs) ?
Re : Comment déterminer le plus grand effet pour les régressions logistiques ordinalesIl pourrait y avoir une confusion entre la signification pratique (taille de l’effet) et la signification statistique (faible valeur p). J'utiliserais AICc pour sélectionner un modèle, puis j'utiliserais les informations sur le modèle sélectionné pour évaluer le prédicteur.
Vous courez également un risque plus élevé d’erreur de type I plus élevée en testant les prédicteurs individuellement. Il n’y a que quelques prédicteurs dans ce cas, mais dans une autre situation, il pourrait y en avoir plusieurs.
Avez-vous essayé de régresser un modèle avec tous les prédicteurs au lieu de modèles individuels ?
Ces prédicteurs sont-ils associés les uns aux autres ? Il est intéressant de noter qu’ils produisent des résultats de régression aussi similaires.
Vous avez un niveau 3 clairsemé et un niveau 4 très clairsemé, alors soyez prudent avec l'interprétation.
Je ne connais pas Eviews et je ne le soutiens pas, mais peut-être qu'un autre membre de la communauté pourra répondre à cette question. Vous pouvez voir sur les tracés en mosaïque que la courbe logistique est inclinée vers le bas, d'où le coefficient négatif pour le prédicteur.
