La régression logistique peut-elle estimer les paramètres du modèle d'origine à partir de données simulées?<meta http-equiv="Content-Type" content="text/html; charset=UTF-8" />Je suis nouveau sur JMP et la régression logistique, et je voudrais tester l'estimation des paramètres du modèle à l'aide de la régression logistique. J'ai simulé des données de réponse catégorique à partir de paramètres de modèle (bêtas) que j'ai mis dans la simulation. J'ai inclus tous les différents types de variables indépendantes; nominal, ordinal et continu, dans le modèle. Ensuite, j'ai généré chaque variable indépendante à l'aide d'un générateur de nombres aléatoires, calculé la probabilité de la réponse pour chaque instance de variable indépendante générée aléatoirement, puis généré la variable de réponse (1 ou 0) en fonction de la probabilité calculée de la variable de réponse. J'ai répété cela jusqu'à ce que j'aie un grand nombre de points de données (chaque «point» de données étant - une instance de toutes les variables indépendantes et la variable de réponse correspondante) que j'ai introduite dans l'analyse de régression logistique. Mes questions sont:
1 Puis-je m'attendre à ce que la régression logistique estime les Betas d'origine?
2. Les estimations devraient-elles s'approcher asymptotiquement des vraies valeurs des bêtas (que j'ai utilisées pour générer les données) lorsque j'augmente le nombre de points de données?
3. Que se passe-t-il dans le cas de la variable nominale estimée par la méthode des variables muettes dans la régression logistique? J'ai une variable indépendante qui prend 3 valeurs nominales, pour lesquelles j'ai utilisé 3 valeurs correspondantes de Betas pour générer les données simulées. La sortie de l'analyse de régression propose deux bêtas, et la troisième valeur est négative de la somme de ces deux (si je comprends bien la méthode).
Toute aide pour développer cette compréhension sera appréciée.
Merci d'avance.
Re: La régression logistique peut-elle estimer les paramètres du modèle d'origine à partir de données simulées?Ici, je me répond. Mais, j'ai fait un certain nombre de simulations et voici ce que j'ai découvert. Si je simule des données avec des coefficients variables catégoriques (bêtas) dont le DOF est supposé par JMP, je dois attribuer des valeurs de N coefficients variables simulés, a1, a2, a3 .... aN comme [a1, a2, a3 ... aN = - (a1 + a2 + a3 ... a (N-1)]. Dans ce cas, les valeurs d'origine sont correctement estimées en exécutant la régression logistique sur les données simulées. Si je n'utilise pas le dernier coefficient aN selon la contrainte: aN = - (a1 + a2 + a3 ... a (N-1), et que je lui attribue simplement une valeur arbitrairement différente, alors les estimations de coefficient estimées sont différentes que les valeurs d'origine. Mais, les bêtas estimés donnent les valeurs de probabilité qui sont les mêmes que les probabilités calculées à partir des valeurs bêta d'origine.
Re: La régression logistique peut-elle estimer les paramètres du modèle d'origine à partir de données simulées?Sectio 11.5.2 en discute un peu, spécialement p. 217 où je note que les estimations des paramètres ne sont pas uniques. Cependant, si vous utilisez un modèle de simulation qui correspond au paramétrage de l'analyse (comme je le fais à la p. 216-217), vous pouvez souvent vérifier que votre simulation est correcte.
Re: La régression logistique peut-elle estimer les paramètres du modèle d'origine à partir de données simulées?Merci. J'ai regardé la section 12.2.2 de votre livre. Cette simulation dans l'exemple contient des variables continues, pour lesquelles les bêtas sont estimés. Ma question concerne les variables nominales qui sont implémentées en tant que variables fictives. Ainsi, si une variable prend A1, A2 et A3 comme valeurs possibles, avec les coefficients b1, b2 et b3, par exemple, seules les interceptions et b1 et b2 correspondant aux variables fictives sont crachées par JMP. Comment puis-je convertir ces estimations pour les comparer à l'orignal b1, b2 et b3 que j'ai utilisé pour simuler les données?
Re: La régression logistique peut-elle estimer les paramètres du modèle d'origine à partir de données simulées?1) Oui, de façon générique.
2) Oui.
3) Cela dépend de la paramétrisation, mais le niveau de référence est généralement combiné avec l'estimation d'interception.
Pour plus d'informations sur ce sujet, voir le chapitre 11-12 dans Simulation de données avec SAS , en particulier la section 12.2.2.
Pour une discussion sur les paramétrisations des effets, voir Guide de l'utilisateur SAS / STAT (R) 12.3
Re: La régression logistique peut-elle estimer les paramètres du modèle d'origine à partir de données simulées?Concernant la troisième question, vous essayez de déterminer le coefficient de 2 variables ensemble, revenons donc au problème initial de la covariance.
Re: La régression logistique peut-elle estimer les paramètres du modèle d'origine à partir de données simulées?Merci. Je n'ai utilisé aucune interaction entre aucune des variables indépendantes. Chaque IV est indépendant des autres.
Votre réponse me donne une chose à essayer. Je vais simuler les données avec une variable et voir si au moins cela me permet d'estimer ma "vraie" bêta à partir des données simulées.
Avez-vous des suggestions concernant ma troisième question sur l'interprétation des variables muettes utilisées à la place des variables nominales?
Re: La régression logistique peut-elle estimer les paramètres du modèle d'origine à partir de données simulées?Je voudrais dire non, car vous ne pouvez pas tenir compte de la covariance entre les variables, mais mes connaissances en statistiques sont très floues aujourd'hui.
Cependant, en règle générale, si votre modèle comporte plusieurs paramètres à la fois ou des termes d'interaction, vous ne pourrez peut-être pas recréer vos versions bêta.
Si vous le faites une variable (univariée) à la fois peut-être.
