Nominale Logistik vs. GLM mit Binomialverteilung und Logit-FunktionGuten Morgen zusammen,
Ich würde gerne eine Antwort von Ihnen bekommen, um meine Ergebnisse nicht falsch zu interpretieren.
Ich muss eine multivariate Analyse durchführen, um zu beurteilen, ob die Variablen das Ergebnis Krebs vorhersagen können, also eine binäre Antwortvariable (0/1). Mit einem dichotomen Y und mehreren Prädiktoren in meinem Modell habe ich zuerst versucht, a nominelle logistische Regression , aber in diesem Fall habe ich „ instabil ” Schätzungen, daher nicht zuverlässig; in der gleichen Ausgabe habe ich a Wahrscheinlichkeitsverhältnistest signifikant für meine interessierende Variable.
Danach habe ich versucht, stattdessen a GLM-Modell mit Binomialverteilung und Logit-Funktion , Auswahl der Firth-Anpassung (da ich eine Warnung vor quasi-vollständiger Datentrennung bekam). Auf diese Weise habe ich signifikante Schätzungen und p-Werte erhalten.
Nun, ich weiß, dass das Anpassen eines GLM-Modells mit Binomialverteilung und Logit-Link-Funktion eine logistische Regression sein sollte, liege ich falsch? Ich verstehe nicht, warum ich nicht die gleichen Ergebnisse habe, was die Unterschiede sind und vor allem, was ich aus solchen Ergebnissen folgern kann:
- Kann ich dieses Modell (das GLM-Modell) nennen a logistische Regression oder nicht?
- Ich habe das in der Parameterschätztabelle des GLM-Modells gesehen LR ChiQuadrat angezeigt werden, genau wie die LRT, und dass Prob>ChiSq zwischen dem GLM-Modell (vor der Firth-Anpassung) und dem LRT gleich ist. Wie soll ich die Schätzungen meines GLM-Modells interpretieren, beispielsweise die einer logistischen Regression oder eines LRT? Wird keine Firth-Anpassung für die logistische Regression vorgenommen?
- Abschließend, was kann ich daraus schließen, dass nur das GLM-Modell ein signifikantes Ergebnis hat?
Vielen Dank im Voraus
Antony
PS. Beide Modelle könnten schlecht passen, aber das kann ich mit meiner Stichprobengröße tun. Jeder Vorschlag geschätzt
AnalytikBetreff: Nominale Logistik vs. GLM mit Binomialverteilung und Logit-FunktionHallo,
Zunächst einmal würde ich mir Sorgen machen, dass Sie instabile Schätzungen erhalten. Sie sollten etwas daran arbeiten, herauszufinden, warum das so ist. Es ist schwer für mich, nur von Screenshots zu verstehen (und ich bin nicht gut in anderen Sprachen als Englisch
).
Ich habe eine Version des Diabetes-Datensatzes mit gespeicherten Skripten für Modelle der binären Antwort angehängt, die Folgendes verwenden:
- Logistische Regression,
- GLM (binomial mit Logit-Link),
- und GLM mit Firth-Bias-Einstellung.
Sie sehen, dass die Effect Likelihood Ratio Tests für die Modelle 1 und 2 gleich sind. Die Firth-Bias-Anpassung ändert die Statistik wie erwartet.
Sie finden dies in der JMP-Hilfedokumentation:
Firth-Bias-bereinigte Schätzungen
Gibt an, dass die Firth-Bias-adjustierte Methode verwendet wird, um das Modell anzupassen. Es hat sich gezeigt, dass diese auf Maximum Likelihood basierende Methode bessere Schätzungen und Tests liefert als auf Maximum Likelihood basierende Modelle, die keine Bias-Korrektur verwenden. Darüber hinaus mildern bias-korrigierte MLEs Trennungsprobleme, die in der Regel in logistischen Modellen auftreten. Für weitere Informationen zum Separationsproblem bei der logistischen Regression siehe Firth (1993) und Heinze und Schemper (2002).
Ich hoffe das hilft,
Phil
Betreff: Nominale Logistik vs. GLM mit Binomialverteilung und Logit-FunktionHallo,
Danke für die nette Antwort und sorry für die italienischen Screenshots!
Ja, mir ist aufgefallen, dass die Effect Likelihoodratio Tests zwischen Modell 1 und 2 gleich sind. Mir ist auch aufgefallen, dass die p-Werte für Parameterschätzungen in Modell 2 vor der Firth-Anpassung genau gleich sind.
Nach der Anpassung (das kann ich nur ab Modell 2) habe ich ziemlich zuverlässige oder nachvollziehbare Schätzungen, die ich in Modell 1 nicht habe, wo Schätzungen und p-Werte schlecht verständlich sind. In Modell 3 erhalten wir jedoch immer noch die gleichen p-Werte für die Parameterschätzer und Effect-Likelihood-Ratio-Tests. Ich verstehe also nicht, was man über die Parameterschätzungen in Modell 2 oder 3 sagen kann, wenn es ein signifikantes p gibt, noch wenn Modell 2 als Firth-adjustierte logistische Regression bezeichnet werden kann.
Was die Instabilität angeht, erhalte ich vermutlich instabile Schätzungen, weil ich im Vergleich zu den Fällen nur wenige Kontrollen habe, könnte das sein? Das kann ich im Moment nicht korrigieren.
Meine letzte Frage ist also: Was kann ich basierend auf der Ausgabe von Modell 3 bestätigen?
Ich danke dir wirklich,
Antony
Betreff: Nominale Logistik vs. GLM mit Binomialverteilung und Logit-FunktionHallo,
Zunächst ein paar Klarstellungen zu meinem Beispiel:
- Die Modelle 1 und 2 haben denselben p-Wert (und andere Statistiken) für die Likelihood-Quotienten-Tests. Es gibt einige Unterschiede in den Berichten in JMP, aber diese sind im Wesentlichen das gleiche Modell. Logistische Regression und GLM mit Binomialverteilung und Logit-Link sind äquivalent. Die logistische Regression ist ein Sonderfall von GLM.
- Sie können nennen Modell 3 eine logistische Regression mit Firth-Anpassung.
- Modell 3 nicht haben die gleichen p-Werte und Statistiken wie die anderen Modelle. Durch die Verwendung der Firth-Anpassung werden die Schätzungen angepasst (keine Überraschung!).
Ich bin kein Experte für Firth-Anpassung. Tatsächlich habe ich kein wirkliches Verständnis dafür, wie es funktioniert.
So können Sie die Ergebnisse Ihrer Version von Modell 3 melden. Man kann sagen, dass es sich um eine logistische Regression mit Firth-Anpassung handelt. Sie können die p-Werte auf die übliche Weise melden, um das Testen von Hypothesen zu unterstützen. Aber man sollte wohl auch sagen, dass das Modell ohne die Firth-Anpassung instabil war.
Auch hier kann ich nicht sagen, warum das Modell instabil ist. Aber ich kann sagen, dass es ein Problem sein sollte.
Ich würde niemals empfehlen, nur p-Werte aus Modellen als schlüssigen Beweis zu melden. JMP ist eine visuelle Erkundungsumgebung. Bevor ich statistische Modelle anpasse, verwende ich immer Diagramme, um die Qualität der Daten zu überprüfen und das Verhalten in den Daten zu verstehen. In diesem Fall kann Ihnen eine visuelle Untersuchung der Daten helfen, zu verstehen, warum einige Modelle instabil sind.
Betreff: Nominale Logistik vs. GLM mit Binomialverteilung und Logit-FunktionIch habe gerade nach "quasi-vollständige Trennung von Daten" gesucht und bin fündig geworden diese . Dies erklärt, was dies bedeutet und wie es zu instabilen Schätzungen führt. Auch wie die Firth-Anpassung hilft.
Ich habe das Beispiel angehängt, das sie als Datentabelle mit den gleichen 3 Modellen (Logistic, GLM, GLM mit Firth) verwenden, die als Skripte gespeichert sind.
Ich hoffe das hilft.
Phil