Nominale Logistik vs. GLM mit Binomialverteilung und Logit-FunktionGuten Morgen allerseits,
Ich würde gerne eine Antwort von Ihnen erhalten, um meine Ergebnisse nicht falsch zu interpretieren.
Ich muss eine multivariate Analyse durchführen und beurteilen, ob die Variablen das Ergebnis Krebs vorhersagen können, also eine binäre Antwortvariable (0/1). Mit einem dichotomen Y und mehreren Prädiktoren in meinem Modell habe ich zunächst versucht, a zu verwenden nominale logistische Regression , aber in diesem Fall bekam ich „ instabil „Schätzungen, daher nicht zuverlässig; in der gleichen Ausgabe bekam ich eine Wahrscheinlichkeitsverhältnistest von Bedeutung für meine interessierende Variable.
Danach habe ich stattdessen versucht, einen zu montieren GLM-Modell mit Binomialverteilung und Logit-Funktion , Auswahl der Fünfte Anpassung (da ich eine Warnung vor einer quasi vollständigen Datentrennung erhalten habe). Auf diese Weise habe ich signifikante Schätzungen und p-Werte erhalten.
Nun weiß ich, dass die Anpassung eines GLM-Modells mit Binomialverteilung und Logit-Link-Funktion eine logistische Regression sein sollte, irre ich mich? Ich verstehe nicht, warum ich nicht die gleichen Ergebnisse habe, was die Unterschiede sind und was am wichtigsten ist, was ich aus solchen Ergebnissen schließen kann:
- Kann ich dieses Modell (das GLM-Modell) als a bezeichnen? logistische Regression oder nicht?
- Ich habe das in der Parameterschätzungstabelle des GLM-Modells gesehen LR ChiSquare werden angezeigt, genau wie beim LRT, und dass Prob>ChiSq zwischen dem GLM-Modell (vor Firth-Anpassung) und dem LRT gleich ist. Wie soll ich die Schätzungen meines GLM-Modells interpretieren, beispielsweise die einer logistischen Regression oder einer LRT? Ist die Firth-Anpassung nicht für die logistische Regression vorgesehen?
- Was kann ich abschließend davon ableiten, dass ich nur mit dem GLM-Modell ein signifikantes Ergebnis erhalte?
Vielen Dank im Voraus
Antonius
PS. Beide Modelle könnten schlecht passen, aber das kann ich mit meiner Stichprobengröße machen. Jeder Vorschlag ist willkommen
Datenexploration und -visualisierungBetreff: Nominale Logistik vs. GLM mit Binomialverteilung und Logit-FunktionVielen Dank!Betreff: Nominale Logistik vs. GLM mit Binomialverteilung und Logit-FunktionIch habe gerade nach „quasi-vollständiger Datentrennung“ gesucht und gefunden Das . Dies erklärt, was dies bedeutet und wie es zu instabilen Schätzungen führt. Auch wie die Firth-Anpassung hilft.
Ich habe das Beispiel angehängt, das sie als Datentabelle mit denselben drei Modellen (Logistik, GLM, GLM mit Firth) verwenden, die als Skripte gespeichert sind.
Ich hoffe das hilft.
Phil
Betreff: Nominale Logistik vs. GLM mit Binomialverteilung und Logit-FunktionHallo,
Zunächst ein paar Klarstellungen zu meinem Beispiel:
- Die Modelle 1 und 2 haben den gleichen p-Wert (und andere Statistiken) für die Likelihood-Ratio-Tests. Es gibt einige Unterschiede in den Berichten in JMP, es handelt sich jedoch im Wesentlichen um dasselbe Modell. Logistische Regression und GLM mit Binomialverteilung und Logit-Link sind gleichwertig. Die logistische Regression ist ein Sonderfall von GLM.
- Du dürfen Nennen Sie Modell 3 eine logistische Regression mit Firth-Anpassung.
- Modell 3 nicht haben die gleichen p-Werte und Statistiken wie die anderen Modelle. Durch die Verwendung der Firth-Anpassung werden die Schätzungen angepasst (keine Überraschung!).
Ich bin kein Experte für Firth Adjustment. Tatsächlich habe ich kein wirkliches Verständnis dafür, wie es funktioniert.
So können Sie die Ergebnisse Ihrer Version von Modell 3 melden. Man kann sagen, dass es sich um eine logistische Regression mit Firth-Anpassung handelt. Sie können die p-Werte zur Unterstützung des Hypothesentests auf die übliche Weise melden. Man sollte aber wahrscheinlich auch sagen, dass das Modell ohne die Firth-Anpassung instabil war.
Auch hier kann ich nicht sagen, warum das Modell instabil ist. Aber ich kann sagen, dass es Anlass zur Sorge geben sollte.
Ich würde niemals empfehlen, nur p-Werte von Modellen als schlüssige Beweise anzugeben. JMP ist eine visuelle Erkundungsumgebung. Bevor ich statistische Modelle anpasse, verwende ich immer Diagramme, um die Qualität der Daten zu überprüfen und das Verhalten in den Daten zu verstehen. In diesem Fall könnte Ihnen eine visuelle Untersuchung der Daten helfen, zu verstehen, warum einige Modelle instabil sind.
Betreff: Nominale Logistik vs. GLM mit Binomialverteilung und Logit-FunktionHallo,
Vielen Dank für die freundliche Antwort und entschuldigen Sie die italienischen Screenshots!
Ja, mir ist aufgefallen, dass die Effect Likelihoodratio-Tests zwischen Modell 1 und 2 gleich sind. Mir ist auch aufgefallen, dass die p-Werte für Parameterschätzungen in Modell 2 vor der Firth-Anpassung genau gleich sind.
Nach der Anpassung (das kann ich nur mit Modell 2 machen) habe ich ziemlich zuverlässige oder nachvollziehbare Schätzungen, was bei Modell 1 nicht der Fall ist, wo Schätzungen und p-Werte schlecht verständlich sind. Aber in Modell 3 erhalten wir immer noch die gleichen p-Werte für die Parameterschätzungen und die Tests des Effekt-Likelihood-Verhältnisses. Daher verstehe ich nicht, was man über die Parameterschätzungen in Modell 2 oder 3 sagen kann, wenn es ein signifikantes p gibt und auch nicht, ob Modell 2 als Firth-bereinigte logistische Regression bezeichnet werden kann.
Was die Instabilität angeht, nehme ich an, dass ich instabile Schätzungen erhalte, weil ich im Vergleich zu Fällen nur wenige Kontrollen habe. Könnte das sein? Das kann ich im Moment nicht korrigieren.
Meine letzte Frage lautet also: Was kann ich basierend auf den Ergebnissen von Modell 3 bestätigen?
Ich danke dir wirklich,
Antonius
Betreff: Nominale Logistik vs. GLM mit Binomialverteilung und Logit-FunktionHallo,
Zunächst einmal würde ich mir Sorgen machen, dass Sie instabile Schätzungen erhalten. Sie sollten etwas daran arbeiten, herauszufinden, warum das so ist. Es fällt mir schwer, es allein anhand von Screenshots zu verstehen (und ich bin nicht gut in anderen Sprachen als Englisch
).
Ich habe eine Version des Diabetes-Datensatzes mit gespeicherten Skripten für Modelle der binären Antwort angehängt, die Folgendes verwenden:
- Logistische Regression,
- GLM (binomial mit Logit-Link),
- und GLM mit Firth-Bias-Anpassung.
Sie können sehen, dass die Effekt-Likelihood-Ratio-Tests für die Modelle 1 und 2 gleich sind. Die Firth-Bias-Anpassung verändert die Statistiken wie erwartet.
Dies finden Sie in der JMP-Hilfedokumentation:
Firth Bias-bereinigte Schätzungen
Gibt an, dass die voreingenommene Firth-Methode zur Anpassung des Modells verwendet wird. Es hat sich gezeigt, dass diese auf maximaler Wahrscheinlichkeit basierende Methode bessere Schätzungen und Tests liefert als auf auf maximaler Wahrscheinlichkeit basierende Modelle, die keine Bias-Korrektur verwenden. Darüber hinaus verbessern voreingenommene MLEs Trennungsprobleme, die in logistischen Modellen häufig auftreten. Weitere Informationen zum Trennungsproblem bei der logistischen Regression finden Sie bei Firth (1993) und Heinze und Schemper (2002).
Ich hoffe das hilft,
Phil