Kann die logistische Regression die ursprünglichen Modellparameter aus simulierten Daten schätzen?<meta http-equiv="Content-Type" content="text/html; charset=UTF-8" />Ich bin neu in JMP und Logistic Regression und möchte die Schätzung von Modellparametern mithilfe von Logistic Regression testen. Ich habe kategoriale Antwortdaten aus Modellparametern (Betas) simuliert, die ich in die Simulation eingefügt habe. Ich habe alle Arten von unabhängigen Variablen aufgenommen. nominal, ordinal und stetig im Modell. Dann habe ich jede unabhängige Variable unter Verwendung eines Zufallszahlengenerators generiert, die Wahrscheinlichkeit der Antwort für jede Instanz einer zufällig generierten unabhängigen Variablen berechnet und dann die Antwortvariable (1 oder 0) in Abhängigkeit von der berechneten Wahrscheinlichkeit der Antwortvariablen generiert. Ich wiederholte dies, bis ich eine große Anzahl von Datenpunkten hatte (jeder Datenpunkt war - eine Instanz aller unabhängigen Variablen und die entsprechende Antwortvariable), die ich in die logistische Regressionsanalyse eingespeist hatte. Meine Fragen sind:
1 Kann ich erwarten, dass die logistische Regression die ursprünglichen Betas schätzt?
2. Sollten sich die Schätzungen asymptotisch den wahren Werten von Betas (die ich zur Generierung der Daten verwendet habe) nähern, wenn ich die Anzahl der Datenpunkte erhöhe?
3. Was passiert bei der Nominalvariablen, die nach der Dummy-Variablenmethode in Logistic Regression geschätzt wird? Ich habe eine unabhängige Variable, die 3 Nennwerte annimmt, für die ich 3 entsprechende Betas-Werte verwendet habe, um die simulierten Daten zu generieren. Die Ausgabe der Regressionsanalyse ergibt zwei Betas, und der dritte Wert ist negativ aus der Summe dieser beiden (wenn ich die Methode richtig verstehe).
Jede Hilfe bei der Entwicklung dieses Verständnisses wird geschätzt.
Danke im Voraus.
Betreff: Kann die logistische Regression die ursprünglichen Modellparameter aus simulierten Daten schätzen?Hier antworte ich mir. Aber ich habe eine Reihe von Simulationen durchgeführt und hier ist, was ich herausgefunden habe. Wenn ich Daten mit kategorialen variablen Koeffizienten (Betas) simuliere, deren DOF von JMP angenommen wird, muss ich Werte von N simulierten variablen Koeffizienten a1, a2, a3 ... aN als [a1, a2, a3 ... aN zuweisen = - (a1 + a2 + a3 ... a (N-1)]. In diesem Fall werden die ursprünglichen Werte korrekt geschätzt, indem die logistische Regression für die simulierten Daten ausgeführt wird. Wenn ich den letzten Koeffizienten aN nicht gemäß der Bedingung verwende: aN = - (a1 + a2 + a3 ... a (N-1) und ihm nur einen willkürlich anderen Wert zuweisen, sind die geschätzten Koeffizientenschätzungen unterschiedlich als die ursprünglichen Werte. Die geschätzten Betas ergeben jedoch die Wahrscheinlichkeitswerte, die den aus den ursprünglichen Beta-Werten berechneten Wahrscheinlichkeiten entsprechen.
Betreff: Kann die logistische Regression die ursprünglichen Modellparameter aus simulierten Daten schätzen?In Abschnitt 11.5.2 wird dies ein wenig erörtert, insbesondere p. 217 wo ich bemerke, dass die Parameterschätzungen nicht eindeutig sind. Wenn Sie jedoch ein Simulationsmodell verwenden, das der Parametrisierung der Analyse entspricht (wie auf S. 216-217), können Sie häufig überprüfen, ob Ihre Simulation korrekt ist.
Betreff: Kann die logistische Regression die ursprünglichen Modellparameter aus simulierten Daten schätzen?Vielen Dank. Ich habe in Abschnitt 12.2.2 Ihres Buches nachgesehen. Diese Simulation im Beispiel enthält kontinuierliche Variablen, für die die Betas geschätzt werden. Meine Frage betrifft nominale Variablen, die als Dummy-Variablen implementiert sind. Wenn also eine Variable A1, A2 und A3 als mögliche Werte annimmt, beispielsweise mit den Koeffizienten b1, b2 und b3, werden nur der Achsenabschnitt und b1 und b2, die den Dummy-Variablen entsprechen, von JMP ausgespuckt. Wie konvertiere ich diese Schätzungen, um sie mit dem Original b1, b2 und b3 zu vergleichen, mit dem ich die Daten simuliert habe?
Betreff: Kann die logistische Regression die ursprünglichen Modellparameter aus simulierten Daten schätzen?1) Ja, generisch.
2) Ja.
3) Dies hängt von der Parametrisierung ab, aber der Referenzpegel wird normalerweise mit der Schnittschätzung kombiniert.
Weitere Informationen zu diesem Thema finden Sie in Kapitel 11-12 in Daten mit SAS simulieren , insbesondere Abschnitt 12.2.2.
Eine Diskussion der Effektparametrisierungen finden Sie unter SAS / STAT (R) 12.3 Benutzerhandbuch
Betreff: Kann die logistische Regression die ursprünglichen Modellparameter aus simulierten Daten schätzen?Zu der dritten Frage versuchen Sie, den Koeffizienten von 2 Variablen zusammen zu bestimmen, also zurück zum ursprünglichen Problem der Kovarianz.
Betreff: Kann die logistische Regression die ursprünglichen Modellparameter aus simulierten Daten schätzen?Vielen Dank. Ich habe keine Interaktion zwischen den unabhängigen Variablen verwendet. Jede IV ist unabhängig von anderen.
Ihre Antwort gibt mir eine Sache zu versuchen. Ich werde die Daten mit einer Variablen simulieren und prüfen, ob ich damit zumindest meine "wahre" Beta aus den simulierten Daten abschätzen kann.
Irgendwelche Vorschläge zu meiner dritten Frage zur Interpretation der Dummy-Variablen, die anstelle der nominalen Variablen verwendet werden?
Betreff: Kann die logistische Regression die ursprünglichen Modellparameter aus simulierten Daten schätzen?Ich möchte nein sagen, weil Sie die Kovarianz zwischen den Variablen nicht erklären können, aber mein Statistikwissen ist heute sehr verschwommen.
Im Allgemeinen können Sie Ihre Beta-Versionen möglicherweise nicht neu erstellen, wenn Ihr Modell mehrere Parameter gleichzeitig oder Interaktionsbegriffe enthält.
Wenn Sie es tun, wird möglicherweise jeweils eine Variable (univariate) verwendet.
