Normalitätsannahme bei der Anpassung der kleinsten QuadrateHallo,
Ich habe eine einfache Frage, bei der ich mich gefragt habe, ob Leute mit mehr Erfahrung etwas Licht ins Dunkel bringen könnten.
Ich weiß, dass OLS nicht unbedingt eine Normalitätsannahme erfordert, aber die Normalität der Residuen führt zu unvoreingenommenen Schätzungen mit minimaler Varianz.
Ich habe versucht, ein Modell mithilfe der Methode der kleinsten Quadrate in der Plattform „Modell anpassen“ an eine kontinuierliche Antwort mit drei unabhängigen Variablen anzupassen. Dieses Modell hatte einen Radj von etwa 0,45 und das Residuendiagramm zeigte ein klares Muster.
Als nächstes überprüfe ich die Verteilung der kontinuierlichen Reaktion und stellte fest, dass sie alles andere als normal war.
Unter Verwendung der generalisierten Regression (Lasso) und der normalen Antwortverteilung führte das Modell immer noch zu einem generalisierten R-Quadrat von etwa 0,45. Als ich jedoch zu einer exponentiellen Antwortverteilung wechselte, stieg der R-Quadrat auf 0,84.
Wenn bei den kleinsten Quadraten keine Normalität der Antwort erforderlich ist, was könnte einen solchen Unterschied erklären?
Danke schön!
Datenexploration und -visualisierungBetreff: Normalitätsannahme in Fit Least SquaresDanke @Thierry_S Und @Mark_Bailey !
Ich dachte, die Normalität der Annahme der Residuen würde zu unverzerrten Schätzungen und einem kürzeren KI der Schätzungen führen. Ich war mir nicht sicher, ob dies eine harte Voraussetzung für die richtige Passform des Modells war. Das macht Sinn
Betreff: Normalitätsannahme in Fit Least SquaresDie gewöhnliche Regression der kleinsten Quadrate wird oft als Sonderfall in Bezug auf die Verteilung der Antwort behandelt. Als @Thierry_S erläutert, behandeln wir normalerweise die Residuen (geschätzte Fehler) unter der Annahme, dass die Fehler normalverteilt sind. Man könnte es auch als bedingte Verteilung beschreiben: Y ~ Normal (Mittelwert = vorhergesagtes Y = f(X), Varianz ). Der Mittelwert Y variiert also mit X, wie durch das lineare Regressionsmodell beschrieben, aber die Varianz von Y ist konstant oder unabhängig von der Antwort. Mit anderen Worten weist die Antwort eine normale Fehlerverteilung für jede gegebene mittlere Antwort (vorhergesagt) auf.
Ich würde das nicht sagen " OLS erfordert nicht unbedingt Normalität. "
Die Normalitätsannahme und OLS führen zu einem schlechten Modell, wenn die bedingte Verteilung nicht normal ist. Die Exponentialverteilung scheint also in Ihrem Fall ein Modell für die Varianz zu sein als die Normalverteilung.
Betreff: Normalitätsannahme in Fit Least SquaresHallo Anna,
Die eigentliche Annahme für die Fit-Least-Square-Plattform ist, dass die Residuen des Modells normal verteilt sind; Es gibt keine Annahme, dass die Antwort oder die Variablen normalverteilt sind. Ich bin mir nicht sicher, auf welchen Ausdruck "das Leben viel einfacher machen" sich in Bezug auf die Statistik bezieht.
Am besten,
TSBetreff: Normalitätsannahme in Fit Least SquaresÜbrigens habe ich dieses Material gefunden ( https://community.jmp.com/kvoqx44227/attachments/kvoqx44227/discovery-2019-content/28/1/glmTalkTucson.pdf) wo es heißt, dass die Annahme, dass die Fehler (und die Antwort) normal sind, das Leben viel einfacher macht. Allerdings unter diesem Link ( https://www.jmp.com/en_us/statistics-knowledge-portal/what-is-regression/simple-linear-regression-assumptions.html) , es diskutiert nur die Normalität der Fehler.
Ich bin mir also nicht sicher, ob in JMP von einer Normalität der Antwort ausgegangen wird?
Wenn ja, warum würde die Normalität der Antwort „das Leben viel einfacher machen“?
