Distributionen in GenRegIch habe Chris nach Distributionen in GenReg gefragt
Im Modellstartfenster für GenReg wird die Antwortverteilung angezeigt. Ist das richtig? Oder ist es die Verteilung des Residuums des Modells?
Die kurze Antwort lautet, dass die Antwortverteilung und nicht die Fehlerverteilung im Allgemeinen modelliert wird. Für die Normal- und einige andere Distributionen wie die Cauchy-Distribution können Sie sich die Fehler- und die Antwortverteilung als gleich vorstellen, aber sie sind abgesehen von einigen Sonderfällen nicht gleich. Zum Beispiel denkt man nie an einen „Fehlerterm“ für die Binomial-, Poisson-, Lognormal-, Gamma- oder Weibull-Verteilungen, sondern nur für die Antwortverteilungen. Nur in den Fällen, in denen die Verteilung um den Modus herum symmetrisch ist, wird ein "y = mittleres Modell + Fehlerterm" -Konzept als zutreffend angesehen. Was passiert, ist, dass die Modellierung der kleinsten Quadrate zuerst mit dem Modell + Fehlerkonzept erlernt wird. Um jedoch die logistische und Poisson-Regression wirklich zu verstehen, muss man sie verlernen und mithilfe von Antwortverteilungen darüber nachdenken. Leider wird dieser Punkt außerhalb bestimmter Universitätsumgebungen so gut wie nie klargestellt. Die gute Nachricht ist, dass dieses subtile Unverständnis die Menschen, die die Modelle erfolgreich in der Industrie einsetzen, größtenteils nicht behindert.
Verwirrung darüber völlig verständlich, weil es sehr verbreitet ist. Schon der Eröffnungssatz in der Wikipedia-Seite zu verallgemeinerten linearen Modellen versteht es falsch, wenn sie sagen:
"Im Statistiken , das verallgemeinertes lineares Modell ( GLM ) ist eine flexible Verallgemeinerung des Gewöhnlichen lineare Regression das ermöglicht Antwortvariablen die andere Fehlerverteilungsmodelle als a haben Normalverteilung . "
Sie fangen jedoch an, es im zweiten Satz richtig zu machen ...
Was in der logistischen, Poisson- oder Gamma-Regression wirklich vor sich geht, ist, dass wir zulassen, dass die Antwortvariable eine nicht normale Verteilung aufweist. Die Beziehung zwischen der Antwort und den Prädiktorvariablen wird hergestellt, indem ein lineares Modell auf eine geeignet gewählte Funktion des Mittelwerts gelegt wird, die als Verbindungsfunktion bezeichnet wird. Bei der logistischen (binomialen) Regression handelt es sich um eine logistische () Funktion, bei Poisson um die log () usw. Durch die Kombination dieses Mittelwertmodells mit einer Nicht-Normalverteilung für die Schätzung können wir die Daten effizienter nutzen, da inhärent berücksichtigt wird, wie sich die Varianz in Abhängigkeit vom Mittelwert ändert. Dies gilt für alle nicht-negativen Verteilungen und ermöglicht es uns, die inferentiellen Aspekte wie Hypothesentests und Konfidenzintervalle der Analyse korrekt zu machen.
Betreff: Distributionen in GenRegClay präsentierte dieses Thema in Kopenhagen auf dem diesjährigen JMP Discovery Summit Europe. Sehr gut gemacht, sehr aufschlussreich!
Betreff: Distributionen in GenReghttps://community.jmp.com/t5/Discovery-Summit-Europe-2019/Not-Quite-Normal-Choosing-the-Best-Response-Distribution-for/ta-p/110053
Hier ist Clay's Präsentation.
Betreff: Distributionen in GenRegDanke, dass du das gepostet hast, Pete! Ich fand das auch verwirrend. Die Normalität der Residuenannahme wurde für mich immer mehr betont als die Verteilung der Antwort.Betreff: Distributionen in GenRegDanke, dass du das angesprochen hast. Es war etwas, bei dem ich Probleme hatte, meinen Kopf gut genug herumzubekommen, um zu erklären, was los ist. Ihr Beitrag hat mich motiviert, GLMs und GenReg besser zu erklären.
Aus Gründen der Klarheit entspricht die Antwortverteilung nicht den Angaben im Startdialog, zumindest nicht dem, was ich normalerweise als Antwortverteilung betrachte. Es ist die Verteilung von Beobachtungen für feste Eingabewerte und Modellparameter (dh die Beobachtungen abhängig von den Prädiktoren) . Clay erwähnt dies in seinem Vortrag auf Folie 18. Diese Konditionierung besagt: "Sehen Sie sich nicht die Verteilung über den Bereich der Eingaben an, sondern für einen bestimmten Eingabewert" (oder einen Vektor von Werten, wenn es sich um mehrere Eingaben handelt). Meiner Meinung nach kennzeichnet dies die Streuung, was ich als Fehlervarianz bezeichnen würde. Ich glaube auch, dass ein Großteil der Verwirrung darin besteht, dass das Wort "Reaktion" nicht nur verwendet wird, um im Allgemeinen die beobachteten unbedingten Beobachtungen anzuzeigen, sondern auch, im Fall von GLM oder GenReg, um auch die beobachteten bedingten Werte anzuzeigen. Um diese Verwirrung zu vermeiden, könnte es klarer sein, das Adjektiv "Antwort" fallen zu lassen, wenn über das spätere gesprochen wird.
Ich füge eine Tabelle mit simulierten Daten bei, um zu veranschaulichen, was vor sich geht. Angenommen, wir möchten ein Beispiel zur Vorhersage der Anzahl der fehlgeschlagenen Versuche erstellen, die erforderlich sind, um eine Aufgabe erfolgreich abzuschließen. Dies hängt davon ab, wie viele Jahre Erfahrung ein Mitarbeiter hat. Das negative Binomial (NB) ist die Standardverteilung zum Zählen n Ausfälle bis zum r th Erfolg. Die Formel in der Spalte Mittlere Reaktion ist, was wir bedingen werden. Um eine Streuung um die mittlere Antwort zu erzeugen, simulieren wir zufällige NB-Variablen mit Parametern r = 1 (als Tabellenvariable angegeben) und p (Dieser Wert wird anhand der Werte für r, der mittleren Antwort und der quadratischen Formel berechnet.) Wenn Sie sich die Formel für anschauen N Versuche , Sie werden sehen, dass es eine Funktion von ist r (ein fester Wert) und p (über Mittlere Reaktion ), ein Wert, der sich relativ zu ändert Jahre Erfahrung , macht es basierend auf mehrere NBs. Sie können dies sehen, wenn Sie eine große Anzahl von Beobachtungen für die gleichen Jahre simulieren und dann eine Anmerkung zu den Daten hinzufügen. Sie erhalten eine Dispersionsschätzung nahe 1 (Dispersion = 1 / r ) und eine mittlere Schätzung von r * (1- p ) / p (der erwartete Mittelwert eines NB). Beachten Sie, dass die Werte in Mittlere Reaktion und der Mittelwert der NB sind zwei verschiedene Dinge. Ersteres gibt die lineare Beziehung zwischen (unbedingten) Prädiktor (en) und Antwort an, nachdem die Verbindungsfunktion angewendet wurde. Letzterer ist der Mittelwert der Streuung für Beobachtungen, die auf festen Eingabewerten beruhen. Bei geringem Erfahrungswert beträgt der Unterschied zwischen Mittlere Antwort und die mittlere Schätzung des NB kann relativ groß sein. Die Residuen sind nur der Unterschied zwischen den Mittlere Reaktion und N Versuche Säulen. Angesichts dessen, was ich oben in Bezug auf das Wie erwähnt habe N Versuche erstellt wird, ist es nicht verwunderlich, dass es keiner bestimmten Verteilung folgt.
Betreff: Distributionen in GenRegIch habe vergessen zu sagen, dass das gespeicherte Skript die Parameterwerte von Mean Response mit N Tries genau abschätzen wird, sodass sich der Kreis wieder schließt.
