War schon einmal verwirrt, wenn jemand das gesagt hat
ANOVA ist dasselbe wie
Rückschritt ? Oder empfanden Sie einen Groll gegen den Mathematiklehrer, der Ihnen sagte, dass Sie eines Tages die Steigungsschnittform verwenden würden? Nun, machen Sie sich bereit, Ihrem alten Algebralehrer eine riesige Schachtel Schokolade zu schicken, denn Y = mx + b ist zurück, Baby. Oder besser gesagt, es ist nie weggegangen.
Da sich die ANOVA nun in Ihrem Analyse-Werkzeuggürtel befindet, lassen Sie uns einen kurzen Rückblick geben. Was wirklich unter der Haube einer ANOVA steckt, ist eine lineare Gleichung: Y = mx + b. Wenn ich sehen möchte, ob Menschen über 40 Jahre mehr Zahnfüllungen haben als Menschen unter 40, würde ich diese Gleichung verwenden:
In einem (n ANOVA , Die Variable ( X ) ist das, was wir eine „Dummy-Variable“ nennen. Es kann nur die Werte 0 oder 1 annehmen (Sie sind unter 40 Jahre alt oder nicht). Man spricht von einer 0/1-Kodierung von Gruppen Indikatorvariable Codierung, eine der wenigen Arten von Codierungsschemata – wie Effektkodierung – dass du darin sehen kannst JMP .
Wenn jemand unter 40 ist, geben wir ihm eine 0 für X , und wenn sie über 40 sind, geben wir ihnen eine 1.Alter ist die Differenz zwischen der durchschnittlichen Anzahl der Füllungen für jede Gruppe.
Rückschritt verwendet die gleiche exakte Gleichung, lässt aber zu, dass der Koeffizient eine beliebige reelle Zahl ist, genau wie in der Mittelschule!Der M (oder Steigung) im Falle einer Regression bedeutet „ wir erwarten Y so viel zu ändern, wenn wir wachsen X um 1 Einheit. ”
Der M (oder Steigung) in einer ANOVA ist gleich, aber Sie können nur um 1 Einheit erhöhen, da Sie nur eine 0 oder 1 für haben können X (unsere erwartete Änderung in Y ist der Unterschied zwischen den Mitteln).
In einem Rückschritt Anstatt zu testen, ob sich die Mittelwerte von zwei oder mehr Gruppen signifikant unterscheiden, testen wir, ob die Steigung einer Linie signifikant von Null abweicht (wir tun dies immer noch in einer ANOVA, aber die „Steigung“ in einer ANOVA Ist die Differenz zwischen den beiden Mittelwerten).
Ein „funktioniertes“ Beispiel
Signifikanztests für Regressionen sind genau die gleichen wie für ANOVAs. Ich werde mir die Beziehung zwischen der Anzahl einzigartiger Wörter in Rhianna-Songs und dem Erscheinungsjahr ansehen [1] (Es gibt nur eine begrenzte Anzahl von Malen, in denen man in einem Lied „Arbeit“ sagen kann.)
Quadratsummen insgesamt (SST)
Zuerst müssen wir die Gesamtvarianz in den Daten berechnen. Dies geschieht auf die gleiche Weise wie bei einer ANOVA – wir bilden die Summe der quadrierten Differenzen zwischen jedem Punkt und dem Mittelwert. [2]
Quadratsummen-Regression (SSR)
Zweitens berechnen wir die Varianz aufgrund der „Gruppe“, wie wir es in der ANOVA getan haben, aber wir haben keine Gruppen. Stattdessen haben wir eine Linie, die Werte vorhersagt Y basierend auf Werten von X Also berechnen wir die Quadratsummen-Regression ( SSR ). Für jeden Wert von X , subtrahieren wir den vorhergesagten Wert für X aus dem Mittel aller Werte (dem Gesamtmittel).
Quadratsummenfehler (SSE)
Genau wie zuvor, die SST = SSR - SSE was bedeutet wir könnte Berechnen Sie den Quadratsummenfehler, indem Sie Folgendes verwenden SST und Subtrahieren SSR Aber nur zum Spaß machen wir es auf lange Sicht.
Wir nehmen lediglich den tatsächlichen Wert an X minus dem vorhergesagten Wert bei X (In der ANOVA machen wir das auch, aber unsere erwarteten Werte in der ANOVA sind Gruppenmittelwerte). Denken Sie noch einmal daran, dass die Regression (wie die ANOVA) den Gesamtbetrag der Varianz nimmt, ihn in verschiedene Gruppen einteilt und diese vergleicht. Hier vergleichen wir die Varianz aufgrund Rückschritt und Varianz aufgrund Fehler . Zusammen bilden diese den Gesamtbetrag der Varianz; Wenn es nicht auf eine Regression zurückzuführen ist, wird es als Fehler angesehen.
Der F-Test
Da wir nun alle unsere Quadratsummen haben, bleibt uns nur noch der F-Test!
Genau wie bei einer ANOVA nehmen wir den Betrag der Varianz aufgrund von Rückschritt Und Fehler und teilen Sie sie durch ihre jeweiligen Freiheitsgrade [3] um die mittleren Quadrate (MS) für jeden unserer Terme zu erhalten.
Unsere F-Statistik wird berechnet, indem MS für Regression durch MS für Fehler dividiert wird. Im Wesentlichen sagt uns dies das Verhältnis der Variabilität Rückschritt berücksichtigt die Variabilität, die wir nicht modelliert haben – oder Fehler Varianz. Wenn wir nur so viel Variabilität wie zufällige Fehler berücksichtigen, halten wir unseren Effekt nicht für signifikant.
Um dies zu tun JMP , offen BadGirlRiRi.jmp (beigefügt).
Verwendung der Analysieren > Y an X anpassen, Ziehen Einzigartige Wörter rüber zur Y-Box, und Jahr zur X-Box.
Klicken OK und das Ausgabefenster wird angezeigt. Verwenden Sie das rote Dreieck unten Bivariate Anpassung zu wählen Linie anpassen .
Beachten Sie die Varianzanalyse Die Tabelle zeigt unsere Quadratsummen, Freiheitsgrade (DF), mittleren Quadrate und unseren F-Test. Da unser F relativ nahe bei 1 liegt und unser p-Wert weit über 0,05 liegt, haben wir keine Beweise dafür, dass es einen statistisch signifikanten Zusammenhang zwischen der Anzahl eindeutiger Wörter in Rhianna-Liedern und dem Jahr gibt, aber ich behalte es im Auge Auf dich, Riri....
ANOVA table from Fit LineANOVA table from Fit LineANOVA table from Fit LineANOVA table from Fit LineANOVA-Tisch von Fit Line
Das ist also kurz gesagt die lineare Regression und warum die ANOVA nur ein Sonderfall der Regression ist – ich fürchte, es sind lineare Schildkröten … ich meine Modelle … bis ganz nach unten.
Haben Sie ein Thema, das Sie behandeln möchten?
Fühlen Sie sich frei, auf Twitter Kontakt aufzunehmen @chelseaparlett ! Die bevorzugte Form der Anfrage ist „Was zum Teufel ist _________?“
Anmerkungen[1] Für das Jupyter Notebook, das die Rhianna-Daten extrahiert, siehe Das Repository.
[2] Wenn Sie die Berechnungen nachvollziehen möchten, lesen Sie Das Blatt.
[3] Warum machen wir das? Freiheitsgrade repräsentieren im Wesentlichen „neue“ Informationen. Wir wollen den größtmöglichen „Knall“ für unser Informations-„Geld“ bekommen, das heißt, wir wollen, dass die größtmögliche Variabilität mit den wenigsten Freiheitsgraden erklärt wird. Wenn wir die Gesamtvariabilität durch die Freiheitsgrade dividieren, erhalten wir den Betrag der Variabilität „pro Freiheitsgrad“. Es ist nicht fair, die Variabilität, die ein Faktor mit 89 Informationen ausmacht, mit der Variabilität zu vergleichen, die ein Faktor mit einer Information ausmacht. Eine Übersicht über Freiheitsgrade finden Sie unter Das Artikel.
Herzlichen Glückwunsch zur Erklärung! Ich habe viele Texte gelesen und keiner war so didaktisch wie du. Vielen Dank!
Es ist toll!
Ich werde von nun an ein großer Fan von dir sein.
Chul-Hee
Toller Blog! Ich habe mich heute als „1“ viel jünger gefühlt als die Jungen mit „0“.
