Der
am meisten
berühmt
Zitat
In
alle
von
Statistiken
Ist
Georg
Boxen
"Alle Modelle Sind falsch, Aber manche Sind nützlich."
Ich habe gehört Das Zitat bei fast jeder Konferenz
Ich habe immer gewesen Zu, Und Weil von Das,
Zu Mein Erinnerung, Ich habe Genau genommen vermieden mit Das Zitat In beliebig sprechen vor.
Aber Wann I sah hoch
Die Erste Zeit Es War immer Satz In drucken, Es War In a 1976 Zeitschrift
von Die amerikanisch Statistisch Verein Artikel.
Es ist gefunden In a Abschnitt angerufen Sparsamkeit.
Sofort nach Das Erste Beispiel
von Die Zitat, Er Gespräche um Die Bedeutung von Finden
Die einfachste Modell Das beschreibt Die beobachtet Phänomene.
Das Beträge Zu Finden Modelle Das Angebot a vernünftig Gleichgewicht
von Anpassungsgüte gegen Modell Komplexität Und Ist genau
Was Ich bin gehen Zu Sei reden um Heute In Das Präsentation.
JMP Und JMP Pro Angebot a viel von anders Modellieren Fähigkeiten,
jede mit a viel von Ausgabe verwandt Zu Auswahl a Modell.
Heute Ich bin gehen Zu gehen hinein manche Detail hinein manche von Die am meisten wichtig von diese,
Hervorhebung ihre Motivation Und Die Annahmen hinter ihnen.
A viel von Die Diskussion Wille Sei um Die AICc Und BIC-Modell Auswahl Kriterien,
welche Sind direkt Und sehr Daten- effizient Werkzeuge für Adressierung Die Problem.
Kasten hatte In Geist mit sein Zitat,
welche Ist Wie Zu finden a nützlich Modell aus a Satz von fehlerhaft oder falsch diejenigen.
Als I War Putten Das Präsentation zusammen,
I ging durch Die Ableitungen von Die AIC Und Die Bic.
I gesucht Zu erhalten a klar Verständnis
von Was diese ähnlich- suchen Methoden Wirklich Sind Und Was Annahmen Sie gemacht.
Nachher, aus von Neugier,
I tat ein Internet suchen von AIC gegen BIC versus Kreuzvalidierung.
Es War interessant Zu sehen In alle diese Internet Formulare Das Dort Ist Trotzdem
Also viel Debatte, sogar obwohl diese Methoden haben gewesen um für 50 Jahre.
Haben kürzlich überprüft Die Ableitungen von Die Methoden,
Es Aussehen wie Dort Sind Trotzdem a viel von Missverständnisse aus Dort.
I denken Die Grund für Das Ist Das beide Modell Auswahl Kriterien
haben sehr tief Und technisch Ableitungen
trotz Die Einfachheit von ihre Formeln, beide von ihnen Sind gleich Zu Minus zwei mal
Die Log-Wahrscheinlichkeit von Die tailliert Modell,
Plus a einfach Strafe basierend An Die Nummer von Modell Parameter.
Du kippen erraten Die Gründe
für Die Strafe Bedingungen aus Die Formel allein,
welche macht ihnen erscheinen mystisch Und willkürlich.
Eins von Mein Ziele Heute Ist Zu versuchen
Zu entmystifizieren diese ohne gehen über Bord An Die Mathe.
Zu setzen Das alle In Die Kontext von ein Analyse Arbeitsablauf,
Wir dürfen denken von ein Analyse Projekt als haben vier wesentlich Schritte.
Wir Erste haben Zu erwerben Die Daten, erhalten Es organisiert Und gereinigt hoch.
Dann Wir fit mehrere Modelle Zu Es In a Weg
Das Ist entweder Handbuch oder automatisiert von Software wie JMP oder JMP Pro.
Einmal wir haben Erledigt Das, Dann Wir brauchen Zu wählen eins von ihnen
als Die Modell Das war gehen Zu arbeiten mit Umzug nach vorne.
Das Ist a kritisch Schritt In Die Verfahren Das Also Sei Fokussierung An Heute.
Es ist wichtig Das Wir erhalten Die Modell Auswahl Rechts
Weil Die Qualität von Die Ergebnisse Und Die Schlussfolgerungen Wir machen
bei Die Ende erfordert Das Wir haben a vernünftig Gut Modell.
Hier Sind Die hauptsächlich Wege Das Ich habe gesehen Menschen machen Entscheidungen um Modelle.
Hypothese Testen Ist wahrscheinlich Die Erste eins Menschen lernen um.
Diese Sind am meisten häufig gebraucht Zu bestimmen Wenn a Regression Koeffizient
Ist statistisch deutlich anders aus null,
welche Geräusche wie a Modell Auswahl Problem.
Während Sie Sind oft gebraucht In Das Weg,
Hypothese Tests Sind abgeleitet unter a spezifisch Satz von Annahmen
Das ausdrücklich tut nicht Konto für haben geändert Die Modell
oder haben gebraucht a Modell Das War gewählt als Die am besten
unter mehrere Alternativen.
Dann Wir haben Die allgemein empirisch Verfahren Das bewerten Modelle basierend
An Daten gehalten aus aus Die Modell Beschlag Verfahren.
Diese Techniken dürfen Sei angewandt Zu beide klassisch statistische Modelle
als Also als Maschine Lernen Modelle.
In Mein Meinung, Ausharren Validierung, In besondere, Ist Die Weg Zu gehen
Wenn Du haben a ganz viel von Daten.
Dann Wir haben Was alle angerufen Die klein Daten analytisch Verfahren.
Diese war abgeleitet für Situationen Wann Du haben Zu machen a Entscheidung
um welche Modell Zu verwenden, Aber Du nicht haben genug Daten
Zu halten aus beliebig Beobachtungen.
Der am meisten häufig gebraucht von diese Sind Die AIC Und Die BIC.
Aber Dort Sind andere Also- bekannt Techniken
wie Verallgemeinertes C Ross-Validierung Und Mallows C P.
Es dreht sich aus Das diese zwei Sind Genau genommen asymptotisch Äquivalent
Zu Die AIC, Also In groß Proben Du sollen erhalten Die Dasselbe Schlussfolgerungen aus Bruttowert,
Mallows CP, Und Die AIC, In besondere, für bei am wenigsten Quadrate- basierend Modelle.
Dann Wir Auch haben Was Krank Anruf Modell- spezifisch Ansätze wie VIP
Und teilweise Quadrate Modelle Und Die kubisch Clustering Kriterium
beim Clustering Modelle.
Diese Sind hübsch Nische Und I Gewohnheit Sei reden um ihnen beliebig mehr Hier Heute.
Dann Wir Auch haben visuell Werkzeuge wie tatsächlich von vorhergesagt Grundstücke
Und Republik China Kurven.
Egal von Wie Du wählen dein Modell,
diese Grundstücke Sind Gut Zu nehmen a sehen bei vor Umzug nach vorne mit a Modell
Weil Sie bieten mehr interessant Information
als beliebig Person Statistik Wille Und dürfen erzählen uns Wenn Die am besten Modell
Das wir haben berücksichtigt Also weit Ist Trotzdem a Gut genug Modell für uns Zu verwenden.
Mein eigen Erste begegnen mit Modell Auswahl Kriterien In Mein Professional Leben
War zurück In Die Mittel- 2000, um Wann JMP 5 Und JMP 6 war aus.
JMP hatte hinzugefügt Die Fähigkeit Zu bieten Fähigkeit Analysen
für nicht- Normal Verteilungen.
Fähigkeit Analyse Ist a sehr wichtig Werkzeug
für Bewerten ob a Herstellung Verfahren Ist " fähig"
von Lieferung Produkte Das Sind innerhalb Spezifikation.
JMP Benutzer gesucht Zu bestimmen Die " am besten Verteilung" für Die Daten
Also ihre Verfahren Fähigkeit Metriken würde am besten reflektieren Die Wirklichkeit
von ihre Situation.
JMP Kunden verstanden Das Du könnte fit anders Verteilungen mit JMP
Und wusste Das viele von Die Verteilungen kam mit a Anpassungsgüte prüfen In a Fall
von haben a Hammer verursacht Du Zu finden Nägel überall.
Sie war versuchen alle Die Verteilungen Sie könnte finden Und war Auswahl Die eins
mit Die größten p-Wert als Die Verteilung
für ihre Fähigkeit Analyse.
Sie gesucht uns Zu kodifizieren Das hinein a neu fit alle Verteilungen Besonderheit
Das würde automatisieren Das Verfahren für ihnen.
Aber Wir war eher unbequem mit Das Anfrage für a Nummer von Gründe.
Für eins Ding, Die anders Verteilungen passen in JMP
kam mit anders Arten von Anpassungsgüte Tests.
Der Normal hatte a Shapiro- Wilk prüfen.
Der Weibull hatte a Cramér–von Mises prüfen, Und Die LogNormal hatte a Kolmogorov prüfen.
Es ist sehr seltsam Zu vergleichen Tests
Das Sind eher anders aus eins ein anderer.
Ein anderer Problem mit Das Ansatz Ist Das Verteilungen mit mehr Parameter
Sind gehen Zu neigen Zu haben ein Rand An diese mit weniger.
Wenn Wir wählen Die Verteilung basierend An Die größten p-Wert,
Es Wille stets favorisieren Verteilungen
mit mehr Parameter als Wir sehen Hier mit Die zwei- Parameter Normal verglichen
mit Die vier- Parameter Johnson Sind Verteilung.
Dann für manche von Die Verteilungen
wie Die Weibulls Cramer von Wetten W prüfen,
Wir nur hatte Tisch Werte von p-Werte gehen hoch Zu etwas wie P gleich 25.
Aber sogar Wenn Wir konsolidiert alle Die Anpassungsgüte Tests runter
Zu Nur eins Und bekommen genau p-Werte für alle von ihnen,
es gibt Trotzdem a größer philosophisch Ausgabe bei Einsatz Und das ist Das Hypothese prüfen
wie diese dürfen nur quantifizieren Beweis gegen Die null Hypothese.
Wenn Die null Hypothese Ist WAHR,
Dann Die p-Wert Ist a gleichmäßig verteilt zufällig Variable.
In andere Wörter, Wenn Die null Hypothese Ist WAHR,
Dann Die Wahrscheinlichkeit Das Die p-Wert Ist zwischen 0,1 Und 0,2 Ist genau
Die Dasselbe als Die Wahrscheinlichkeit Das Es Ist zwischen 0,8 Und 0,9.
S sehen a p-Wert von 0,9 ist nicht mehr Beweis Das Die Hypothese
Ist WAHR als a p-Wert von 0,3.
Rückkehr Zu unser Beispiel, Weil alle vier von diese Verteilungen
haben Güte- von- fit p-Werte größer als 0,05.
Durch Das Linse, alle vier Verteilungen
fit Die Daten vernünftig Also, sogar obwohl Die Anpassungsgüte Tests sagen
alle Die Verteilungen Sind Gut, Die Schlussfolgerungen um Die Verfahren
Generierung Die Daten Sind anders abhängig An Die Verteilung.
Wenn Du verwenden a Gipfel Referenz Wert von 1,33
Zu bestimmen Wenn Die Verfahren Ist fähig, Dann Auswahl Die lebensfähig zeigt an
Das Die Verfahren Ist nicht ausreichend fähig Zu treffen Die Spezifikationen,
wohingegen Die andere Verteilungen angeben Das Die Verfahren Ist fähig.
Wir erkennen Das Dort hatte Zu Sei a besser Weg Zu bestimmen
Die Verteilung automatisch Und kam Zu Die Abschluss
Das Das sollen Sei gesehen als a sehr Basic Art von Modell Auswahl Problem.
In unser suchen für a Klang Verfahren für Auswahl a Verteilung,
Wir gestolpert auf Das sehr Gut Buch An Modell Auswahl von Burnham Und Anderson.
Sie geben vorsichtig Ableitungen von Die AIC aus Die Perspektiven
von Information, Theorie, Und Kreuzvalidierung.
Sie Auch geben a Ableitung von Die Bankleitzahl hinein Wie Die AIC dürfen Sei abgeleitet
In Die Dasselbe Weg mit a anders Annahme um Die vor Verteilung.
Burnham Und Anderson Auch sorgfältig zeigen
Hypothese Testen Ist eher inkohärent als a Modell Auswahl Strategie.
Der Buch hatte a hübsch groß Auswirkungen An Mein eigen Ansichten von Modellieren
Und Auch An JMP statistische Modellieren Plattformen.
Rückkehr Zu Die Verteilung Auswahl Problem für Die Moment,
Wann Wir ging voraus Und hinzugefügt a Verteilung Wähler,
Wir beendet hoch Berufung Es fit alle Und Wir Base Es An Die AICc.
Hier An Die links,
Wir haben zwei Verteilungen von Die Fähigkeit Analyse Daten
Wir war suchen bei vor, Die Normal Und Die Johnson Sie sind.
Der Johnson Su's Anpassungsgüte p-Wert Ist größer als Die Normalität Weil Es hat
zwei mehr Parameter als Die Normal Verteilung.
Jetzt An Die Rechts,
Wir sehen Die Ergebnisse von a fit alle mit Die AICc.
Der Normal kommt aus als Die am besten- Beschlag Verteilung,
Aber Die Johnson Su Ist nahe Die unten.
Das Ist Weil Die AICc Ist bestrafend Es für haben diese zwei Extra Parameter.
Das Besonderheit hat Jetzt gewesen gebraucht viele, viele mal
Und I glauben Menschen Sind allgemein hübsch Glücklich mit Es.
Jetzt Ich bin gehen Zu gehen durch
a etwas Mathy Aber hoffentlich zugänglich Erläuterung
von Was Die AICc Wirklich Ist.
Alle Rechts.
Jetzt Ich bin gehen Zu gehen hinein manche Basic Theorie hinter Die AIC.
Krank Sei als knapp als möglich Und verwenden Die am besten Analogien als I dürfen,
Aber I denken Es Ist wichtig Zu Sei ausgesetzt Zu Die zugrundeliegend Konzepte Also Du dürfen sehen
Das Die AIC hat a streng Stiftung Das hat manche Sinn Zu Es.
Der AIC- Typ Auswahl Kriterien Sind basierend An a Distanz- Typ metrisch
zwischen Wahrscheinlichkeit Verteilungen angerufen Die Kullback- Leibler oder CL Divergenz.
Es quantifiziert Die Menge
von Information verloren von mit Wahrscheinlichkeit Verteilung zwei
eins Wahrscheinlichkeit Verteilung eins Ist Die richtig eins.
CL Divergenz hat Die Eigentum von stets Sein größer als oder gleich Zu null
Und Ist nur gleich Zu null Wann Die zwei Wahrscheinlichkeit Verteilungen
Sind Die Dasselbe.
Das Ist Zu sagen Das mit Die falsch Verteilung stets führt
Zu a theoretisch quantifizierbar, streng positiv Information Verlust.
Das Ist hübsch berauschend Abstrakt Sachen,
Also Ich bin gehen Zu übersetzen Es hinein Die Sprache von statistische Modellieren.
Wann Wir Sind mit Daten In Statistiken Zu lernen um Wie etwas Werke,
Wir Sind ausdrücklich oder implizit Beschlag Wahrscheinlichkeit Modelle Zu Die Daten
Zu ungefähr Die WAHR Modell Das generiert Es.
Wenn Wir wusste Die WAHR Wahrscheinlichkeit Generierung Mechanismus, Wir könnte verwenden Die CL Divergenz
Zu quantifizieren Wie weit oder Wie falsch Die Modell Ist aus Die Wahrheit.
Wir könnte Dann versuchen mehrere Modelle Und finden Die eins Das Ist Die am nächsten
Zu Die Wahrheit.
Akaike anerkannt Das Und eingesteckt Die WAHR
Und Die Modell Wahrscheinlichkeit Formeln hinein Die CL Divergenz Formel
Und gebraucht a wenig Algebra Zu sehen Das Die CL Divergenz hatte zwei Bedingungen.
Der Erste Begriff nur enthält Die WAHR Wahrscheinlichkeit- Generierung Mechanismus
für Die Daten, welche Wir dürfen niemals wissen seit Wir dürfen nur arbeiten mit Modelle.
Jedoch, Das Ist a Konstante Das Ist Die Dasselbe für alle Modelle
Das Du fit Zu Die Daten
als lang als Wir spielen von a Paar einfach Regeln.
Der zweite Begriff Ist Was Akaike entdeckt Ist empirisch schätzbar Und mit a viel
von Mathe, Er gefunden a einfach Formel Zu schätzen Das zweite Begriff.
In besondere,
Er entdeckt Das zwei mal Die CL Divergenz Ist gleich Zu a Konstante
Das Ist Die Dasselbe für alle Modelle, Plus zwei mal Die Negativ Log-Wahrscheinlichkeit
von Die Daten gebraucht Zu fit Die Modell, Plus zwei mal Die Nummer von Parameter.
Alles hatte gewesen multipliziert von a Faktor von zwei Nur Zu folgen Die Dasselbe Konvention
als a Wahrscheinlichkeit Verhältnis prüfen, seit Die Konstante Begriff Ist Die Dasselbe
für alle Modelle als lang als Wir nicht ändern
Die Antwort Daten, Wir dürfen fit mehrere Modelle,
Und Die eins wessen AIC Ist Die kleinste Ist Die eins Das Ist geschätzt
Zu haben Die kleinstes K L Divergenz aus Die Wahrheit Und In a Sinn Ist Die eins
Das Ist Die am wenigsten falsch.
Verwenden Die AIC für Modell Auswahl Ist vollständig analog Zu Dort Sein
a Sammlung von Inseln Und Du wollen Zu wissen welche von Die Inseln Du wissen von
Ist am nächsten Zu ein anderer Insel Das Du wissen du wirst niemals Sei fähig
Zu erhalten Zu.
Der direkt Lösung Zu Das Problem würde Sei Zu berechnen Die Entfernungen
aus jede von Die Inseln Zu Die eins Das Wir wollen Zu erhalten schließen Zu.
Jetzt, Was Wenn Die Insel Wir gesucht Zu erhalten schließen Zu War umgeben
von a kreisförmig hoch Zaun Das Wir könnte Ansatz?
Der Insel Ist perfekt In Die Mitte von Die Zaun,
Also Die Distanz aus Die Center von Die Insel Zu Die Zaun
Ist stets Die Dasselbe.
Aber Die Zaun War weit genug weg aus Die Insel Das Es beiliegend
Das Wir konnte nicht sehen Es oder messen Die Distanz
aus Die Zaun Zu Die Innere Insel.
Wir dürfen Trotzdem schätzen Die Distanz aus jede Insel Zu Die Zaun.
Weil Die hauptsächlich Insel Ist In Die Center von Die Zaun,
Wir wissen Das Die Insel am nächsten Zu Die Zaun Ist Die am nächsten Insel.
Das Ist genau Die Situation mit Die AIC.
Mit Die AIC, Wir dürfen schätzen Die Distanz aus Die Wahrheit Zu jede von Die Modelle.
Jede AIC schätzen Ist aus von Die Dasselbe Menge.
Während Wir kippen schätzen Die Absolute Distanz von Die Modelle
aus Die Wahrheit, Wir dürfen wissen welche Modell Ist Die am nächsten
In a relativ Sinn.
Der Original AIC Ist basierend
An Die Wahrscheinlichkeit von Die Ausbildung Daten Plus a Parameter Strafe.
Der Ausbildung Wahrscheinlichkeit bewertet Die Güte von fit von Die Modell.
Wir kippen verwenden Das Begriff von selbst obwohl, Weil Es Ist voreingenommen nach unten
als Die Modell Parameter war gewählt Zu minimieren
Die Negativ Log-Wahrscheinlichkeit.
Mit a viel von Mathe, Akaike abgeleitet a sehr einfach Ausdruck
Das korrigiert für Das Voreingenommenheit.
Der Original Strafe Ist Nur 2 K
Wo K ist Die gesamt Nummer von geschätzt Parameter.
Für linear Regression mit a Neigung
Und ein abfangen, Wir Auch haben Zu zählen Die Varianz.
Für Das Fall Du würde haben K gleich drei Und nicht zwei.
Dort Sind wichtig Annahmen Das geführt Zu die 2 K Strafe.
Wir dürfen charakterisieren ihnen lose Das Die Modell hat Zu Sei vernünftig Gut.
Der AIC Ist Trotzdem gehen Zu Sei robust Jedoch, Weil Wenn a Modell Ist schlecht,
Dann Die Wahrscheinlichkeit Komponente Wille Sei groß Und Wille dominieren
Die Strafe unter Die Gut Modelle.
Der 2K Begriff Wille favorisieren Die kleiner Modelle als lang
als Die Probe Größe Ist groß.
Jedoch, Es nicht nehmen lang für Menschen Zu finden Das Das Original AIC
oft zeigt Modelle Das Überanpassung In klein Proben,
Also a mehr genau, höher- Befehl Annäherung Zu Die Voreingenommenheit War abgeleitet.
Wann Das Extra Begriff Ist hinzugefügt,
Die Kriterien wird bekannt als Die AICc oder Die korrigiert AIC.
Bedauerlicherweise, Die Ruf Das Die AIC Überanpassungen
hatte werden alltäglich vor Die Korrektur War entdeckt
Und weit bekannt um.
Der Korrektur wird unendlich als K Ansätze N
drücken Die Modell Auswahl Kriterien weg aus Modelle Das Sind fast gesättigt.
Beachten Auch Das Die Korrektur Begriff geht Zu null als N geht Zu Unendlichkeit.
In groß Proben Die AIC Und AICc Sind Äquivalent.
Der AICc Ist Was Wir berichtet In Trumpf Weil Es Werke Also für klein Proben
Und Obwohl Es War abgeleitet für Gaußsche Verteilungen,
Erfahrung schlägt vor Das es ist Gut genug mit andere häufig gebraucht Verteilungen.
Jetzt Ich bin gehen Zu veranschaulichen Die AICc
In a real Beispiel Das War a fünf- Faktor zentral Verbundwerkstoff Design mit 31 läuft,
Und Die Antwort War Die Menge von p DNA produziert von a Bioreaktor.
Krank veranschaulichen Die AICc mit Die verallgemeinert Regression Plattform,
Geben Es a voll Antwort Oberfläche Modell
mit alle hauptsächlich Effekte Wechselwirkungen Und zweite- Befehl Bedingungen.
I fit vier Modelle Zu Die Daten.
Eins Ist a voll Antwort Oberfläche Modell mit am wenigsten Quadrate Das War fit automatisch.
Dann I verwenden nach vorne Auswahl
unter Die Normal, logNormal, Und exponentiell Verteilungen.
I wählte Die exponentiell Verteilung Zu veranschaulichen arm Modell fit.
Der Modelle hatte 2 2, 9, 9, Und 1 Parameter jeweils,
Und Die Modell mit Die niedrigste AICc War Die logN normal mit ein AICc
von um 334,8.
Wir dürfen brechen Die AIC Und AICc Berechnungen
runter Zu sehen Wie anders Teile von Die Strafe Sind beitragen.
Der voll am wenigsten Quadrate Modell
hat Die niedrigste Wahrscheinlichkeit, Aber Die höchste AICc gesamt.
Wann Wir sehen bei Die zweite- Befehl Korrekturen Und Die Original AIC Werte,
Wir sehen Das es ist Die zweite Befehl Korrektur Begriff Das Ist drücken
Die Modell Auswahl Kriterien Zu Sei sehr groß für Das Modell.
Der logN normal nach vorne Auswahl Protokoll Wahrscheinlichkeit Ist a wenig untere
als Die Normal nach vorne Auswahl eins.
Sie beide haben neun Parameter, Also ihre Strafen Sind Die Dasselbe
Und Die logN normal nach vorne Auswahl Modell hat Die untere AICc.
Der exponentiell nach vorne Auswahl Modell hat Die ärmsten Modell fit als gemessen
von Die Log-Wahrscheinlichkeit, Aber Auch nur hat eins Parameter
In Die Modell.
Gesamt Es hat Die kleinste Strafe Beitrag Zu Die AICc.
Aber Die arm fit von Die Modell Ist solch Das Die Wahrscheinlichkeit dominiert
Und Die exponentiell Modell Ist Die zweite aus Die am schlimmsten als gemessen von Die AICc.
Wenn Du Rezension Die allgemein Ableitung
von Die AIC In Die Burnham Und Anderson Buch,
du wirst sehen Das Was es ist Genau genommen geschätzt Ist Die erwartet Wert
von a hypothetisch prüfen Satz Wahrscheinlichkeit für a Daten Satz Das hat Die Dasselbe Größe
Und Antwort Struktur, Aber nicht Werte als Die Ausbildung Satz.
Der erwartet Werte Auch nehmen hinein Rücksichtnahme Die Variabilität
In Die schätzen von Die MLE.
I finden Das Kreuzvalidierung Interpretation von Die AIC
Zu Sei hübsch zwingend.
I denken es ist Auch wichtig Zu Punkt aus Das Das Kreuzvalidierung Ableitung
von Die AIC tut nicht annehmen bei alle Das Wir haben Die richtig Modell.
Zu zeigen Das Das Kreuzvalidierung Interpretation Wirklich Werke,
I erstellt a Simulation Formel mit ein Durchschnitt von Die Modelle Ich habe gezeigt
In Die vorherige Folien als Also als manche andere diejenigen.
Das Weg Wir wusste Das keiner von Die Modelle war Genau genommen Die richtig eins.
I fit jede von Die vier Modelle Zu neu Ausbildung Daten a tausend mal
Und Satz Es hoch Also Das Arbeit würde Bericht ein unabhängig Ausharren Wahrscheinlichkeit
mit ein anderer neu Daten Satz.
I gehalten jede von Die vier Modelle Struktur
Und Verteilungen intakt Und tat nicht anwenden Variable Auswahl.
Das War Zu perfekt nachahmen Die genau Kreuzvalidierung Interpretation
von Die AIC.
Aus Dort, I erstellt a Tisch von simuliert
Ausharren Wahrscheinlichkeiten Und berechnet ihre Durchschnitt für jede von Die vier Modelle.
Das Ist Die AIC Und AICc Zusammenfassung Tisch aus vor,
mit Die Simulation- basierend Durchschnitt Ausharren Log-Wahrscheinlichkeiten
hinzugefügt über Hier Zu Die Rechts, Du dürfen sehen Das Die voll Normal Modell
Ausharren Wahrscheinlichkeit Ist sehr schließen Zu es ist AICc Wert
Und Das Die zweite- Befehl Korrektur Begriff War essentiell für Das übereinstimmen Zu passieren.
An Die andere Hand,
Du sehen Das Die simuliert Durchschnitt exponentiell Ausharren Log-Wahrscheinlichkeit
Ist Auch sehr schließen Zu Die AICc.
Beide Die Normal Und logN normal Ausharren Wahrscheinlichkeiten Sind schließen
Zu Die Original Protokoll Normal Modelle A ICc.
Der Normal Ausharren Wahrscheinlichkeit Ist a wenig kleiner.
I Attribut Das Zu Mittelwertbildung a Bündel von Simulation Modelle,
Herstellung Die simuliert Daten a wenig bisschen mehr normalerweise verteilt
als Die Original Daten War.
Dort Sind a Paar einfach Regeln Das Sind benötigt Zu machen AICc Vergleiche
Wirklich gültig zwischen anders Modelle.
Der am meisten wichtig Ist Das Die stochastisch Teil von Die Daten
hat Zu bleiben Die Dasselbe, Die Dasselbe Reihen haben Zu Sei gebraucht
Und Es Ist Die Y's In besondere Das muss Sei Die Dasselbe.
Der X dürfen Sei anders, von Kurs, sogar Wenn Sie war ursprünglich zufällig,
nicht nur muss Die Y's Sei Die Dasselbe, Aber Sie kippen Sei geändert oder verwandelt.
Der verwandeln würde haben Zu Sei gebaut hinein Die Modell entsprechend.
Der AIC Ist Auch nur definiert
für brav maximal Wahrscheinlichkeit Schätzer
Und andere eng verwandt Methoden.
Das erklärt Warum Du nicht sehen AICc
für neuronalen Netzwerke Und andere Maschine Lernen Modelle.
Auch, Du haben Zu halten In Geist Das Nur Weil Du gefunden a Modell Das Die AICc
sagt Ist Die am besten, Es nicht bedeuten Das Es Ist a Gut Modell.
Verwenden dein Vergangenheit Erfahrung Und Modell Diagnose Grundstücke Zu sicherstellen
Das Die Modell Ist Rechts genug Zu Sei nützlich.
Rückkehr Zu Die pDNA Daten, Wir sehen zwei Äquivalent Modelle.
An Die Spitze, Wir haben a logN normal Modell
Und An Die unten Wir haben a Normal fit Zu Die Protokoll- verwandelt Antwort.
Du dürfen sehen Das Die verallgemeinert RS Quadrate
Sind Die Dasselbe für diese zwei Modelle, Aber Die AICcs Sind sehr anders.
Das Ist Weil Die logN normal fit
implizit baut Die verwandeln hinein Die Wahrscheinlichkeit.
Aber Die Protokoll Skala Normal fit tut nicht.
In Das Fall, Die Rechts Ding Zu verwenden Ist Die logN normal.
Hier ist a schnell Demonstration Das Du haben Zu entscheiden Die Verteilung
Und Die Eingang Variablen bei Die Dasselbe Zeit.
Hier Ist simuliert Daten aus a Tt Ost Typ Modell
zwei Gruppen von normalerweise verteilt Daten mit Die Dasselbe Varianz,
Aber anders bedeutet.
Wenn Du fit alle In Die Verteilung Plattform,
Es wählt Die Normal zwei Mischung mit ein AICc von 1036.
Das Ist Die richtig Verteilung
Wenn Du nicht wissen Die Gruppe Identität von Die Reihen.
Einmal Du enthalten Die Gruppierung Variable obwohl,
Du sehen Das Die Normal kommt aus An Spitze von ein AICc von 717 oder Also.
Wir Auch versucht Die Weibull logNormal
Und Gamma Und Die Normal Trotzdem kam aus An Spitze, sogar obwohl diese Verteilungen
tat besser In Verteilung ohne einschließlich Die Gruppierung Variable.
Du würdest haben Zu versuchen anders Modell Strukturen
Und Verteilungen zusammen Zu finden Die Rechts Kombination.
Jetzt Ich bin gehen Zu ändern Getriebe Und sprechen a wenig bisschen um Die BIC,
welche Ist Die andere hauptsächlich analytisch Modell Auswahl Kriterien Und JMP.
Der BIC ist motiviert In a vollständig anders Weg
als Die AIC.
Schwartz gebraucht a groß Probe Argument In a Bayesian Kontext Zu ungefähr
Die Protokoll Wahrscheinlichkeit von Die Daten nach haben integriert Die Modell aus,
vorausgesetzt a Wohnung vor An Die Parameter, ein Ausdruck ähnlich Zu Die AIC Knallt aus
mit a K Protokoll In Typ Strafe Begriff eher als zwei mal k.
Dort war Auch andere Bedingungen In Die Integral Das Sind stets ignoriert.
Eins Ist K Protokoll 2 Pi, welche War berücksichtigt zu klein
Zu handeln mit Und Die andere eins
Ist a normalisiert Varianz von Die MLE, welche würde Auch Sei von Bestellung K.
I nicht Studie Die AIC oder BIC in beliebig Tiefe In Schule.
I Nur erinnern Anhörung Die Refrain AIC Überanpassungen,
BIC unter passt mehrere mal In anders Klassen,
welche I interpretiert als a stark Skepsis um beide von ihnen.
Vergleichen Die AICc Und BIC-Strafen, Wir sehen Das Die AICc Wille verhindern
groß Modelle aus Sein gewählt Wann Die Probe Größe Ist klein,
wohingegen Die Bankleitzahl Wille Trotzdem erlauben groß Modelle.
I sehen Die K Protokoll Und Normalisierung Konstante Strafe In Die BIC als etwas
weniger zwingend als Die Kreuzvalidierung Interpretation von Die AIC- Typ Strafen.
Etwas Das führt
Zu a marginal Wahrscheinlichkeit von Die Daten Ist mehr Abstrakt Zu Mich als etwas
Das Ist direkt interpretierbar als a Kreuzvalidierung metrisch
Einnahme hinein Konto Parameter Unsicherheit.
Ich bin voll bewusst
Das Ich bin redaktionell Hier, Aber Das Ist Was ist gearbeitet Also
für Mich Also weit.
Rückkehr Zu Die p DNA Damhirschkuh eins mehr Zeit.
Hier Sind Die Dasselbe Modelle fit In Die pDNA Beispiel
mit Die BIC zuerst Auswahl An Spitze Und Die AICc An Die unten.
Beachten Das Die BIC von Die voll Normal Modell
Ist nicht als weit weg aus Die andere Modelle als mit Die AICc.
Der am besten Modell gesamt als bewertet von Die Bankleitzahl Ist a logNormal,
Aber mit 13 Parameter Das Zeit um eher als neun.
Der nach vorne ausgewählt BIC normal Modell Auch hat a Paar mehr Parameter.
In klein Proben, Gegenteil Zu Die AIC Überanpassungen,
BIC unter passt, Die AICc dürfen wählen kleiner Modelle als Die Bankleitzahl In klein Proben.
Hier Wir sehen Die Effekte gewählt von Die BIC und Die AICc.
Der Satz von BIC-ausgewählt Effekte Ist a Supermenge von Die diejenigen gewählt
von Die AICc.
A auch beachten, interessant, Das alle vier Effekte nicht gewählt
von Die AICc Sind statistisch unter dem BIC von Bedeutung.
Unter Die BIC, Die pH im Quadrat Begriff Ist hoch bedeutsam,
Aber Es ist nicht gegenwärtig In Die AICc Modell, für Beispiel.
I würde sagen Das alle Die bedeutsam Effekte
sollen haben Sternchen von ihnen,
Aber alle bedeutsam p-Werte haben Sternchen von ihnen und J Abgeordneter Berichte.
Stattdessen, Krank Nur sagen Das I nehmen p-Werte von Effekte
nach Auswahl mit a Getreide von Salz.
Obwohl Die zwei Modelle wählen anders Effekte,
manche von ihnen hoch statistisch bedeutsam In Die Modell.
Wenn Wir sehen bei Die Profil
oder Variable Bedeutung aus diese zwei Modelle,
Sie erzählen a sehr ähnlich Geschichte.
Füttern Rate Ist von weit Die am meisten wichtig
Und nach Das Die Bestellung Ist Die Dasselbe zwischen Die zwei Modelle.
Nur pH Auswirkungen 3% von Die Variation In Die Antwort Oberfläche unter Die Bankleitzahl
am besten Modell Und ist nicht inklusive bei alle In Die AICc am besten Modell.
Das Ist a sehr klar Beispiel
von statistische Bedeutung Und praktisch Relevanz
Sein zwei anders Dinge.
Dort Sind a viel von Meinungen aus Dort um Die AICc Und Die BIC.
Für Beispiel, Burnham Und Anderson
sagen Das beide Methoden Sind konsistent für Die Fast- WAHR Modell als N geht
Zu Unendlichkeit.
Aber Dann es gibt andere Das sagen
Das Die BIC ist Die nur eins konsistent für Die Wahrheit.
Burnham Und Anderson sagen Das Du dürfen Satz hoch Simulationen Zu machen eins sehen Gut,
ändern Die Weg es ist Satz hoch a wenig bisschen Und es wird umdrehen Die Ergebnisse.
Burnham Und Anderson,
WHO Sind um Die am meisten Stirb langsam AICc Fans aus Dort In ihre Simulationen,
gefunden Das Die AICc wählt weniger Wirklich schlecht Modelle als Die BIC.
I denken es ist nicht a schlecht Idee Zu sehen bei beide BIC und AICc
nach Bewerbung Variable Auswahl.
Wenn Die am besten Modelle unter beide Sind hübsch viel Die Dasselbe, welche Ist oft Die Fall,
Du dürfen fühlen hübsch Gut um entweder von ihnen, Wenn Sie sind anders
es ist Gut Zu denken um Die Gründe Warum Und verwenden dein Thema Gegenstand Sachverstand
Zu helfen machen a Entscheidung.
Mein zuletzt Thema Ist Modell Auswahl Kriterien Und linear gemischt Modelle.
Das Ist a hübsch kompliziert Situation, besonders Weil Dort ist nicht Konsens
zwischen Software Anbieter In Wie Zu berechnen Die Modell Auswahl Kriterien.
Zu veranschaulichen Das, I erstellt a Teilt Handlung Design mit vier Faktoren.
Dort Sind zwei ganz Handlung Effekte Und zwei Teilt Handlung Effekte.
Wenn Du nehmen Die Dasselbe Daten Und fit Die Dasselbe Modell In JMP Pro
Und SAS mit fit gemischt Und proc gemischt,
Du Wille sehen Das Die Wahrscheinlichkeiten Und Modell Auswahl Kriterien nicht übereinstimmen,
Aber Die Varianz Schätzungen Tun, Du erhalten anders behoben Effekte
Parameter Schätzungen, Aber Die behoben Effekte Tests zustimmen.
Eins von Die Gründe für Das Ist Das JMP Und SAS behoben Effekte Design Matrizen
verwenden a anders Kodierung Strategie für kategorisch Effekte.
An Die links I haben Die JMP Design Matrix für Die Teilt Handlung Beispiel,
Und An Die Rechts Du sehen Die SAS eins.
JMP schafft a Reihe von Minus diejenigen
für Die zuletzt Ebene von kategorisch Effekte welche Ist gesehen In Blau Hier
wohingegen SAS schafft a Reihe von Nullen.
Weder eins von diese Ist Rechts oder falsch.
Es ist wie Ändern Einheiten oder Ändern koordinieren Systeme.
JMP kategorisch Effekte Summe Zu null, wohingegen SAS kategorisch Effekte
dürfen Sei interpretiert als Unterschiede aus Die zuletzt Ebene.
Obwohl Die roh Parameter Schätzungen abweichen,
Vorhersagen Wille Sei Die Dasselbe zwischen Die zwei Kodierungen Weil Die Modelle
Sind grundsätzlich Äquivalent.
Am meisten Dinge Das Gegenstand
Gewohnheit Sei anders zwischen Die zwei Software Produkte.
Jedoch, REML, das Verfahren gebraucht Zu schätzen gemischt Effekte Modelle
hat ein Mehrdeutigkeit In Es.
Der Base Gaußsche Wahrscheinlichkeit bei Die Spitze
Wille Sei Die Dasselbe In entweder Software Weil es ist a real Wahrscheinlichkeit.
Aber Die REML oder Rest Wahrscheinlichkeit berichtet von proc gemischt
Und JMP Profis fit gemischt ist nicht a real Wahrscheinlichkeit.
Wenn Es War a real Wahrscheinlichkeit, Dann Wir würde erhalten Die Dasselbe Werte
egal von welche Kodierung oder Software Wir gebraucht.
Das Ist Weil es gibt ein Extra Strafe hinzugefügt Zu Die Gaußsche Wahrscheinlichkeit
für REML Das reduziert Die Voreingenommenheit von Die Varianz Schätzungen.
Aber Das kommt darauf an An Die Design Matrix
In a Weg Das Ist empfindlich Zu Die Kodierung gebraucht.
JMP Berichte, Die roh Gaußsche Wahrscheinlichkeit, Und Die AICc Und BIC, das Es Berichte
Sind basierend An Das eher als Die Rest Wahrscheinlichkeit.
Der Nummer von Parameter fit gemischt zählt
Ist Die gesamt einschließlich beide behoben Effekte Und Varianz Parameter.
Wir tat Es Das Weg Zu machen Es Also Das Du dürfen verwenden JMP Zu vergleichen Modelle
mit anders Festnetz- Wirkung Strukturen als Also als Varianz Modelle.
In SAS, Sie nur Bericht Die Rest oder REML Log-Wahrscheinlichkeit
Und Es Berichte Modell Auswahl Kriterien basierend An Es.
Du dürfen sehen Hier Das Es Auch nur zählt Varianz Parameter als Also
Weil Die Unterschied zwischen Die SAS Wahrscheinlichkeit
Und es ist AIC Ist für impliziert zwei Parameter,
a Varianz Komponente Und a Rest.
Alle Das bedeutet Ist Das
Du dürfen nur benutze p roc gemischt für Vergleichen Varianz Modelle
mit Die AIC Weil Die Modell Auswahl Kriterien
beinhaltet Die REML Strafe Und es ist nur Zählen Varianz Parameter.
Mit alle fällig respektieren,
I dürfen denken von manche Gut Gründe für Die SAS Ansatz,
Und Dort Sind wahrscheinlich manche andere Gut Gründe I nicht sogar wissen von.
Aber I persönlich bevorzugen Die Flexibilität gewährt von Die JMP Ansatz.
Zu zusammenfassen, Wenn Du vergleichen Ergebnisse über Software
für nicht- gemischt Modelle, Die bedeuten Parameter Schätzungen Mai abweichen,
Aber ansonsten alles anders sollen Sei Die Dasselbe.
Als lang als Die Software berechnet
Die Konstanten Und Die Wahrscheinlichkeit korrekt als JMP tut.
Wann Wir erhalten Zu Gaußsche gemischt Modelle,
Dort Sind sehr wichtig Software Unterschiede
Und Die Umfang von Die Entscheidungen Du dürfen machen um Die Modelle
mit Die Software Mai Sei sehr anders
abhängig An Die Details von Wie es ist Wahrscheinlichkeit Ist berechnet.
JMP Modell Auswahl Kriterien
Sind vergleichbar beide innerhalb Die Dasselbe Plattform
Und über andere Modellieren Plattformen.
Krank schließen mit Das gleiten, welche gibt Mein Basic Empfehlungen
für Bewerbung Die Werkzeuge diskutiert Heute.
Hypothese Testen Ist a Werkzeug für Wann Du brauchen Zu beweisen etwas
Und Ist am besten gebraucht In Situationen Wann Du haben a Gut Idee
von Die Modell Struktur In Vorauszahlung.
Wann du bist Arbeiten An a Problem In Industrie Und Die Probe Größe Ist klein,
I würde Stock Zu klassisch statistische Modelle
Und verwenden Die AICc als Die primär Werkzeug für Auswahl zwischen ihnen.
Mit größer Daten Sätze, Wann I haben genug Daten Zu halten aus
bei am wenigsten a dritte von Die Beobachtungen, I verwenden Ausharren Kreuzvalidierung Zu vergleichen
klassisch statistische Modelle als Also als Maschine Lernen Modelle.
In Mein eigen arbeiten, I neigen Zu vermeiden K- falten Kreuzvalidierung
Und es ist Varianz.
Der Modell Auswahl Kriterien Sind Äquivalent Zu Es In größer Proben,
Und I neigen Zu Stock mit einfacher Modelle mit kleiner Daten Sätze.
I wissen Das nicht alle Ist gehen Zu zustimmen mit Mich An Das,
Aber Das Ist Was Werke für Mich Und Ist a hübsch sicher Weg
Zu Ansatz Modell Auswahl.
Auswählen Die am meisten nützlich Modell aus a Satz von Alternativen Das muss alle Sei falsch
An manche Ebene Ist ein wichtig Entscheidung, Und diese Sind Die hauptsächlich Überlegungen
I haben Wann entscheiden auf a Modell Auswahl Strategie.
Dank Du für dein Aufmerksamkeit Und I sehen nach vorne Zu reden mit Du
In Die Treffen Die Experte Sitzungen.
