Bereitstellen schrittweiser Regressionsmethoden in JMP und JMP ProErfahren Sie, wie Sie mit JMP und JMP Pro wichtige Prädiktoren identifizieren, die für die prädiktive Modellierung geeignet sind, wie Sie die durch die Schätzung unnötiger Terme verursachte Varianz verringern und wie Sie prädiktive Modelle erstellen. Sehen Sie sich Fallstudien an, die zeigen, wie Sie mit JMP Stepwise Regression wichtige Variablen und aktive Modelleffekte ermitteln und wie sich dieser Ansatz im Vergleich zu den verallgemeinerten Regressionstechniken von JMP Pro schlägt, die automatisch die Variablenauswahl einbeziehen.
Erfahren Sie, wie Sie:
- Verstehen Sie die Grundlagen der schrittweisen Regressionsmethode
- Wählen Sie Optionen für die schrittweise Regression, um die Faktorauswahl zu automatisieren
- Analysieren > Modell anpassen > Persönlichkeit: Schrittweise
- Stoppregel/Kriterien festlegen
- Vorwärts-, Rückwärts- oder gemischte Richtung einstellen
- Bei der Vorwärtsselektion wird die Variable mit dem niedrigsten p-Wert ausgewählt, dem Modell hinzugefügt und anschließend die p-Werte und Abbruchkriterien neu berechnet, bis die Abbruchkriterien erfüllt sind.
- Bei der Rückwärtseliminierung wird die Variable mit dem höchsten p-Wert ausgewählt, aus dem Modell entfernt und anschließend die p-Werte und Abbruchkriterien neu berechnet, bis die Abbruchkriterien erfüllt sind.
- Gemischt wechselt zwischen Vorwärtsselektion und Rückwärtseliminierung, wobei der P-Wert als Abbruchkriterium verwendet wird
- Ausführen des Modells
- Zusätzliche schrittweise Optionen verwenden
- Alternative Abbruchregel - KFold-Validierung R2
- Bauen und vergleichen Sie alle möglichen Modelle
- Verwenden Sie eine Modellmittelung basierend auf dem AICc-Gewicht in jedem Modell
- Implementieren Sie schrittweise Methoden in JMP Pro Generalized Regression, um Variablenauswahl, Validierung und bestrafte Regression zur Unterstützung bei korrelierten Faktoren, interaktive Modellvisualisierung, Modellvergleich und einfachen Neustart von Modellen mit Termen höherer Ordnung einfach einzusetzen.
- Verstehen Sie die Vorteile und Grenzen der schrittweisen und verallgemeinerten Regressionsansätze
JMP Stepwise Regression FlowJMP Stepwise Regression FlowJMP Stepwise Regression FlowJMP Stepwise Regression FlowJMP-Ablauf für schrittweise Regression
Fragen beantwortet von Scott Allen @scott_allen und Byron Wingerd @Byron_JMP im Live-Webinar:
F: Gibt es eine Richtlinie, wann AICc gegenüber BIC vorzuziehen ist?
A: BIC liefert Ihnen das beste Modell mit den wenigsten Termen; AICc liefert Ihnen das Modell, das die meisten Variationen erklärt und durch die Anzahl der Terme bestraft wird. Das kleine c in AICc steht für korrigiert und bedeutet korrigiert für kleine Datensätze. AIC versucht, das Modell auszuwählen, das eine unbekannte, hochdimensionale Realität am besten beschreibt. Das bedeutet, dass die Realität nie in der Menge der in Betracht gezogenen Kandidatenmodelle enthalten ist. Im Gegenteil, BIC versucht, das WAHRE Modell unter den Kandidaten zu finden.
Die kurze Antwort lautet: Ich führe sie einfach beide aus und vergleiche sie. Sie können auch beide nehmen und dann den Durchschnitt daraus berechnen. Sie haben hier auf der Stepwise-Plattform die Tools, um diese auszuführen und sie dann zu vergleichen und die Ergebnisse automatisch in einem Diagramm zu vergleichen. In einigen Fällen hängt es von Ihrem Ziel ab, ob Sie mit mehr Begriffen einverstanden sind oder ob Sie dies wirklich auf das Minimum reduzieren möchten. Im Beispiel mit 500 Datenpunkten ist BIC wahrscheinlich vorzuziehen.
F: Wie überprüfen wir die Passform?
A: Wenn wir in JMP nur lineare Modelle anpassen, wird es selbst bei Verwendung von Stepwise etwas schwieriger, Überanpassungsprobleme zu identifizieren. In JMP Pro können wir Test-, Trainings- und Validierungsteilmengen einrichten (oder, wenn Sie es vorziehen, zumindest Test und Training) und die R-Quadrate vergleichen. Wenn Sie also sehen, dass der Trainingssatz ein wirklich tolles R-Quadrat hat und Ihr Validierungssatz ein wirklich schreckliches R-Quadrat, bedeutet das, dass Sie die Daten gut angepasst haben und zukünftige Beobachtungen nicht sehr aussagekräftig vorhersagen können.
F: Im Modell haben insgesamt 568 Zeilen auch Validierungszeilen. Verwenden wir alle diese im Modell oder behalten wir sie?
A: Sie werden zur Validierung zurückgehalten und separat als Validierungsuntermenge ausgewertet.
F: Im alten SAS Enterprise Miner war der Knoten „Ensemble“ oft am leistungsstärksten. Was halten Sie davon, eine Reihe von Modellen auszuführen, die Vorhersagen zu speichern und dann einfach alle diese vorhergesagten Werte zu mitteln?
A: In JMP verwenden wir die neuronale Netzplattform, um ein Ensemblemodell einzurichten. Diese übertreffen im Allgemeinen die Einzelmodelle.
F: Wie sind Sie zu der Farbkarte für Korrelationen gekommen?
A: Suchen Sie unter dem roten Dreieck nach den Farbkartenoptionen.
F: Wie erkennen und handhaben Sie Multikollinearität?
A: Die schrittweise Vorgehensweise in JMP allein wird die Multikollinearität nicht bewältigen, Sie müssten sie also im Voraus herausziehen und/oder mithilfe von Clustering eine repräsentative Variable finden. Wenn Sie mit der verallgemeinerten Regression in JMP Pro arbeiten, können bestrafte Regressionsmethoden ebenfalls dabei helfen, das Problem zu lösen. Wenn Sie also wirklich darüber besorgt sind, ist die verallgemeinerte Regression definitiv der richtige Weg. Sie könnten dieses Kleinstquadrate-Modell erstellen, es ausführen und sich Ihre Parameterschätzungen ansehen. Hohe VIF-Werte könnten auf Multikollinearität hinweisen. Siehe Video unten.
Erweiterte statistische ModellierungBetreff: Bereitstellen schrittweiser Regressionsmethoden in JMP und JMP ProDanke für das Webinar! Und dieser Dank gilt auch Scott Allen.
Das war eine tolle Erfahrung und ich konnte es kaum erwarten, das neue Wissen sofort auf meine Daten anzuwenden.
Als ich die neu erlernte K-Ordner-Regressionsmethode anwandte, erhielt ich gemischte Ergebnisse.
- Ursprüngliche Regressionsanalyse von Stepwise vor dieser Webinar-Sitzung: Mit einer Standardeinstellung für Regel, Richtung und andere habe ich sie für ein Modell ausgeführt, das unten zuerst aufgeführt ist (Bild 1). Ich habe das Modell weiter eingegrenzt, indem ich Terme mit einem P-Wert von >0,05 und weitere Vereinfachungen (Reduktionsterme innerhalb angemessener adj-R2-Werte) entfernt habe. Mit diesen Ergebnissen war ich zufrieden.
- Spätere Analyse mit demselben Stepwise nach diesem Webinar: Indem ich die Regel in „Max. K-fach RSquare“ änderte, wiederholte ich die Analyse, um die vorläufige Analyse zu erhalten (Bild 2). Obwohl die vorläufigen Ergebnisse zeigen, dass maximale R-Werte mit 13 Termen am besten sind. Ich möchte nicht so viele Terme in meinem Modell und war mit einem R-Wert-Niveau von 5 bis 6 Termen für Training und K-Fold einverstanden. Also wählte ich die Ergebnisse mit 6 Termen wie gesehen und führte das Modell aus.
Wie Sie sehen können, enthält sein Modell in Bild 3 einen Term mit P-Wert >0,05. Außerdem ist das Konfidenz-/Varianzniveau in seinem Profil für die meisten Terme sehr breit. Also habe ich den AR-Term entfernt, um ähnliche R-Werte und ein ähnliches Modell wie mein ursprüngliches Modell zu haben – außer dass „RV“ des ursprünglichen Modells im neuen Modell durch den Term „Vol“ ersetzt wurde. Diese beiden Terme RV und Vol könnten ähnliche, aber nicht genau dieselben Informationen enthalten. Ich weiß nicht, warum die K-fach-Regel den einen Term dem anderen vorzieht.
Wie dem auch sei, ich bin mit den Ergebnissen zufrieden, da sie auf eine ähnliche Art und Weise der Modellierung zustande kamen, was bestätigt, dass mein ursprüngliches Modell nicht allzu schlecht war (ohne separaten Trainings- und Validierungsprozess. So habe ich die K-fach-Methode verstanden, bei der der Datensatz in zwei Teilmengengruppen unterteilt wird, um eine Gruppe für das Training und die andere für die Validierung zu verwenden. Habe ich Recht?)
Hier ist meine 2. Frage, falls die obige als 1. Frage zählt:
Obwohl die K-Fold-Methode mit einem R2 von 0,947 ein etwas besseres Ergebnis lieferte, bevorzuge ich immer noch das ursprüngliche Ergebnis R2 von 0,942. Das liegt daran, dass ihr Modell im Vergleich zu den neuen Ergebnissen von K-Fold weniger Unsicherheiten im Modellierungsprofiler für die Begriffe Rad und RV aufweist. Die K-Fold-Methode kann einfach für diese Art der Modellvalidierung oder für mehr verwendet werden, wenn der ursprüngliche Ansatz nicht gut genug war.
In diesem speziellen Beispiel war die Entscheidung nicht schwierig, da sich die R2-Werte nicht wesentlich unterschieden.
Aber welches Modell wäre besser, wenn die R2-Werte im ursprünglichen Modell um 0,1 niedriger sind (mit 2–3 Termen weniger), die Varianz im Vorhersageprofiler jedoch viel geringer ist (wie beim ursprünglichen Modell im Vergleich zum Modell in Bild 3)?
Ich verwende derzeit JMP 17.
Bild 1: Originalanalyse
Bild 2: Vorläufige Regression nach der K-fachen Regel
Bild 3: Modell von K-Fold
Bild 4: Endergebnisse nach der K-fachen Methode
Betreff: Bereitstellen schrittweiser Regressionsmethoden in JMP und JMP ProHallo @SeanL
In Bild 3 sind die Konfidenzintervalle, die in Ihrem Profiler wie „Fliegen“ aussehen, ein guter Indikator dafür, dass Sie einige stark korrelierte Variablen haben. Da die schrittweise Regression die Auswirkung jeder Variablen auf das Modell unabhängig prüft, erkennt sie korrelierte Variablen nicht immer.
Um dies zu überprüfen, können Sie die VIFs prüfen, indem Sie mit der rechten Maustaste auf die Tabelle in der Tabelle „Parameterschätzungen“ klicken und die Spalte „VIF“ hinzufügen. Jeder VIF-Wert >10 weist darauf hin, dass wahrscheinlich Kollinearität ein Problem darstellt. Das Statistik-Wissensportal bietet hier einen guten Überblick.
Es scheint, als ob dies in Bild 4 behoben ist, wenn Sie eine der Variablen manuell entfernen.
Sie können eine multivariate Analyse für alle Ihre Variablen ausführen, um auf Korrelation zu prüfen und dann die repräsentativste Variable für Ihre Modellierung auszuwählen. Sie können sich auch das Webinar „Mastering JMP“ zum Erstellen prädiktiver Modelle für korrelierte und hochdimensionale Daten ansehen.
Betreff: Bereitstellen schrittweiser Regressionsmethoden in JMP und JMP ProBezüglich Ensemble-Modellen schrieb @scott_allen : Es gibt andere Möglichkeiten, Ensemble-Modelle in Standard-JMP und JMP Pro zu erstellen. Sie können Modelle in Standard-JMP einfach manuell mitteln (summieren und durch die Anzahl der Modelle dividieren). In JMP Pro können Sie mithilfe der Plattform „Modelle vergleichen“ verschiedene Modelle zu Ensembles zusammenfassen. Siehe auch die Präsentation „2021 Ensemble Model“ von @Peter_Hersh .
