Erfahren Sie, wie Sie mit einfachen statistischen Techniken wichtige Variablen und Wechselwirkungen in Ihren Daten identifizieren können, um leistungsstarke Vorhersagemodelle zu erstellen und zusätzliche Erkenntnisse zu gewinnen.
Erfahren Sie, wie Sie:
- Machen Sie sich mit den zu berücksichtigenden Voraussetzungen vertraut, bevor Sie mit der Identifizierung wichtiger Variablen beginnen
- Bereinigen und bereiten Sie Daten mit Column Viewer vor
- Identifizieren und entscheiden Sie, wie mit Ausreißern und fehlenden Daten umgegangen werden soll, indem Sie „Fehlende Werte erkunden“, „Ausreißer untersuchen“ und „Muster untersuchen“ verwenden
- Stellen Sie sicher, dass der Datensatz das System, das Sie untersuchen möchten, am besten darstellt<
- Verwenden Sie Verteilungen in Spaltenüberschriften und den Graph Builder, um die Daten zu untersuchen und Trends zu visualisieren
- Führen Sie eine multivariate Analyse zur ID durch korrelierte Variablen
- Verwenden Sie das Antwort-Screening, um die wichtigsten Variablen zu identifizieren, die sich auf die Antwort auswirken
- Verwenden Sie Predictor Screening (Entscheidungsbaummethoden), um viele Faktoren bei der Vorhersage einer Reaktion zu testen
- Verwenden Sie die multivariate Analyse, um Variablen mit hoher Korrelation zu identifizieren
- Gruppieren Sie Variablen, um korrelierte Variablen zu gruppieren, und identifizieren Sie die einzelne Variable, die am repräsentativsten ist
- Verwenden Sie „Modell anpassen“ > „Antwort-Screening“ und „Schrittweise Regression“, um Interaktionen und Begriffe höherer Ordnung basierend auf Ihren wichtigen und einzigartigen Variablen zu finden
Von Scott beantwortete Fragen @scott_allen Und @Byron_JMP während des Live-Webinars im Juni 2023.
F: Wie haben Sie im Diagrammersteller die Auswahl aufgehoben?
A: Klicken Sie auf den Leerraum im Diagramm, nicht auf eine Markierung.
F: Könnten Sie Ihre Erklärung zum P-Wert und seinem Rang näher erläutern? Was bedeutet Hoch vs. Tief, was ist zu erwarten, wenn wir bestimmte Werte oder Trends sehen usw.
A: Berücksichtigen Sie für den p-Wert und die meisten Statistiken .Auch wenn Sie in JMP sind und Hilfe zu einer Statistik (oder etwas anderem angezeigten Inhalten) benötigen.Wählen Sie Extras > ? und klicken Sie auf den Bereich (in diesem Fall die Überschrift der p-Wert-Spalte), zu dem Sie Hilfe benötigen.Siehe auch Das Erläuterung.
F: Wie unterscheidet sich die Prädiktor-Screening-Plattform vom Random-Forest-Modell?
A: In JMP nennen wir Random Forest Bootstrap-Wald (weil Random Forest markenrechtlich geschützt ist). Das ist gleich. Das Predictor Screening umfasst kein Modell, sondern nur das Ranking.
F: Gibt es eine andere Plattform, die genau das tut, da Ihnen der Vorhersagebildschirm nicht anzeigt, wie viel Prozent der Abweichung jedem einzelnen Prädiktor zugeschrieben werden?
A: Der Prädiktor-Screening-Bericht zeigt die Liste der Prädiktoren mit ihren jeweiligen Beiträgen und ihrem Rang. Prädiktoren mit den höchsten Beiträgen sind wahrscheinlich wichtig für die Vorhersage von Y. Die Spalte „Beitrag“ zeigt den Beitrag jedes Prädiktors zum Bootstrap Forest-Modell. Die Spalte „Anteil“ im Bericht zeigt den prozentualen Beitrag jeder Variablen.
F: Kann die multivariate Analyse absolute Korrelationszahlen anstelle von -1 zu 1 haben?
A: Ja und nein. Die Tabelle ist eine Matrix von Korrelationskoeffizienten, die die Stärke der linearen Beziehungen zwischen jedem Paar von Antwortvariablen (Y) zusammenfasst. Sehen Multivariate Methoden .
F: Wie würden Sie die wichtigsten Variablen auswählen, wenn Sie kontinuierliche, binomiale (ja/nein) und geordnete (niedrige, mittlere, hohe) unabhängige Variablen hätten?
A: Ja, Sie können alle diese Methoden verwenden: Predictor Screening und Response Screening.
F: Verwenden Sie jemals eine schrittweise Regression? Bietet JMP eine Regression aller möglichen Teilmengen?
A: Sehen Sie Details zur schrittweisen Regression .
F: Viele meiner Daten enthalten mehrere Antworten und ich finde, dass dadurch einige meiner Möglichkeiten in JMP eingeschränkt werden. Führen Sie eine spezielle Bereinigung der Mehrfachantwortdaten durch oder arbeiten Sie unverändert damit? Ich beziehe mich auf eine Spalteneigenschaft „Mehrfachantwort“ (eine Liste mehrerer Datenpunkte). Ich gehe davon aus, dass es einfacher ist, diese einfach in zwei verschiedene Spalten aufzuteilen, wollte aber sehen, ob es einen besseren Weg gibt.
A: Ja, wir lassen Sie lagern mehrere Antworten in einer Zelle als eine, aber um sie zu analysieren, ist es richtig, sie in verschiedene Spalten aufzuteilen.
F: Wie unterscheiden sich baumbasierte Methoden im Vergleich zu PLS oder PCA?
A: Mit PCA oder PLS versuchen wir, alle Daten mit dieser geringeren Anzahl latenter Variablen darzustellen.Sie versuchen, eine reduzierte Anzahl von Dimensionen zu finden, die alle Daten darstellen können. Das ist etwas anderes als baumbasierte Methoden, die Ihnen dabei helfen, herauszufinden, was etwas tatsächlich erklärt. Baummethoden ersetzen PCA und PLS, um besser zu bauen. Baumbasierte Methoden eignen sich hervorragend zum Modellieren von Daten, reagieren jedoch sehr empfindlich auf Änderungen und können stark überpassen. Mit den baumbasierten Methoden, bei denen Sie jedes Mal, wenn Sie einen neuen Baum erstellen, eine Zufallsstichprobe der Zeilen und eine Zufallsstichprobe der Spalten nehmen, ist er wirklich robust gegenüber Ausreißern und kann ähnliche Interaktionen und ähnliche Quadrate modellieren oder Kubikzahlen, sofern sie in den Daten vorhanden sind. Sie müssen also nicht viele Annahmen treffen.
F: Kann ich Predictor Screening und Response Screening für abhängige Variablen verwenden, die numerisch sind und meine unabhängigen Variablen kontinuierlich, binomial und geordnet sind?
A: Ja.
Erfahren Sie, wie Sie:
- Verwenden Sie JMP Partition, um wichtige Faktoren zu identifizieren
- Präzise und automatisch alle Modellinteraktionseffekte
Modeling Workflow with Factor SelectionModellierungsworkflow mit Faktorauswahl
Scott Allen @scott_allen und Byron Wingerd @Byron_JMP beantwortete Fragen nach der Demo.
F: Gibt es ein Tutorial-Video für die Ausreißer-Tools?
A: Das ist ein gutes Buch, das das abdeckt Entdecken Sie Ausreißer Werkzeug in JMP.Sie können auch die durcharbeiten Dokumentation und Beispiele .
F: Warum sollten Sie nicht zuerst die korrelierten Variablen entfernen?
A: Das Vorhandensein korrelierter Variablen beeinflusst häufig die Modellierungsmethode. PLS ist beispielsweise robuster gegenüber korrelierten Xs. Auch die Reihenfolge kann eine Präferenz sein. Sie können es in beide Richtungen tun – Prädiktor-Screening, dann Clustering oder umgekehrt.Beachten Sie, dass das Clustering etwas ungenau sein kann, wenn viele Werte fehlen oder sich Spalten nicht ändern (z. B. eine Instrumenteneinstellung).Manchmal ist eine zusätzliche Datenbereinigung und -vorbereitung erforderlich, wenn Sie mit dem Clustering beginnen möchten.
F: Wie würden Sie den Vorhersagealgorithmus festlegen?
A: Das ist eine komplizierte Frage und die Antwort hängt von Ihrer Situation ab. Meistens ist ein lineares Modell am einfachsten und aussagekräftigsten. Andere Methoden umgehen spezifische Probleme mit den Daten oder Analysezielen.
F: Warum werden die linearen Begriffe so dringend empfohlen?Wenn meine Korrelation Y=X^2 ist, warum versucht JMP dann ständig, den X-Term hinzuzufügen?
A: Dies hängt mit der Effektvererbung zusammen. Manchmal sind Ihre höheren Ordnungsbedingungen wichtig, aber nicht der Haupteffekt. Sie möchten also den Haupteffekt beibehalten.Wenn Sie beispielsweise den Haupteffekt entfernen würden, würden Sie im Prediction Filer keine Änderung der Steigung, sondern nur die Krümmung sehen und eine nicht so gute Vorhersage erhalten.
F: Für das Prädiktor-Screening sollten die Daten der Faktoren und die Antworten in derselben Reihenfolge (gepaart) erfasst werden oder können zufällig gesammelte Daten (ungepaart) verwendet werden.
A: Die Reihenfolge spielt keine Rolle, aber für die multivariate Analyse fügen wir oft Ys in eine Gruppe ein.Die Reihenfolge, in der Sie sie zu Y hinzufügen, ist die Reihenfolge, in der sie in der Matrix angezeigt werden.
F: Würde eine multilineare Regressionsanalyse von x-Faktoren (600 Spalten) dabei helfen herauszufinden, welche x-Spalten einen höheren Ertragsbeitrag leisten?
A: Wenn Sie nur eine lineare Regression für 600 Spalten durchführen, verwässern Sie wirklich das, was Ihr Y erklärt. Baummethoden wie Partition eignen sich hervorragend, um herauszufinden, welche dieser 600 Spalten Sie dorthin bringen. Als Scott das Predictor Screening vorführte, nahm es eine Zufallsstichprobe der Zeilen und Spalten und baute einen Baum auf, führte dies 100 Mal durch und bildete den Durchschnitt über diese hundert Bäume, um das Ergebnis zu erhalten.Mit Partition können Sie Dinge erzwingen, Entscheidungen an verschiedenen Orten treffen oder etwas verfolgen, während es aufgeteilt wird. Sie können sich dann den Variance Importance Report ansehen oder
der Split-Verlauf und die R-Quadrat-Änderungen.Dieses Beispiel ist zu groß, um dies zu tun, aber es soll Ihnen eine Vorstellung davon geben, wie Sie Partition verwenden.
F: Wenn die 600 separaten linearen Regressionen die Erklärungskraft Ihres Modells verwässern, verwendet Response Screening dann die FDR-Korrektur (False Discovery Rate) in diesen zusammenfassenden Statistiken (die Scott zuvor gezeigt und aufsteigend verkürzt hat), um dies zu kompensieren?
A: Allein durch Zufall werden Sie Dinge finden, die wirklich gut sind. Sie sollten versuchen, diese zu filtern. Wir wollen Dinge nicht allein durch Zufall finden, deshalb hilft FDR dabei, dies zu korrigieren.Ich betone HILFE, denn kein Modell ist perfekt. Ebenso sind alle baumbasierten Modelle in Situationen mit multipler Linearität am besten, wenn Sie zunächst versuchen, die Varianz herauszutrennen und die Variablen zu finden, die wirklich am wichtigsten sind, anstatt alles in das Modell zu werfen.Manchmal kann man das Erstellen Sie Ensemblemodelle mit JMP Pro .
F: Gibt es drei andere Methoden, dies mit JMP Pro zu tun?
A; Ja, auch mit der XGBoost-Add-In .Siehe unten.
Hallo @HelenaG
Danke für die Fragen. Ich denke, Predictor Screening ist ein großartiges Tool und ich freue mich, dass Sie es hilfreich finden. Anstatt Ihre individuelle Frage zu beantworten, möchte ich etwas ausführlicher erläutern, worum es in dieser Analyse geht.
Die Prädiktor-Screening-Analyse führt ein Bootstrap-Forest-Partitionsmodell (mit standardmäßig 100 Entscheidungsbäumen) aus und ordnet dann die Prädiktoren basierend auf ihrem Beitrag zum Modell. Kurz gesagt: Bei der Bootstrap-Forest-Analyse werden viele Entscheidungsbäume gemittelt. Um einen Baum zu erstellen, braucht es a Bootstrap Stichprobe von Beobachtungen und passt ein Modell rekursiv an, indem es Aufteilungen mit einem zufälligen Satz von Prädiktoren vornimmt. Dies wird so lange fortgesetzt, bis eine Stoppregel erfüllt ist. Dann wird ein weiterer Baum mit einem neuen Satz von Bootstrapping-Beobachtungen und zufälligen Prädiktoraufteilungen erstellt. Sobald alle Bäume erstellt wurden, werden sie zu einem „Wald“ aus Bäumen zusammengefasst (daher der Name).
Zurück zur Prädiktor-Screening-Ausgabe: Die Beitragsspalte stellt die Summe der Quadrate für eine kontinuierliche numerische Antwort und G^2 für eine kategoriale Antwort bereit. Die Anteilsspalte ist der einzelne Prädiktorbeitrag dividiert durch die Summe aller Beiträge. Dies ist nicht dasselbe wie die Varianz, die von jedem einzelnen Prädiktor erklärt wird.
Um mehr über diese Plattformen zu erfahren, empfehle ich die Lektüre Partitionsmodell Und Boostrap-Wald Übersichten in der Dokumentation.
-Scott
Nick Shelton @nick_shelton , JMP SE-Manager, hat dieses Thema in der Vergangenheit vorgestellt und ich habe die älteren Videos zurückgezogen.Ich habe mir einen Kommentar ausgeliehen, den er dem Zuschauer gemacht hat @HelenaG weil es für jeden relevant sein könnte, der sich dieses Video und die Fragen und Antworten von Scot Allen von JMP SE ansieht @scott_allen und Byron Wingerd @Byron_JMP :
Helena fragte:
Ich möchte Folgendes besser verstehen: Alle mit der Identifizierung und Bewertung von Interaktionen verbundenen Schritte (mit Antwort-Screening und schrittweisen Regressionstools) basieren auf einer linearen Annahme – ist das richtig? Wenn ja, gibt es einen Vorschlag, nach nichtlinearen Wechselwirkungen zu suchen?
Nick schrieb:
T Die Identifizierung von Wechselwirkungen erfolgt am besten durch Domänenexpertise und ein bekanntes wissenschaftliches/physikalisches Verständnis der zu analysierenden Variablen.
Wenn Interaktionen zwischen Variablen nicht gut verstanden werden, eignet sich die Modellpersönlichkeit „Response Screening“ in Fit Model gut zur Quantifizierung der Stärke zwischen einzelnen Interaktionstermen und der Antwortvariablen.
Die Modellpersönlichkeit „Schrittweise Regression“ in „Modell anpassen“ eignet sich gut zur Identifizierung der besten Begriffskombination (z. B. Haupteffekte, Interaktionen usw.), die für ein potenzielles Modell verwendet werden kann.
Der Begriff „lineares“ Modell bezieht sich auf die Struktur der Formel des Modells, aber sowohl die Modellpersönlichkeiten „Response Screening“ als auch „Schrittweise Regression“ in „Fit Model“ können auch zur Untersuchung nichtlinearer Beziehungen verwendet werden.
Wir können nichtlineare Effekte und Wechselwirkungen in eine Analyse einbeziehen, indem wir Polynomterme hinzufügen.
In „Modell anpassen“ können Sie alle Polynombeziehungen (nichtlinear) untersuchen, indem Sie den entsprechenden Term in das Feld „Modelleffekte“ hinzufügen (Beispiel: Quadratische Beziehung (x1*x1), Kubische Beziehung (x1*x1*x1), Quadratische Interaktion (x1* x1*x2)...)
Weitere Informationen zu Polynomen und wie sie beim Verständnis der Beziehungen zwischen Variablen helfen können, sehen Sie sich bitte das kurze Video unten an:
https://community.jmp.com/t5/Short-Videos/Fitting-Polynomial-Models/ta-p/271953
