Erfahren Sie, wie Sie mithilfe einfacher statistischer Verfahren wichtige Variablen und Wechselwirkungen in Ihren Daten identifizieren können, um so leistungsstarke Vorhersagemodelle zu erstellen und zusätzliche Erkenntnisse zu gewinnen.
So geht's:
- Verstehen Sie die Voraussetzungen, die zu berücksichtigen sind, bevor Sie mit der Identifizierung wichtiger Variablen beginnen.
- Daten mit dem Spalten-Viewer bereinigen und aufbereiten
- Identifizieren Sie Ausreißer und fehlende Daten und entscheiden Sie mithilfe von „Fehlende Werte untersuchen“, „Ausreißer untersuchen“ und „Muster untersuchen“, wie Sie damit umgehen.
- Stellen Sie sicher, dass der Datensatz die bestmögliche Repräsentation des Systems ist, das Sie untersuchen möchten.
- Nutzen Sie die Verteilungen in den Spaltenüberschriften und den Diagrammgenerator, um die Daten zu untersuchen und Trends zu visualisieren.
- Führen Sie eine multivariate Analyse durch, um korrelierte Variablen zu identifizieren.
- Nutzen Sie das Response Screening, um die wichtigsten Variablen zu identifizieren, die die Antwort beeinflussen.
- Nutzen Sie das Predictor Screening (Entscheidungsbaumverfahren), um viele Faktoren bei der Vorhersage einer Reaktion zu testen.
- Nutzen Sie die multivariate Analyse, um Variablen mit hoher Korrelation zu identifizieren.
- Variablen werden gruppiert, um korrelierte Variablen zusammenzufassen und die repräsentativste Variable zu identifizieren.
- Verwenden Sie „Modell anpassen > Antwortscreening und schrittweise Regression“, um Interaktionen und Terme höherer Ordnung basierend auf Ihren wichtigen und einzigartigen Variablen zu finden.
Fragen, die von Scott @scott_allen und @Byron_JMP während des Live-Webinars im Juni 2023 beantwortet wurden.
F: Wie haben Sie die Auswahl im Diagramm-Builder aufgehoben?
A: Klicken Sie auf die weiße Fläche im Diagramm, nicht auf eine Markierung.
F: Könnten Sie Ihre Erklärung zum p-Wert und seiner Rangfolge genauer erläutern? Was bedeutet ein hoher bzw. niedriger Wert, was ist bei bestimmten Werten oder Trends zu erwarten usw.?
A: Für den p-Wert und die meisten statistischen Berechnungen beachten Sie bitte Folgendes: Wenn Sie in JMP Hilfe zu einer Statistik (oder einer anderen angezeigten Information) benötigen, wählen Sie „Tools“ > „?“ und klicken Sie auf den Bereich (in diesem Fall die Spaltenüberschrift für den p-Wert), zu dem Sie Hilfe benötigen. Siehe auch diese Erklärung.
F: Worin unterscheidet sich die Predictor-Screening-Plattform vom Random-Forest-Modell?
A: In JMP nennen wir Random Forest Bootstrap Forest (da Random Forest eine geschützte Marke ist). Es ist dasselbe. Das Predictor Screening beinhaltet kein Modell, sondern nur die Rangfolge.
F: Da die Vorhersagemaske nicht anzeigt, welcher Prozentsatz der Variation auf die einzelnen Prädiktoren zurückzuführen ist, gibt es eine andere Plattform, die genau das tut?
A: Der Bericht zur Prädiktor-Screening-Analyse zeigt die Liste der Prädiktoren mit ihren jeweiligen Beiträgen und ihrer Rangfolge. Prädiktoren mit den höchsten Beiträgen sind wahrscheinlich wichtig für die Vorhersage von Y. Die Spalte „Beitrag“ zeigt den Beitrag jedes Prädiktors zum Bootstrap-Forest-Modell. Die Spalte „Anteil“ im Bericht zeigt den prozentualen Beitrag jeder Variablen.
F: Können bei multivariaten Analysen absolute Korrelationswerte anstelle von -1 bis 1 verwendet werden?
A: Ja und nein. Die Tabelle ist eine Matrix von Korrelationskoeffizienten, die die Stärke der linearen Beziehungen zwischen jedem Paar von Zielvariablen (Y) zusammenfasst. Siehe multivariate Methoden .
F: Wie würden Sie die wichtigsten Variablen auswählen, wenn Sie stetige, binäre (Ja/Nein) und ordinale (niedrig, mittel, hoch) unabhängige Variablen hätten?
A: Ja, Sie können alle diese Methoden verwenden: Prädiktor-Screening und Response-Screening.
F: Verwenden Sie jemals schrittweise Regression? Bietet JMP eine Regression mit allen möglichen Teilmengen an?
A: Einzelheiten finden Sie unter Schrittweise Regression .
F: Viele meiner Daten enthalten mehrere Antworten, was meine Möglichkeiten in JMP einschränkt. Bereinigen Sie Daten mit mehreren Antworten speziell oder arbeiten Sie direkt damit? Ich meine die Spalteneigenschaft „Mehrere Antworten“ (eine Liste mit mehreren Datenpunkten). Ich nehme an, es ist einfacher, diese in zwei separate Spalten aufzuteilen, möchte aber wissen, ob es eine bessere Lösung gibt.
A: Ja, wir ermöglichen es Ihnen, mehrere Antworten in einer Zelle als an zu speichern, aber um sie zu analysieren, ist es richtig, sie in verschiedene Spalten aufzuteilen.
F: Wie schneiden baumbasierte Methoden im Vergleich zu PLS oder PCA ab?
A: Bei PCA oder PLS versuchen wir, alle Daten mit einer kleineren Anzahl latenter Variablen darzustellen. Wir suchen nach einer reduzierten Anzahl von Dimensionen, die alle Daten repräsentieren können. Das unterscheidet sich von baumbasierten Methoden, die helfen, die tatsächliche Erklärung eines Phänomens zu ermitteln. Baumbasierte Methoden ersetzen PCA und PLS zunehmend durch bessere Ergebnisse. Baumbasierte Methoden eignen sich hervorragend zur Datenmodellierung, reagieren aber sehr empfindlich auf Veränderungen und können leicht zu Überanpassung führen. Bei den baumbasierten Methoden hingegen, bei denen für jeden neuen Baum eine Zufallsstichprobe aus den Zeilen und Spalten gezogen wird, sind sie sehr robust gegenüber Ausreißern und können ähnliche Interaktionen sowie quadratische oder kubische Funktionen modellieren, sofern diese in den Daten vorhanden sind. Dadurch sind keine zahlreichen Annahmen erforderlich.
F: Kann ich Predictor Screening und Response Screening für abhängige Variablen verwenden, die numerisch sind, während meine unabhängigen Variablen stetig, binomial und geordnet sind?
A: Ja.
So geht's:
- Verwenden Sie JMP Partition, um signifikante Faktoren zu identifizieren.
- Alle Modellinteraktionseffekte präzise und automatisch erfassen
Modeling Workflow with Factor SelectionModellierungs-Workflow mit FaktorauswahlModellierungs-Workflow mit Faktorauswahl
BONUS: Scott Allen @scott_allen und Byron Wingerd @Byron_JMP beantworteten auch nach der Demo 2022 Fragen!
F: Gibt es ein Tutorial-Video für die Ausreißer-Tools?
A: Dies ist ein guter Artikel, der das Tool „Ausreißer untersuchen“ in JMP behandelt. Sie können auch die Dokumentation und die Beispiele durcharbeiten.
F: Warum sollte man nicht zuerst die korrelierten Variablen entfernen?
A: Das Vorhandensein korrelierter Variablen beeinflusst häufig die Wahl der Modellierungsmethode. PLS ist beispielsweise robuster gegenüber korrelierten X-Variablen. Auch die Reihenfolge kann eine Frage der Präferenz sein. Sie können beide Wege gehen – Prädiktor-Screening und anschließendes Clustering oder umgekehrt. Beachten Sie, dass Clustering bei vielen fehlenden Werten oder unveränderlichen Spalten (wie z. B. einer Instrumenteneinstellung) ungenau sein kann. Manchmal ist eine zusätzliche Datenbereinigung und -aufbereitung erforderlich, wenn Sie mit dem Clustering beginnen möchten.
F: Wie würden Sie den Vorhersagealgorithmus auswählen?
A: Das ist eine komplexe Frage, und die Antwort hängt von Ihrer Situation ab. In den meisten Fällen ist ein lineares Modell die einfachste und aussagekräftigste Lösung. Andere Methoden berücksichtigen spezifische Probleme mit den Daten oder den Analysezielen.
F: Warum werden die linearen Terme so dringend empfohlen? Wenn meine Korrelation Y=X^2 lautet, warum versucht JMP dann immer wieder, den X-Term hinzuzufügen?
A: Dies hängt mit der Vererbung von Effekten zusammen. Manchmal sind die Terme höherer Ordnung signifikant, der Haupteffekt jedoch nicht. Daher ist es wichtig, den Haupteffekt beizubehalten. Würde man beispielsweise den Haupteffekt entfernen, sähe man im Vorhersagefilter keine Änderung der Steigung, sondern nur die Krümmung, was zu einer weniger präzisen Vorhersage führen würde.
F: Sollten beim Prädiktor-Screening die Daten der Faktoren und der Antworten in der gleichen Reihenfolge (gepaart) erhoben werden oder können auch zufällig erhobene Daten (ungepaart) verwendet werden?
A: Die Reihenfolge spielt eigentlich keine Rolle, aber bei multivariaten Analysen fassen wir die Y-Werte oft in einer Gruppe zusammen. Die Reihenfolge, in der Sie sie zu Y hinzufügen, bestimmt die Reihenfolge, in der sie in der Matrix angezeigt werden.
F: Würde eine multiple lineare Regressionsanalyse der x-Faktoren (600 Spalten) dabei helfen, herauszufinden, welche x-Spalten den größten Beitrag zum Ertrag leisten?
A: Wenn Sie einfach eine lineare Regression mit 600 Spalten durchführen, verwässern Sie die Aussagekraft Ihrer Y-Variablen erheblich. Baummethoden wie Partition eignen sich hervorragend, um herauszufinden, welche dieser 600 Spalten relevant sind. Scotts Predictor Screening-Methode verwendet eine Zufallsstichprobe der Zeilen und Spalten, erstellt einen Entscheidungsbaum, wiederholt diesen Vorgang 100 Mal und mittelt die Ergebnisse. Mit Partition können Sie bestimmte Ereignisse erzwingen, Entscheidungen an anderen Stellen treffen lassen oder den Verlauf der Aufteilung verfolgen. Anschließend können Sie den Varianz-Wichtigkeitsbericht analysieren.
Die Aufteilungshistorie und die Änderungen des Bestimmtheitsmaßes (R²) werden dargestellt. Dieses Beispiel ist zu umfangreich, um dies detailliert zu zeigen, vermittelt Ihnen aber eine Vorstellung davon, wie die Partitionierung funktioniert.
F: Falls die 600 separaten linearen Regressionen die Aussagekraft Ihres Modells verringern, ist das der Grund, warum Response Screening die FDR-Korrektur (False Discovery Rate) in diesen zusammenfassenden Statistiken anwendet (die Scott zuvor gezeigt und als aufsteigend markiert hatte), um dies auszugleichen?
A: Durch Zufall findet man mitunter sehr gute Ergebnisse, die man dann herausfiltern möchte. Wir wollen nicht, dass Ergebnisse rein zufällig gefunden werden, daher hilft die FDR-Korrektur. Ich betone „hilft“, da kein Modell perfekt ist. Ebenso verhält es sich mit allen baumbasierten Modellen: Bei multipler Linearität ist es am besten, zunächst die Varianz zu isolieren und die wirklich wichtigsten Variablen zu ermitteln, anstatt alle Variablen in das Modell aufzunehmen. Manchmal lassen sich Ensemble-Modelle mit JMP Pro erstellen .
F: Gibt es noch andere Möglichkeiten, dies mit JMP Pro zu tun?
A; Ja, auch unter Verwendung des XGBoost-Add-Ins . Siehe unten.
