Identifizieren Sie „wichtige Variablen“ für die Regression von PartitionsbäumenIch entwickle eine Analyse der Regression von Partitionsbäumen. Mit JMP 13 habe ich 83 Variablen. Ich identifiziere die Variablen, die keine Kolinearität mit VIF aufweisen, mit dem Ziel, die „repräsentativsten“ Variablen für die Entwicklung der Analyse identifizieren zu können der Regression von Partitionsbäumen (Das Beispiel, das ich verwende, sind Bankeinnahmen
Multiple lineare Regression mit Transformation / From Building Better Models with JMP Pro, Kapitel 4, SAS Press (2015). Grayson, Gardner und Stephens.). Meine Frage: Könnte dies ein geeigneter Weg sein? Oder es gibt ein spezifischeres Protokoll in JMP, um diese „wichtigen“ Variablen für die Arbeit mit Regressionspartitionsbäumen zu identifizieren.
Betreff: Identifizieren Sie „wichtige Variablen“ für die Regression von PartitionsbäumenIch bin sehr dankbar für die Zeit, die mir genommen wurde, um mir bei den erarbeiteten Vorschlägen und Empfehlungen zu helfen
Ebenso viel Glück in allem!
Betreff: Identifizieren Sie „wichtige Variablen“ für die Regression von PartitionsbäumenWenn Sie keinen Zugriff auf JMP Pro haben, gibt es einige Einschränkungen bei der Modellgenerierung. Andererseits können Sie weiterhin eine ARIMA-Modellierung (falls zutreffend) und einen vereinfachten NN- und Partitionsbaum durchführen. Eine weitere Plattform, die hilfreich sein könnte, ist das Prädiktor-Screening unter Analysieren -> Screening. Dies könnte auch dabei helfen, herauszufinden, welche der vielen Faktoren wahrscheinlich wichtig sind.
Sie können auch versuchen, in der Fit Model-Plattform unter „Persönlichkeit“ die Option „Schrittweise“ auszuwählen. Dabei werden auch unterschiedliche Kriterien verwendet, um auszuwählen, welche Faktoren (und gemischten Begriffe) benötigt werden und welche nicht. Hier hilft es sehr, eine ziemlich gute Vorstellung davon zu haben, welches Modell man verwenden soll. Wenn Sie viele Daten haben, können Sie alle Ihre Faktoren auswählen und dann unter der Dropdown-Schaltfläche „Makros“ die Antwortoberfläche auswählen. Sie möchten lediglich sicherstellen, dass Ihre Freiheitsgrade nicht zu stark eingeschränkt werden. Wenn Sie wissen, dass es einen physikalischen Prozess gibt, der die Reaktion bestimmt, kann dies ein Anfang bei der Erstellung einer Modellgleichung sein. Eine letzte Sache, die Sie möglicherweise prüfen sollten, ist die Transformation Ihrer Daten vor der Modellierung, insbesondere wenn sie nicht normalverteilt sind. Die Transformation der Daten kann dazu beitragen, dass im Modellierungsprozess eine robuste Anpassung erzielt wird, die über bessere Vorhersagefähigkeiten verfügt, als dies sonst der Fall wäre.
Was die Validierungsspalte angeht, weiß ich, dass Standard-JMP nicht mit der GUI zum Generieren ausgestattet ist, aber hier ist ein JSL, das N (ich habe es auf 5 eingestellt) Validierungsspalten generiert, die geschichtet sind. Einige Modelle reagieren empfindlich auf die Validierungsspalte, selbst wenn sie auf eine bestimmte Antwort geschichtet werden. Daher kann das Testen verschiedener Validierungsspalten bei der Bewertung der Robustheit des Modells hilfreich sein.
Names Default To Here( 1 );
dt = Current Data Table();
For( i = 1, i <= 5, i++,
dt << Make Validation Column(
Training Set( 0.6 ),
Validation Set( 0 .2),
Test Set( 0.2 ),
Stratified Random( :Group )
)
);
Im obigen Skript läuft i von 1 bis 5, sodass 5 Validierungsspalten generiert werden, die in 60 % Training, 20 % Validierung und 20 % Test aufgeteilt sind (Sie können die Werte so ändern, dass sie am besten zu Ihren Daten passen), und das wird auch so sein geschichtet nach dem Zufallsprinzip auf der/den Spalte(n), die Sie im Popup-Fenster „:Gruppe“ auswählen. Wenn Sie keine Schichtung durchführen möchten, können Sie diesen Befehl durch eine Zufallskategorieformel ersetzen.
JSL ist eine ziemlich einfach zu programmierende Sprache. Wenn Sie also Zeit haben, empfehle ich Ihnen dringend, einige Skripte auszuprobieren, um sich damit vertraut zu machen. Ich finde es sehr hilfreich, wenn ich dieselben Aufgaben an verschiedenen Datensätzen durchführe – es hilft, Dinge zu automatisieren. Sie können sich auch den Skriptindex im Hilfemenü ansehen.
Viel Glück!,
DS
Betreff: Identifizieren Sie „wichtige Variablen“ für die Regression von PartitionsbäumenVielen Dank für die Vorschläge, sie haben mir viele Fragen geklärt, und ich werde in diesem Zusammenhang arbeiten. Obwohl eine meiner Einschränkungen bei der Nutzung und Entwicklung, beispielsweise einiger Vergleiche zwischen Modellen, darin besteht, dass ich nicht in einer JMP PRO-Version arbeite. Allerdings konnte ich die Option „JMP to R Add-In Builder“ identifizieren, von der ich weiß, dass sie mir, wie vorgeschlagen, die Verwendung anderer Algorithmen für die Entwicklung von Analysen erleichtern könnte; Das Letzte, was ich anmerke, liegt daran, dass ich eine Person bin, die kein Programmierer ist >.<
Danke!
Betreff: Identifizieren Sie „wichtige Variablen“ für die Regression von PartitionsbäumenIch bin kein Experte, aber ich habe dieses Buch auch durchgelesen (nebenbei bemerkt, mir gefielen die Beispiele und die Übungsarbeit). In späteren Kapiteln finden Sie einige gute Beispiele, die möglicherweise auch auf Ihre spezielle Situation anwendbar sind.
Der VIF ist sicherlich eine Möglichkeit zu bestimmen, welche Variablen im Modell überbetont werden. Auch die Untersuchung der Spaltenbeiträge der Entscheidungsbaumergebnisse kann sehr hilfreich sein. Ein anderer Ansatz könnte darin bestehen, die Hauptkomponentenanalyse (PCA) zu verwenden, die dabei helfen kann, die wichtigsten Variablen zu gruppieren und diese als PCs bei der Modellierung der Reaktion zu verwenden.Die Bootstrap-Forest-Plattform soll robust gegen Überanpassung sein, da sie sowohl mit Antworten als auch mit Faktoren randomisiert ist. Sowohl der Bootstrap-Forest als auch der Boosted-Tree sollten nicht nützliche Faktoren „ausschließen“, da er sich nicht entlang dieser Faktoren aufteilt und ihr Beitrag auf sehr niedrige Werte sinkt.
Wenn Sie über genügend Daten verfügen, um eine Validierungsspalte mit Trainings-, Validierungs- und Testdaten zu erstellen, wird dies dazu beitragen, Ihr Modell erheblich zu vereinfachen. Der Validierungsteil hilft bei der Auswahl des sparsamsten Modells aus der Gruppe, während die Testdaten verwendet werden, um zu sehen, wie gut das Modell mit „blinden“ Daten funktioniert. Eine Anmerkung dazu: Vielleicht möchten Sie überlegen, ob dies geschichtet, randomisiert oder auf andere Weise gewählt werden sollte. Dies kann teilweise (oder größtenteils) auf der Reaktion Ihrer Modellierung basieren. Ist es kontinuierlich oder binär usw.?
Schließlich hilft auch der Vergleich verschiedener Modelle (Modellvergleichsplattform), wie z. B. NN, Partition, Boostrap Forest, Boosted Tree oder generalisierte Regression, bei der Auswahl, welches für Ihre Daten am besten geeignet ist. Stellen Sie sicher, dass Sie Ihre Modelle nur anhand der „Test“-Daten oder derjenigen vergleichen, die manuell durch Ausblenden und Ausschließen zurückgehalten wurden (dh Sie möchten nicht anhand der Trainingsdaten testen).
Ich bin mir nicht sicher, ob es eine „standardisierte“ Methode gibt, um dies zu bestimmen, aber die Betrachtung des Problems aus verschiedenen Blickwinkeln hilft sicherlich dabei, herauszufinden, wo die meisten Überschneidungen bestehen, und hilft Ihnen bei Ihrer Entscheidung bei der Bestimmung der „repräsentativen“ Variablen.
Hoffe das hilft!,
DS