Warum weist mein Entscheidungsbaum im selben Zweig doppelte Attribute auf?Hallo zusammen. Ich frage mich nur, ob jemand weiß, warum der Entscheidungsbaum (im folgenden Fall) Düsenluftdruck >42,09 auswählt und sich dann im nächsten Knoten selbst zu widersprechen scheint, indem er den Düsenluftdruck erneut auswählt und aufteilt? Meines Wissens sollte ein einmal aufgeteiltes Attribut in nachfolgenden Zweigen nicht mehr berücksichtigt werden. Ich verwende eine 10-fache Kreuzvalidierung mit einem Holdback von 30 %. Da ich sowohl kontinuierliche als auch nominale Daten habe, gehe ich davon aus, dass JMP den CART-Algorithmus verwendet?
Prädiktive Modellierung und maschinelles LernenBetreff: Warum hat mein Entscheidungsbaum doppelte Attribute im selben Zweig?@Dan_Obermiller Zum Glück muss ich hier keine praktische Anleitung geben, aber es brachte mich zum Nachdenken darüber, was ich in Zukunft tun würde, wenn ich eine solche sequentielle „Doppelaufteilung“ sehen würde.
@ DiedrichSchmidt Ich fange an, es zu verstehen: Wenn der Druck zwischen 42 und 45 liegt, dann besteht eine hohe Wahrscheinlichkeit für einen Choke. Wenn der Druck größer als 45 ist, besteht eine Wahrscheinlichkeit von 38 % für eine Verstopfung. Ich wurde bei > 42 UND > 45 aufgehängt, was im realen Szenario keinen Sinn machte. Es hängt alles davon ab, wie Sie die Aufteilung desselben Parameters lesen. In diesem Fall muss ANN nicht verwendet werden, da ich kein Modell erstellen wollte – sondern nur wichtige Variablen, ihre jeweiligen Teilungspunkte und potenzielle Auswirkungen auf die Antwortvariable identifizieren (über eine kleine Baumtiefe und minimale Überanpassung).
Vielen Dank für Ihren Beitrag!Betreff: Warum hat mein Entscheidungsbaum doppelte Attribute im selben Zweig?Hi @com ,
Denn die Entscheidung, dass einige Werte >=42 und >=45 sind, ist immer noch logisch sinnvoll. Wenn die Antwort Y >=45 ist, ist sie gleichzeitig immer noch >=42 und erfüllt die logische Entscheidungsteilung. Ich denke, die sinnvollere Frage ist, ob es Sinn macht, dass es diese zusätzliche Aufteilung gibt. Wenn Sie entweder Holdback (Validierungsteil) oder eine Validierungsspalte verwenden, die auf Ihrer Y-Ausgabe geschichtet ist, sollten Sie in der Lage sein, den Entscheidungsbaum automatisch aufzuteilen, und der Baum sollte auf die erforderliche Mindestanzahl von Aufteilungen reduziert werden Machen Sie das höchste R2 für die Validierungsdaten. Davon abgesehen möchten Sie immer noch feststellen, ob solche Aufteilungen angesichts der Wissenschaft, mit der Sie arbeiten, für die Daten angemessen sind.
Verwenden Sie den Entscheidungsbaum, um ein Vorhersagemodell zu finden? Wenn dies der Fall ist, möchten Sie möglicherweise andere Plattformen wie NN usw. verwenden, um anhand eines Testdatensatzes zu sehen, welches Modell tatsächlich die besten Vorhersagen macht.
Viel Glück!,
DS
Betreff: Warum hat mein Entscheidungsbaum doppelte Attribute im selben Zweig?Der Prädiktor ist eine kontinuierliche Variable. Wenn eine lineare Beziehung mit der Antwortvariablen besteht, kann es viele Splits mit diesem Prädiktor erfordern, um die Beziehung zu approximieren.
Betreff: Warum hat mein Entscheidungsbaum doppelte Attribute im selben Zweig?Oh, und was wäre, wenn es eine quadratische Beziehung wäre? Was denkst du, wie die Baumspalten in diesem Fall aussehen würden?
Betreff: Warum hat mein Entscheidungsbaum doppelte Attribute im selben Zweig?Ich denke, dass nur Sie feststellen können, ob die Aufteilung von 42 auf 45 praktisch sinnvoll ist. Um jedoch mehrere Aufteilungen derselben Variablen zu verstehen, nehmen Sie an, Sie haben eine Situation, in der die Beziehung zwischen Y und X linear ist. So WISSEN wir zum Beispiel, dass Y=10+20*X. In der realen Welt würden wir dieses wahre Modell nicht kennen. Wenn Sie also einen Baum mit dieser Beziehung an Daten anpassen, erhalten Sie mehrere Aufteilungen für X. Nur so kann der Baum versuchen, eine kontinuierliche lineare Beziehung nachzuahmen.
Betreff: Warum hat mein Entscheidungsbaum doppelte Attribute im selben Zweig?Hallo Diedrich. Vielen Dank, dass Sie sich die Zeit genommen haben zu antworten. Erstens haben Sie Recht - in meiner Geschwindigkeit, die Mail zu schreiben, habe ich k-fach UND Holdback falsch geschrieben. Ich habe tatsächlich beides ausprobiert und ziemlich ähnliche Ergebnisse erzielt.
Der Entscheidungsbaum folgt der IF x AND y THEN z-Logik, um die Daten zu klassifizieren. Ich verstehe, dass ich t macht den 1. Split bei einem Luftdruck >=42, und ich kann akzeptieren, dass >=42 UND <45 jetzt Sinn machen (tatsächlich ist dies das erste Mal, dass ich einen Entscheidungsbaum sehe, der dasselbe Attribut zwischen 2 angibt Werte). Abgesehen davon macht es überhaupt keinen praktischen Sinn, > = 42 UND > = 45 zu sein. Du stimmst zu?
Kieran
Betreff: Warum hat mein Entscheidungsbaum doppelte Attribute im selben Zweig?Hi @com ,
Ich kenne den genauen Algorithmus nicht, den JMP beim Aufteilen der Entscheidungsbäume verwendet, aber konzeptionell funktioniert er wie beabsichtigt und widerspricht sich nicht. Wenn Sie sich die anderen Splits Ihres Entscheidungsbaums ansehen, sehen Sie, dass auch andere Attribute mehrfach verwendet werden. Was nicht mehrfach verwendet wird, ist derselbe Wert.
In Ihrem Beispiel verwendet JMP an dem Knoten, an dem der Luftdruck >=42 ist, dies einfach als Entscheidungspunkt, um die Daten zu trennen. Beim nächsten Knoten sagt JMP, dass für alle Fälle, in denen der Luftdruck >=42 ist, eine zusätzliche Teilung vorgenommen wird, bei der der Luftdruck immer noch >=42 ist, aber (>=42 und auch <45) ODER es ist ( >=42 und auch >45).
Wie verwenden Sie SOWOHL die 10-fache Kreuzvalidierung als auch einen Holdback von 30 %? Normalerweise würden Sie nur eine Art von Validierungsmethode verwenden.
DS
