Problem der schrittweisen RegressionBeim Auswählen eines Modells mithilfe der JMP-Funktion „Modell anpassen – Schrittweise“ ist das folgende Problem aufgetreten.
- Wenn der Interaktionsterm signifikant ist, der Haupteffekt jedoch nicht, wird der Haupteffekt aus dem Modell entfernt und der Interaktionsterm wird ebenfalls entfernt.
- Wir verstehen, dass wir, wenn eine Interaktion oder ein Term höherer Ordnung signifikant ist, den Haupteffekt beibehalten sollten, auch wenn er nicht signifikant ist.
- Selbst wenn wir zusätzlich zum P-Wert-Schwellenwert AIC/BIC-Kriterien verwenden, werden die Haupteffekte während des Rückwärtsauswahlprozesses entfernt.
Ich wäre Ihnen dankbar, wenn Sie mir Lösungen oder Empfehlungen zu diesen Problemen mitteilen könnten.
Dies trat in Y1 auf, als unter Verwendung der beigefügten Daten vier Faktoren mit nur Interaktionstermen erster Ordnung berücksichtigt wurden.
|
JMP Schritt-für-Schritt-Auswahl
|
6. Schritt
|
|
|
Der Interaktionsterm Faktor 1 * Faktor 4 ist immer noch signifikant, Faktor 1 ist jedoch nicht signifikant und wurde entfernt.
Betreff: Problem mit schrittweiser RegressionDie Regeln in Stepwise können verwirrend sein. Das Problem, auf das Sie gestoßen sind, sind die „Kombinations“-Regeln. Aus der JMP-Hilfe:
Kombinieren
Berechnet p -Werte für zwei separate Tests bei der Prüfung eines Eintrags für einen Begriff, der Präzedenzfälle hat. Der erste p -Wert, p 1 wird berechnet, indem der Term mit seinen Vorgängertermen gruppiert wird und die Signifikanzwahrscheinlichkeit der Gruppe für den Eintritt als gemeinsamer Term getestet wird. F Test. Der zweite p -Wert, p 2 ist das Ergebnis der Prüfung der Signifikanzwahrscheinlichkeit für den Eintrag des Terms, nachdem die vorangehenden Terme bereits in das Modell aufgenommen wurden. Die endgültige Signifikanzwahrscheinlichkeit für den Eintrag des Terms mit vorangehenden Termen ist max( p 1 , , S. 2 ).
Tipp: Die Combine-Regel vermeidet die Einbeziehung nicht signifikanter Interaktionsterme, deren Präzedenzterme besonders starke Effekte haben können. In diesem Szenario könnten die starken Haupteffekte die Signifikanzwahrscheinlichkeit der Gruppe für den Eintritt erhöhen, p 1 , sehr klein. Der zweite Test zeigt jedoch, dass die Interaktion an sich nicht signifikant ist. Als Ergebnis S. 2 ist groß und wird als endgültige Signifikanzwahrscheinlichkeit für den Eintrag verwendet.
Vorsicht: Der Wert der Freiheitsgrade für einen Begriff, der Präzedenzfälle hat, hängt davon ab, welche der beiden Signifikanzwahrscheinlichkeiten für den Eintrag größer ist. Der Test, der für die endgültige Signifikanzwahrscheinlichkeit für den Eintrag verwendet wird, bestimmt die Freiheitsgrade, nDF , in der Tabelle Aktuelle Schätzungen. Wenn also S. 1 wird eingesetzt, nDF gleich der Anzahl der Terme in der Gruppe für den gemeinsamen Test, und wenn S. 2 verwendet wird, ist nDF gleich 1.
Die Option Kombinieren ist die Standardregel. Siehe Modelle mit gekreuzten, Interaktions- oder Polynomtermen .
Nun zurück zu meinen Kommentaren. Aufgrund der beiden Tests, die mit den Combine-Regeln durchgeführt werden, führt der nicht signifikante Term zum Entfernen der Interaktion. Eine Möglichkeit, dies zu vermeiden, besteht darin, Ihre Regeln in „Einschränken“ zu ändern. Hier sind die Ergebnisse, wenn Sie dies tun:

Ich denke, das sind die Ergebnisse, die Sie erwartet haben.
Betreff: Problem mit schrittweiser RegressionAb JMP 18 gibt es eine Option zur Berücksichtigung der Vererbung in der Stepwise-Plattform

.
Betreff: Problem mit schrittweiser RegressionHallo Dan, das ist das Ergebnis, nach dem ich gesucht habe. Vielen Dank für den Vorschlag der entsprechenden Option. Allerdings bin ich immer noch verwirrt über die Optionen zur schrittweisen Regression. „Einschränken“ wird im Handbuch definiert als „Schränkt die Begriffe ein, die Präzedenzfälle haben, sodass sie nicht eingegeben werden können, bis ihre Präzedenzfälle eingegeben sind.“ Dies scheint eine andere Regel zu sein als die Einbeziehung des Haupteffekts, wenn die Interaktion signifikant ist. Darüber hinaus zeigt die von Don erwähnte Option „Gesamteffekte unter Berücksichtigung der Vererbung“ andere Ergebnisse. Könnten Sie mir bitte eine ausführlichere Erklärung geben, damit ich es besser verstehe? Nochmals vielen Dank.
Betreff: Problem mit schrittweiser Regression@HyeWonJung Die Verwendung von Kombinieren, Einschränken, Keine Regeln und Gesamteffekt in Modellen mit kategorialen Begriffen mit mehr als zwei Ebenen ist eine gute Möglichkeit, zu zeigen, was passiert. Passen Sie zur Veranschaulichung das folgende Modell mit dem Datensatz „Autos 1993“ an. Die Fahrzeugkategorie hat fünf Ebenen mit der folgenden Rangfolge:
- {Van&Groß&Mittelgroß&Sportlich&Kompakt–Klein}
- {Van–Groß&Mittelgroß&Sportlich&Kompakt}
- {Groß&Mittelgroß–Sportlich&Kompakt}
- {Groß–Mittelgroß}
- {Sport–Kompakt}
Auf diese Weise erstellt Stepwise Kontraste mit einem Freiheitsgrad. Dies ist derselbe Ansatz, den Partition zum Erstellen von Splits verwendet. Wenn Sie Partion mit Highway Mileage als Y und Vehicle Category als einzigem X ausführen, werden die Splits in genau dieser Reihenfolge erfolgen. Persönlich finde ich, dass auf diese Weise erstellte Kontraste oft nicht gut interpretierbar sind und bevorzuge die Art und Weise, wie Generalized Regression Kontraste mit einem Freiheitsgrad basierend auf den einzelnen Ebenen erstellt. Ich werde diese Kontraste als C1 – C5 bezeichnen.

Ändern Sie die Abbruchregel in „P-Wert-Schwellenwert“ und setzen Sie die Eintrittswahrscheinlichkeit auf 0,40. Behalten Sie die Richtung auf „Vorwärts“ eingestellt. 
Beginnen Sie mit „Keine Regeln“. Klicken Sie auf „Schritt“, bis keine weiteren Begriffe mehr eingegeben werden. Begriffe werden in der folgenden Reihenfolge eingegeben:
- Gewicht
- Fahrzeugkategorie (C2) * Gewicht
- Fahrzeugkategorie (C1) * Gewicht
- Fahrzeugkategorie (C2)
- Fahrzeugkategorie (C4) * Gewicht
- Fahrzeugkategorie (C1)
Ziemlich unkompliziert. Suchen Sie den kleinsten p-Wert unabhängig von der Priorität und fügen Sie weiter hinzu, bis nichts außerhalb des Modells einen p-Wert kleiner oder gleich 0,4 hat.
Klicken Sie auf „Alle entfernen“ und wiederholen Sie den Vorgang für „Kombinieren“.
- Gewicht
- Fahrzeugkategorie (C1) * Gewicht UND Fahrzeugkategorie (C1)
- Fahrzeugkategorie (C2)
- Fahrzeugkategorie (C4) UND Fahrzeugkategorie (C3)
- Fahrzeugkategorie (C5)
Beachten Sie, dass in den Schritten 2 und 4 zwei Effekte gleichzeitig hinzugefügt werden. In jedem Fall werden die p-Werte für beide Terme separat berechnet. Im Fall von Schritt 2 ist der erste hinzugefügte Term eine Interaktion, während es in Schritt 4 ein Kontrast ist. Beachten Sie auch, dass Fahrzeugkategorie (C2) * Gewicht im Modell fehlt, obwohl es der zweite hinzugefügte Term im Fall „Keine Regeln“ war. Das liegt daran, dass beim Testen die einzelne Fahrzeugkategorie (C2) signifikant war, Fahrzeugkategorie (C2) * Gewicht jedoch nicht, sobald Fahrzeugkategorie (C2) im Modell war. Dies ist Combine in Aktion.
Machen Sie nun dasselbe für „Einschränken“
- Gewicht
- Fahrzeugkategorie (C1)
- Fahrzeugkategorie (C1) * Gewicht
- Fahrzeugkategorie (C2)
Dies ähnelt Combine, außer dass die Terme einzeln hinzugefügt werden. Die Kontraste C3 und C4 wurden mit Restrict nicht hinzugefügt, da der p-Wert für C3 (vor C4) zu groß war, um in das Modell aufgenommen zu werden. Combine berechnet jedoch die p-Werte sowohl mit C3 als auch mit C4 im Modell und für C4, nachdem C3 zum Modell hinzugefügt wurde. Beide sind kleiner als der Grenzwert von 0,4.
Endlich ganze Effekte
- Gewicht
- Gewicht*Fahrzeugkategorie (alle Kontraste)
Hier bezieht sich der Gesamteffekt auf alle Kontraste in einem Effekt und nicht auf die statistische Vererbung. In diesem Fall hat die Interaktion einen kleineren p-Wert und macht den p-Wert des Haupteffekts der Fahrzeugkategorie zu groß, um ihn zu berücksichtigen, sobald er zum Modell hinzugefügt wird.
Wenn Sie dies noch einmal mit Whole Effects Respecting Heredity tun würden, würde der Haupteffekt mit der Interaktion in Schritt 2 hinzugefügt.
Ich hoffe, das ist verständlich. Wenn Sie Fragen haben, lassen Sie es mich wissen.
Betreff: Problem mit schrittweiser RegressionMeine Kommentare beziehen sich auf Ihre Situation: alle kontinuierlichen Variablen. Wenn Sie kategorische Faktoren haben, wird es etwas komplizierter, aber ich glaube, Don hat das in seinem längeren Beitrag gut herausgestellt. Übrigens hatte ich die neue Option, auf die Don hingewiesen hat, nicht bemerkt. Ich denke, die JMP-Hilfe beschreibt es ganz gut:

Was Restrict betrifft, so beschränkt es Interaktionen (und Quadrate – Terme, die Präzedenzfälle haben), so dass sie erst eingegeben werden können, wenn die Präzedenzfälle eingegeben sind. Mit anderen Worten, eine Interaktion kann erst in das Modell eingegeben werden, wenn die Haupteffekte eingegeben wurden. In Ihrer Situation wurden Faktor 1 und Faktor 2 beide in das Modell eingegeben, daher konnte Faktor 1*Faktor 2 für die Eingabe bewertet werden. Im Gegensatz zu Combine führt Restrict jedoch nur einen Test für diesen Term durch, statt zwei Tests.
Betreff: Problem mit schrittweiser RegressionDanke @dobudo @DonMcCormack !!
Ich habe mich dank Ihrer Erklärung in die einzelnen Optionen vertieft und den Mechanismus jeder Option verstanden