Unterschied zwischen schrittweise | Alle möglichen Modelle und verallgemeinerte Regression | Beste TeilmengeHallo, ich wollte nur wissen, was der Unterschied zwischen der schrittweisen Schätzung aller möglichen Modelle und der Schätzungsmethode Generalized Regression – Best Subset ist.Es scheint mir, dass sie gleiche Ergebnisse liefern sollten, wenn die Antwort normal verteilt ist.Ich habe JMP 14 32-Bit und festgestellt, dass ich mit Best Subset größere maximale Effekte ausführen kann als mit All Possible Models aufgrund von Speicherbeschränkungen.
Re: Unterschied zwischen schrittweise | Alle möglichen Modelle und verallgemeinerte Regression | Beste Teilmenge@P_Bartel Danke für deinen Rat!
Re: Unterschied zwischen schrittweise | Alle möglichen Modelle und verallgemeinerte Regression | Beste TeilmengeIch werde ein paar zusätzliche Gedanken zur Ergänzung hinzufügen @Mark_Bailey 's weiser Rat. Wenn Sie mehrere Modellanpassungsalgorithmen verwenden, empfiehlt es sich im Allgemeinen, eine Art Kreuzvalidierungsschema für Modelle zu verwenden. Daher können die Ergebnisse abweichen, wenn die Art des Kreuzvalidierungsszenarios nicht anders gewählt wird. Einige dieser Methoden haben eine „zufällige“ Komponente, sodass sich die genauen Daten, die zum Anpassen eines Modells verwendet werden, von einem Durchlauf zum anderen durch die Modellierungsmethode unterscheiden können.
Außerdem gibt es innerhalb der Generalized Regression-Plattform mehrere Modellierungspersönlichkeiten. Die Antworten unterscheiden sich je nach gewählter Persönlichkeit ein wenig. Einige dieser Persönlichkeiten ermöglichen das, was ich „ein wenig Verzerrung in den Parameterschätzungen“ nennen möchte (im Vergleich zur klassischen gewöhnlichen Regression der kleinsten Quadrate), mit einem Kompromiss in der Verzerrung zur Minimierung der Vorhersagevarianz. Thematisch sollten Sie aller Wahrscheinlichkeit nach zu konsistenten praktischen Schlussfolgerungen gelangen ... aber wenn Sie nach einer EXAKTEN Übereinstimmung der Ergebnisse bis hin zu Dingen wie bestimmten Parameterschätzungen, Vorhersageabweichungen usw. suchen, wird es Unterschiede geben.
In der Praxis suche ich beim Anpassen vieler verschiedener linearer und nichtlinearer Methoden (denken Sie an Methoden wie Regressions-/Klassifikationsbäume) und beim Vergleich mehrerer Modellierungsmethoden nach Angemessenheit und Konsistenz praktischer Schlussfolgerungen über alle Methoden hinweg. Die Modellvergleichsplattform von JMP Pro ist ein sehr effizienter One-Stop-Shopping-Hub für diese Vergleiche. Dies wiederum stärkt mein Selbstvertrauen, dass die praktischen Schlussfolgerungen, zu denen ich komme, die besten sind, die ich erreichen kann.
Re: Unterschied zwischen schrittweise | Alle möglichen Modelle und verallgemeinerte Regression | Beste TeilmengeDanke für die Antwort.Ich habe dieses PDF gefunden, das es gut erklärt: GR-Plattform
Re: Unterschied zwischen schrittweise | Alle möglichen Modelle und verallgemeinerte Regression | Beste TeilmengeDie schrittweise Regression folgt einem Pfad in Vorwärtsrichtung, Rückwärtsrichtung oder in gemischten Richtungen. Es erwägt, das Modell um einen einzigen Term zu ändern, basierend auf dem aktuellen Modell und den Kandidatentermen. Es besteht also die Möglichkeit, dass das beste Modell nicht besucht wurde, und die Wahrscheinlichkeit, dass dies auftritt, steigt mit der Anzahl der Kandidatenterme. Dieser Ansatz ermöglicht es Ihnen, viele mögliche Begriffe in den meisten praktischen Situationen zu berücksichtigen.
Die Option „Alle möglichen Modelle“ dagegen besucht alle möglichen Modelle bis zu der von Ihnen angegebenen Komplexität. Ihr verfügbarer Speicher und Ihre Zeit können die praktische Anzahl der Begriffe einschränken, die berücksichtigt werden können.
Die Option Generalized Regression liegt irgendwo dazwischen. Hier die Erklärung aus der Hilfe:
Beste Teilmenge Berechnet Parameterschätzungen durch Erhöhen der Anzahl aktiver Effekte im Modell bei jedem Schritt. In jedem Schritt wird das Modell aus allen möglichen Modellen mit einer durch die Schrittnummer gegebenen Anzahl von Effekten ausgewählt. Die Werte auf den horizontalen Achsen der Lösungspfaddiagramme stellen die Anzahl aktiver Effekte im Modell dar. Schritt 0 entspricht dem Intercept-Only-Modell. Stufe 1 entspricht dem besten Modell derjenigen, die nur einen aktiven Effekt enthalten. Die Schritte werden bis zum Wert von Max Number of Effects fortgesetzt, der in den Advanced Controls im Model Launch-Bericht angegeben ist. Siehe „Erweiterte Steuerung“
auf Seite 309.Tipp: Die Best-Subset-Schätzmethode ist rechenintensiv. Es wird nicht für große Probleme empfohlen.
Hoffe diese Erklärung hilft.
Sie erhalten also nicht unbedingt dasselbe Modell aus all diesen Methoden und die Verteilung hat nichts mit dem Ergebnis zu tun, vorausgesetzt, Sie verwenden in allen Fällen dieselbe Verteilung.
Denken Sie daran, dass diese Methoden sind Hilfestellung bei der Modellauswahl . Keiner von ihnen garantiert, dass es das beste Modell findet.
