928667_de-DE

liliconcom

Wie man Unabhängigkeitsparameter zur Optimierung eines Regressionsmodells auswählt

Hallo Team,

Beim Anpassen des Modells stellte ich fest, dass die Wahl unterschiedlicher Parameter zu unterschiedlichen Ergebnissen führt. Nachdem ich das Modell erstellt hatte, überprüfte ich die Datenpunkte mit hohen studentisierten Residuen auf ihre Gültigkeit. Um ein geeignetes Modell zu erhalten, musste ich die Parameterwahl mehrmals wiederholen. Betrachten wir dazu das folgende Beispiel.

Modell 1:

Modell 2:

Wie Sie sehen, weist Modell 2 im Vergleich zu Modell 1 deutlich mehr Datenpunkte mit hohem studentisiertem Residuum auf. Bei der Validierung dieser Datenpunkte mit hohem studentisiertem Residuum wurden sie als fehlerhaft eingestuft. Modell 2 scheint daher robuster zu sein.

Meine Frage ist, warum Modell 2 trotz hoher R²-Werte bei beiden Modellen mehr fehlerhafte Datenpunkte herausfiltern konnte. Könnte das an den von mir gewählten Parametern für die Modellerstellung liegen?
Fragen:
-Wenn ich Datenpunkte in einer neuen Spalte des Datensatzes als Gut/Schlecht klassifiziere, gibt es in JMP eine Methode, die mir vorschlagen kann, welche Parameter ich auswählen sollte, damit das Modell robuster ist und schlechte Datenpunkte besser herausfiltern kann?

-Wenn ich die Datenpunkte nicht klassifiziere, gibt es in JMP eine Methode, die mir Vorschläge zur Auswahl der Parameter macht, damit das Modell robuster ist und schlechte Datenpunkte besser herausfiltern kann?

Hoffentlich kann ich von der Community Ratschläge erhalten.

schätzt

Fortgeschrittene statistische ModellierungGrundlagen der Datenanalyse und ModellierungPrädiktive Modellierung und maschinelles LernenBetreff: Wie man Unabhängigkeitsparameter zur Optimierung eines Regressionsmodells auswählt

Ich rate Ihnen, weitere Informationen bereitzustellen. Ihr zweites Modell scheint die Daten zwar besser abzubilden als das erste, aber ich glaube nicht, dass dies ausreicht, um zu entscheiden, welches Modell (oder ob überhaupt eines) verwendet werden soll. Sie erwähnen, dass Sie unterschiedliche Parameter gewählt haben, aber ich vermute, Sie meinen, dass Sie unterschiedliche Variablen als Faktoren in Ihrem Modell ausgewählt haben. Die Wahl der Variablen ist eine komplexe Frage, die nur teilweise durch die Güte der Modellanpassung beantwortet werden kann. Beide Modelle scheinen linear zu sein, daher gibt es verschiedene nichtlineare Modelle, die Sie ausprobieren könnten – insbesondere, wenn Sie sich Sorgen um Ausreißer machen. Zu den großen Residuen habe ich zwei Anmerkungen: Erstens bezweifle ich bei der großen Datenmenge, dass die großen Residuen das Modell wesentlich beeinflussen. Zweitens sollten Sie erläutern, warum Sie sich wegen der großen Residuen Sorgen machen (eine mögliche Lösung wäre eine Logarithmierung).

Generell bräuchte ich deutlich mehr Informationen über Ihre Zielvariable, die Art Ihrer Daten und den Zweck Ihrer Analyse. Das „beste Modell“ ist nur ein Teil der Analyse. Die meisten Maße für die „beste Anpassung“ betrachten Mittelwerte statt spezifischer Beobachtungen. Ihre Bedenken hinsichtlich der großen Residuen deuten darauf hin, dass Ihnen manche Datenpunkte wichtiger sind als andere. In diesem Fall wäre ein lineares Regressionsmodell möglicherweise nicht die beste Wahl (die großen Residuen sind hier nicht so relevant – beispielsweise wäre eine Quantilsregression besser geeignet, wenn Sie die Genauigkeit Ihres Modells in bestimmten Beobachtungsbereichen und nicht im Durchschnitt untersuchen möchten).

Betreff: Wie man Unabhängigkeitsparameter zur Optimierung eines Regressionsmodells auswählt

"Welchen Zwecken Ihre Analyse dient"
Normalerweise berücksichtige ich in meinem Rezept für das Produkt (Gewicht) fünf Faktoren (Temperatur, Kraft, Höhe, Dicke und Zeit). Meine Annahme ist, dass ich, wenn ich über ausreichend historische Daten zu diesen Faktoren verfüge und das Gewicht als abhängige Variable betrachte, ein Modell erstellen und die Formel y = b₀ + b₁x₁ + b₂x₂ + ... ableiten kann. Anschließend wende ich diese Formel in meinem Online-Prozesssystem an, um das tatsächliche Gewicht mit dem vom Modell vorhergesagten Gewicht zu vergleichen. Ich bin mir nicht sicher, ob meine Annahme korrekt ist, aber ich vermute, dass ein höherer Residuenwert auf eine höhere Wahrscheinlichkeit hinweist, dass ein oder zwei Faktoren aus dem Gleichgewicht geraten und den hohen Residuenwert verursachen. Aus diesem Grund möchte ich für diesen Zweck ein Regressionsmodell verwenden.
Um auf mein obiges Beispiel zurückzukommen: Da ich über historische Daten verfüge, wusste ich genau, welche Ausgabe fehlerhaft war. Anschließend habe ich das Modell angewendet, um zu prüfen, ob ein Regressionsmodell fehlerhafte Produkte herausfiltern kann. Von den beiden oben genannten Modellen war Modell 2 dasjenige, nach dem ich gesucht hatte, da es Datenpunkte mit hohen Residuen identifizierte. Um dieses Modell 2 zu erhalten, habe ich jedoch viel Zeit in verschiedene Versuche investiert, bis ich das richtige Modell gefunden hatte.

Betreff: Wie man Unabhängigkeitsparameter zur Optimierung eines Regressionsmodells auswählt

Die Entwicklung von Modellen auf Basis historischer Daten ist sowohl anspruchsvoll als auch riskant. Ich empfehle, die historischen Daten zur Formulierung von Hypothesen zu nutzen, die anschließend experimentell untersucht werden können. Historischen Daten fehlt der Kontext. Kennen Sie beispielsweise die Messfehler der einzelnen x- und Y-Werte? Wissen Sie, welche anderen Faktoren während der Datenerhebung eine Rolle spielten? Gibt es Datenverzerrungen? Wie sieht es mit möglichen verzögerten Effekten von Faktoren aus? Wie verhält es sich mit Schwankungen bei den Rohstoffen? Ihr Ansatz ist zwar nicht falsch, aber riskant. Ein hoher Residuenwert deutet auf ein Problem im Modell hin, nicht auf „schlechte“ Daten, wie Sie vermuten. Um die Gewichtskonstanz über die Zeit zu beurteilen, ist die Stichprobenziehung deutlich effektiver.

Es gibt zwar keinen allgemeingültigen Weg, aber beim Erstellen von Modellen aus historischen Daten empfehle ich in der Regel einen additiven Ansatz. Dies ist ohne Fachexpertise nicht möglich. Beginnen Sie mit Modellen erster Ordnung und erhöhen Sie die Ordnung nach Bedarf. Verschiedene Statistiken können dabei helfen (z. B. korrigiertes R², korrigiertes R²-R², RMSE, p-Werte, Residuen, AIC, BIC usw.). Residuen sind die Differenz zwischen Ist- und Sollwerten (vom Modell vorhergesagt). Sie geben Aufschluss über die grundlegenden Annahmen (z. B. NID(0), konstante Varianz). Sie sind nützlich, um Ausreißer zu identifizieren, bei denen das Modell bestimmte Datenpunkte schlecht vorhersagt. Sie können auch Probleme mit der Annahme von Zufallsfehlern mit einem Mittelwert von 0 aufzeigen, was wiederum auf Probleme mit dem Modell hindeutet. Oftmals lassen sich mithilfe von Residuen Modellschwächen erkennen, die möglicherweise die Einführung eines nichtlinearen Terms erforderlich machen.