Auswahl des Ausschlusses von 2 gleichen Ausreißern im DoEHallo,
Gibt es eine andere Metrik, mit der ich feststellen kann, welcher Ausreißer im Datensatz wahrscheinlicher der wahre Ausreißer ist?
Ich habe eine DoE durchgeführt und dabei festgestellt, dass es zwei gleich große Ausreißer gibt (durch extern studentisierte Residuen: 48 und -48). Schließe ich den einen oder den anderen aus, verbessert sich der adj R2 des Modells sofort und deutlich von etwa 0,65 auf 0,99, und der andere Ausreißer liegt nun im Trend.
Je nachdem, welchen Ausreißer ich ausschließe, wirkt sich dies auf mein Modell aus. In einem Fall erhalte ich nur lineare und Interaktionseffekte, in einem anderen Fall auch einige quadratische Effekte (ich erwarte quadratische, kann aber nicht sicher sein).
Gibt es eine andere Metrik, mit der ich feststellen kann, welcher Ausreißer im Datensatz wahrscheinlicher der wahre Ausreißer ist? I want to avoid any scientific bias if at all possible. In looking at the experiment, I cannot identify anything incorrect in the execution of the conditions which would sway my decision.
VersuchsplanungWindowsBetreff: Auswählen des Ausschlusses von 2 gleichen Ausreißern im DoEHallo @MetaLizard62080 ,
Studentisierte Residuen können eine gute Möglichkeit sein, Ausreißer zu identifizieren basierend auf einem angenommenen Modell . Weitere Informationen zur Berechnung der studentisierten Residuen finden Sie hier: Zeilendiagnose (jmp.com)
„ Punkte, die außerhalb der roten Grenzen liegen, sollten als wahrscheinliche Ausreißer behandelt werden. Punkte, die außerhalb der grünen Grenzen, aber innerhalb der roten Grenzen liegen, sollten als mögliche Ausreißer behandelt werden, jedoch mit geringerer Sicherheit. “Wie Sie der Definition entnehmen können, gibt es keine endgültige Gewissheit über die Natur von Ausreißern, da diese von dem angenommenen Modell abhängen kann, das Sie anpassen.
Vielleicht ist das Modell, das Sie anpassen, zu einfach/nicht relevant für alle erfassten Punkte und Messungen (es scheint, dass diese quadratischen Effekte relevant sein könnten)?
Sie könnten Ihren Datensatz mit der modellunabhängigen Ausreißermethode analysieren, um zu prüfen, ob diese beiden Punkte „seltsam“ erscheinen oder ob es sich lediglich um ein Problem der Modellanpassung handelt. Modellunabhängige Methoden zur Ausreißererkennung, wie Mahalanobis- oder Jackknife-Distanzen, basieren nicht auf einem festgelegten Modell und vergleichen lediglich die Distanz zwischen Punkten basierend auf Variablen/Faktoren/Merkmalen. Ein mit dieser Methode identifizierter Ausreißer deutet also darauf hin, dass dieser Punkt „seltsam“ aussieht und nicht Teil der Faktorverteilungen der anderen Punkte zu sein scheint.
Ausreißer, Folge 3: Erkennen von Ausreißern mithilfe der Mahalanobis-Distanz (und T2)
Ausreißer, Folge 4: Erkennen von Ausreißern mithilfe der Jackknife-Distanz
Angesichts der begrenzten verfügbaren Informationen und der Diagnose, die nur im Hinblick auf eine bestimmte Modellanpassung durchgeführt wurde, sollten Sie keine Punkte entfernen, wenn Sie nicht anhand statistischer Eigenschaften (Ausreißer usw.) UND Fachwissen (fehlerhafte Werte, Tippfehler in der Messaufzeichnung, Fehler/Problem im Messsystem usw.) begründet haben, dass Sie dies „können“. In Ihrem Beispiel können Sie dennoch die Ergebnisse zweier Modelle vergleichen, ein Modell mit allen Punkten und das andere, indem Sie die beiden „seltsamen“ Punkte „ausblenden und ausschließen“ (oder einfach eine Spalte hinzufügen, um diese beiden Ausreißerpunkte geringer zu gewichten als die anderen Punkte), und sehen, ob die Ergebnisse sehr unterschiedlich sind oder nicht. Sie können jedoch zuvor einige andere Optionen prüfen, z. B. Metriken wie Drücken RMSE/R2, Cook-Distanzen und die Überprüfung multipler linearer Regressionsannahmen , um sicherzustellen, dass Ihr Modell akzeptabel ist. Vielleicht könnten Ihre Daten eine Box-Cox-Y-Transformation gebrauchen ?
Hoffe, diese Antwort kann Ihnen helfen,
Betreff: Auswählen des Ausschlusses von 2 gleichen Ausreißern im DoEHier sind meine Gedanken, und ich stimme Victor zu: Entfernen Sie nicht einfach Daten, ohne zu wissen, was bei dieser Behandlung passiert ist (diese Datenpunkte sind möglicherweise die aufschlussreichsten in Ihrer Studie):
1. Um die Deming-Terminologie zu verwenden: Datenpunkte mit besonderen Ursachen in einem Experiment sind ironischerweise gar nicht so ungewöhnlich. Das liegt wahrscheinlich daran, dass Sie im Experiment etwas Ungewöhnliches tun (z. B. Faktoren bei fetten Einstellungen manipulieren). Die Frage zu diesen speziellen Datenpunkten lautet: Sind sie auf die Faktoren im Experiment zurückzuführen oder sind sie dem Rauschen zuzuschreiben?
2. Es gibt viele Möglichkeiten, die Qualität der Daten eines Experiments zu beurteilen. Die Residuenanalyse ist eine davon und kann sehr nützlich sein, da sie durchgeführt wird, nachdem das Modell definiert wurde und die durch das Modell erklärte Variation bekannt ist. Weitere Möglichkeiten zur Beurteilung der Datenqualität sind beispielsweise:
- Sortieren Sie die Y-Werte (für jedes Y nach unten) vom Besten zum Schlechtesten. Erstellen Sie ein MR-Diagramm. Punkte an beiden Enden des MR-Diagramms, die außerhalb des Bereichs liegen, sind wahrscheinlich nicht auf Behandlungseffekte, sondern auf Rauschen zurückzuführen. (Diese Methode heißt ANOG (Analysis of Good).)
- Vergleichen Sie die tatsächlichen Daten für jede Behandlung mit den prognostizierten Werten (dazu müssen Sie die Daten a priori vorhersagen). Schalten Sie die Technik nicht aus! Was sind Ihre Hypothesen zu den Ereignissen bei jeder Behandlung? Bedenken Sie, dass die tatsächlichen Daten bei Residuen möglicherweise nicht so ungewöhnlich aussehen. Interessant ist die Tatsache, dass das Modell die Ergebnisse dieser bestimmten Behandlung schlecht vorhersagt. Warum sollte das Modell für diese Behandlungen schlecht sein?
- Führen Sie eine Ranganalyse durch. Fügen Sie der nach ANOG sortierten Datentabelle eine neue Spalte hinzu und beschriften Sie sie mit „Rang“. Tragen Sie fortlaufende Zahlen in diese Spalte ein (z. B. erhalten Sie bei einem Experiment mit 16 Durchläufen zahlreiche Zahlen von 1 bis 16). Analysieren Sie den Rang zusammen mit dem tatsächlichen Y und vergleichen Sie die Ergebnisse. Der Rang eliminiert große Sprünge in den tatsächlichen Daten, sodass der Hebeleffekt des Datenpunkts mit Sonderursache minimiert wird.
Wenn Sie mit möglichen Sonderursachen gerechnet haben, können Sie Wiederholungen durchführen. Und wenn einer der wiederholten Datenpunkte ungewöhnlich ist, stehen Ihnen für die Analyse noch andere Wiederholungen für diese Behandlung zur Verfügung.
Es ist immer sinnvoll, DOE-Daten zu diagnostizieren. Um einen meiner Lieblingsautoren zum Thema DOE (Cuthbert Daniel) zu paraphrasieren:
Die häufigsten Mängel im DOE sind
- Übersättigung: zu viele Effekte für die Anzahl der Behandlungen
- Überkonservativität: zu viele Beobachtungen für die gewünschten Schätzungen
- Versäumnis, die Daten auf fehlerhafte Werte zu untersuchen
- Die Nichtberücksichtigung aller Aliasing-
- Ungenauigkeit aufgrund eines Missverständnisses der Fehlervarianz.
Als Randbemerkung: Zur Modellverfeinerung sollten Sie sich mehr für das Delta zwischen R-Quadrat und angepasstem R-Quadrat interessieren und das angepasste R-Quadrat zur Bewertung der Modellangemessenheit verwenden.
