Signifikantes Modell mit signifikantem LoFSehr geehrte JMPer,
Ich denke ich habe eine Herausforderung! 
Es handelt sich um ein signifikantes Modell mit signifikanten LoF-Ergebnissen. Ich habe alles, was in der JMP-Community vorgeschlagen wurde, ausprobiert, indem ich Interaktionen und Begriffe höherer Ordnung hinzufügte und einige Ergebnisse (mögliche Ausreißer) ausschloss, um LoF zu korrigieren. Die Sache ist: X1, X2 und X3 sind stark korreliert. Ich würde es vorziehen, diese drei Faktoren am Ende des Modells beizubehalten, um einen Gestaltungsraum zu erreichen, in dem gearbeitet werden kann. Dies ist jedoch kein Muss.
Ich habe also 2 Modelle erhalten (multiple lineare Regression):
- die erste ist einfacher, keine Interaktionen - nur X3 wurde beibehalten, VIFs sind niedrig, aber für Y1, Y2 und Y3 ist der LoF immer noch signifikant
- die Sekunde mit Wechselwirkungen - alle X1, X2 und X3 wurden mit signifikanten Wechselwirkungen in den Gleichungen gehalten. Y1 hat einen nicht signifikanten LoF, jedoch nicht den gleichen Wert für Y2 und Y3... Darüber hinaus nehmen VIFs in Y3 stark zu, und der Profiler ist nicht brillant ...
Hinweis: Läufe stammen nicht von einem DoE (es war empirisch).
Im Allgemeinen sehen die Modelle (Standardquadrate) für mich ziemlich gut aus. Es scheint jedoch, dass ich einen Kompromiss zwischen LoF + Normalität von Residuen ODER niedrigen VIFs + Einfachheit des Modells erreichen muss.
Fehlt mir hier etwas? Kann ich meine Modelle verbessern und die LoF-Ergebnisse korrigieren?
Vielen Dank im Voraus für Ihre Beratung.
Marta
Re: Signifikantes Modell mit signifikantem LoFInteressante Daten.
Sie scheinen einige sehr einflussreiche Beobachtungen zusammen mit einer hohen Kollinearität zu haben. Beide Probleme sind problematisch für die mehrfache Regression.
Sie haben nicht so viele unabhängige Informationen.
Die Kollinearität macht es sehr schwierig, die Signifikanz zu bestimmen.
Der sehr geringe Hebel bedeutet, dass sehr kleine Änderungen der Datenwerte sehr große Änderungen in der Statistik (z. B. Parameterschätzungen und T-Verhältnisse) verursachen können.
Re: Signifikantes Modell mit signifikantem LoFEinige Probleme können vermieden werden, indem kein linearer Prädiktor und keine Regression verwendet werden. Hier ist das Ergebnis eines einfachen neuronalen Netzwerkmodells (5 verborgene Knoten in einer verborgenen Schicht, die alle die hyperbolische Tangensaktivierungsfunktion verwenden):
Die Modellvorhersagen scheinen ziemlich genau zu sein:
Das Modell scheint sich gut zu profilieren:
Re: Signifikantes Modell mit signifikantem LoFHallo @ Markbailey ! Danke für Ihren wertvollen Vorschlag! In der Tat habe ich nie ein neuronales Netzwerk betrachtet. Ich glaube, Sie haben recht, es scheint die perfekte Lösung für diesen Fall zu sein.
Wenn ich versuche, mich in meinem JMP zu reproduzieren, bekomme ich immer eine positive Steigung für X2 und nicht eine negative wie die Ihre (und ich weiß, dass die richtige negativ sein sollte). Irgendwelche Vorschläge dafür?
Re: Signifikantes Modell mit signifikantem LoFIch kann nicht sicher sein, was diese Umkehrung der Neigung bewirken könnte, aber ich habe einige Ideen. Es gibt drei Dinge, die zu beachten sind. Zuallererst ist die Zuordnung von Beobachtungen zu den Trainings- und Validierungssätzen zufällig, so dass die Ergebnisse zu unterschiedlichen Ergebnissen führen werden. Die Unterschiede sind jedoch normalerweise gering, wenn der Datensatz sehr groß ist.
Zweitens ist Ihr Datensatz nicht sehr groß! Sie können sich vorstellen, dass 1/3 der Daten jedes Mal zufällig zur Validierung gehalten wird, dann können die Ergebnisse nicht die gleichen sein. Darüber hinaus hatten einige Ihrer Variablen nur zwei oder drei Ebenen. Einige Levels traten nur wenige Male auf. Diese Tatsache wird die Unterschiede zwischen den Läufen weiter komplizieren. Sie können für die Validierungsmethode anstelle von Holdout die K-Falz-Kreuzvalidierung versuchen. Mit dieser Validierungsmethode können Sie 5 bis 10-fach für gute Ergebnisse verwenden.
Drittens kann der Einfluss der Kollinearität nicht vollständig vermieden werden. X2 ist stark mit X1 und X3 korreliert. Bei der Holdout-Validierungsmethode kann die zufällige Teilmenge von 2/3 der Zeilen die Steigung ändern.
Der Modellbau ist eine seriöse, sorgfältige Arbeit. Meine vorherige Antwort war ein Vorschlag, keine vollständige Beratung gegen Gebühr. (Das ist nicht der Zweck der Diskussionen hier!) Sie müssen sich mit Modellierungsverfahren vertraut machen, bevor Sie vertrauen und Ihre Ergebnisse teilen. Aber ich hoffe, diese Diskussion reicht aus, um Sie anzufangen.
Re: Signifikantes Modell mit signifikantem LoFIn der Tat war es nützlich. Ich war nie sehr an neuronalen Netzwerken interessiert, weil es schwer ist, die Hintergründe wirklich zu verstehen, aber jetzt bin ich neugierig. Ich muss mehr lernen und mich tiefer in das hineinarbeiten. Ich habe auch bald neue Ergebnisse, ich kann versuchen, sie vorherzusagen, zu vergleichen und zu überprüfen, ob es wirklich funktioniert. Ein schönes Wochenende wünsche ich ihnen!
