Umgang mit Multikollinearität bei der Regression von multiplen MischungsmodellenIch mache ein Regressionsmodell ohne Schnittpunkt, da alle meine Prädiktoren Teil einer chemischen Mischung sind und die Summe aller Prädiktoren gleich eins ist. Ich habe eine gute R2- und R2-Validierung, aber mein VIF für Hauptbegriffe und Kreuzbegriffe ist viel höher als 5.
Wie geht man am besten damit um?
Ich verwende dieses Modell, um die Eigenschaft der Mischung vorherzusagen. Sollte ich zusätzliche Einschränkungen für meine Prädiktoren wie Verhältnisse angeben (z. B. x1/x2 im Bereich)?
Betreff: Umgang mit Multikollinearität bei der Regression von multiplen MischungsmodellenIch empfehle auch das neue Buch von Snee und Hoerl über Mischungsexperimente für Formulierungen mit JMP. Dies ist ein guter Zeitpunkt, um eine Kopie mit a zu erhalten Förderung von SAS Press auch für eBooks!
Betreff: Umgang mit Multikollinearität bei der Regression von multiplen MischungsmodellenHabe das Buch schon bekommen, danke!Betreff: Umgang mit Multikollinearität bei der Regression von multiplen MischungsmodellenVielleicht kommuniziere ich nicht sehr gut. Wenn Sie Mischungsdesigns durchführen, befinden Sie sich tatsächlich in der Welt der Optimierung. Das bedeutet, dass Sie bereits signifikante zu modellierende Faktoren bestimmt haben (mindestens ein Modell erster Ordnung haben) und Rauschen verstehen. Ihr letzter Beitrag deutet darauf hin, dass Sie sich einen historischen Datensatz aus einer schlecht konzipierten Studie ansehen. Meine Analogie zur Verwendung von Mischungsdesigns in dieser Anwendung: "Sie kartieren die Basis des Berges". Ich bin mir Ihres Hintergrundwissens über Mischungsdesigns nicht sicher, aber ich schlage vor, dass Sie sich Cornells Buch "Experiments with Mixtures" besorgen.
Natürlich können Sie sich historische Daten ansehen, um Hinweise zu erhalten, aber normalerweise ist dies eine Art Regressionsverfahren. Dann iterieren Sie, bis Sie zu einem Punkt kommen, an dem Sie mit den Komponenten einer Mischung experimentieren möchten, um sie zu optimieren.
Betreff: Umgang mit Multikollinearität bei der Regression von multiplen MischungsmodellenStatmann, danke! Ich bin nicht in der Optimierung, dachte aber, dass es später kommen könnte. Im Moment muss ich nur die bestimmte Eigenschaft von Glas vorhersagen, wenn ich seine Zusammensetzung kenne. Ich verwende sehr „teure“ historische Daten für die Modellierung und sie sind nicht gut (oder überhaupt nicht) entworfen und einige meiner Komponenten haben Korrelationen von mehr als 0,7.
Also denke ich darüber nach, wie ich auch signifikante Kreuzbegriffe für mein Modell auswählen kann, um die richtige Glasbestandteilswut für die Vorhersage zu definieren. Ich werde es mit Konturkarten überprüfen, wie Sie vorgeschlagen haben, da es sehr vielversprechend klingt!
Betreff: Umgang mit Multikollinearität bei der Regression von multiplen MischungsmodellenKonstantin,
Mein $0,02, nimm es oder lass es.
Sie befinden sich in der Welt der Optimierung. Dies erfordert eine unterschiedliche Nutzung und Interpretation statistischer Analysen. Beispielsweise interessiert Sie die statistische Signifikanz nicht so sehr, diese wurde bereits ermittelt. Während R-Quadrate (und R-Quadrate angepasst) in bestimmten Phasen der Modellerstellung sehr nützlich sein können, sind sie während der Optimierung nicht so nützlich. (Übrigens haben R-Quadrate wenig mit der Extrapolation von Ergebnissen zu tun, sie beziehen sich nur auf die vorliegenden Daten). Mein Rat wäre, die von JMP bereitgestellten Konturkarten zu verwenden und diese Mischungen tatsächlich auszuführen und die tatsächlichen Ergebnisse mit den vorhergesagten Ergebnissen (der Konturkarten) zu vergleichen. Führen Sie eine Residuenanalyse durch und ändern Sie die Karten nach Bedarf anhand empirischer Daten. Ich würde mich von zu komplizierten Werten mit Verhältnissen oder anderen Transformationen fernhalten. Ein weiterer Hinweis zur Vorsicht: Wenn Sie Optimierungsdesigns ausführen, ohne das Rauschen und die Auswirkungen des Rauschens im Laufe der Zeit wirklich zu verstehen (z. B. Messfehler, Schwankungen von Charge zu Charge der Eingangschemikalien, Umgebungsbedingungen usw.), werden die Konturkarten nicht sehr gut sein gute Prädiktoren für tatsächliche Ergebnisse.
Betreff: Umgang mit Multikollinearität bei der Regression von multiplen MischungsmodellenIch würde die Kästchen für die L-Pseudokomponentencodierung aktivieren. Sie könnten beides überprüfen, aber Sie laufen Gefahr, dass für verschiedene Faktoren unterschiedliche Arten der Codierung verwendet werden. Ich finde es einfacher, mich nur an einen Typ zu halten, und L-Pseudokomponenten-Codierung ist normalerweise die beste.
Beachten Sie, dass sich diese Standardisierung von der traditionellen Versuchsplanung für unabhängige Faktoren unterscheidet.
Was Ihre letzte Frage betrifft, müssen Sie entscheiden, was für die Leute, die dieses Modell verwenden werden, am sinnvollsten ist. Ich persönlich würde nur die Komponentenbereiche wollen. Ich würde Verhältnisse umständlich finden, da das Modell nicht in Bezug auf Verhältnisse ist. Wenn Sie schließlich JMP verwenden und die Komponenten ordnungsgemäß eingerichtet haben (ein Vorteil der Verwendung von JMP zum Erstellen Ihres Designs), legt der Profiler automatisch die Bereiche für die Komponenten fest, um eine Extrapolation zu vermeiden. Außerdem haben Sie den Mischungsprofiler, der die gültigen Bereiche für Ihre Komponenten anzeigt.
Betreff: Umgang mit Multikollinearität bei der Regression von multiplen MischungsmodellenDan, danke für die Antwort! Soweit mein Design nicht in JMP erstellt wurde, gibt es keine Pseudokomponentencodierung, aber ich habe alle meine Prädiktoren als Mischung durch die Dropbox für Spalteneigenschaften markiert.
Ich sehe auch Kontrollkästchen für L-Pseudo-Komponentencodierung und U-Pseudo-Komponentencodierung, sollte ich sie aktivieren? Ich habe versucht, alle meine Prädiktoren manuell zu standardisieren, aber sie wären keine Mischung mehr (Summe ist nicht gleich 1) und JMP meldet R2 nicht.
Denken Sie außerdem, nachdem ich das Mischungsmodell mit hohem VIF erstellt habe, dass es sinnvoll ist, die Bereiche für meine Prädiktorverhältnisse zusammen mit dem Modell anzugeben? Normalerweise habe ich nur das Min-Max bewiesen, um eine Extrapolation zu vermeiden.
Betreff: Umgang mit Multikollinearität bei der Regression von multiplen MischungsmodellenZunächst eine Klarstellung. Für Scheffe-Mischungsmodelle gibt es einen Schnittpunkt. Er wird nicht angezeigt, da er mit den Parameterschätzungen des Haupteffekts kombiniert wird. Dies ist KEIN No-Intercept-Modell. Sie können bestätigen, dass Sie ein Scheffe-Modell anpassen, indem Sie sich die Varianzanalyse-Tabelle ansehen. Es sollte "Testing Against Reduced Model: Y = Mean" heißen. Wenn dies nicht der Fall ist, passen Sie kein Scheffe-Mischungsmodell an, wie Sie denken.
Nun zu den hohen VIFs. Dies ist bei einem Mischungsmodell SEHR üblich. Dafür kann man wenig tun. Erstens, verwenden Sie pseudokomponentencodierte Werte? Wenn das Design in JMP erstellt wurde, sollte dies automatisch verwendet werden. Sie können sehen, ob die Pseudokomponentencodierung verwendet wird, indem Sie sich die Parameterschätzungen ansehen. Sie sollten etwas wie (X1-c)/d sehen, wobei c und d Konstanten sind. Wenn Sie dies nicht sehen, können Sie die Eigenschaft Pseudokomponenten-Codierungsspalte aktivieren und dann Ihr Modell anpassen.
Selbst bei Pseudokomponentencodierung könnten die VIFs sehr hoch sein. Je eingeschränkter Ihre Mischungskomponenten sind, desto höher sind die VIFs. Obwohl hohe VIFs nicht wünschenswert sind, ist das Ziel eines Mischungsmodells die Vorhersage. Sie können immer noch gute Vorhersagen aus dem Modell erhalten. Denken Sie daran, dass dies das ultimative Ziel ist. Die hohen VIFs verursachen höhere Standardfehler für die Parameterschätzungen, was sich auf das Testen auswirkt. Das Reduzieren des Modells wäre schwieriger, aber Sie können das Modell zur Vorhersage verwenden.
