HauptkomponentenregressionHallo – ich arbeite und verwende PCA in JMP nun seit etwa vier Jahren. Nichts Besonderes, aber ich fühle mich mit vielen Funktionen sehr wohl. Ich habe die PCs als Faktoren für DoE verwendet und dachte, ich wäre ein bisschen schlau. Und siehe da, ich bin letzte Woche auf eine Wikipedia-Seite zum Thema Hauptkomponentenregression gestoßen. Ha.
Wie auch immer, ich habe nachgeschaut und nachgeschaut, und ich sehe keinen Hinweis, geschweige denn Funktionalität, in JMP für PCR (oder auch keine Integration mit DoE). Übersehe ich etwas und ist diese Funktionalität in JMP vorhanden, wenn auch nur in JSL-Form? Wenn nicht, hat jemand Erfahrung damit? Würden Sie einfach die invertierte Korrelationsmatrix für die PCs verwenden, im Grunde die Umkehrung der PC-Formelspalte?
Danke!Erweiterte statistische ModellierungVersuchsplanungWindowsBetreff: HauptkomponentenregressionHallo,
Ich habe mich mit der gleichen Idee beschäftigt und mir wurde gesagt, dass das auf diesem Forum Unsinn sei. Dennoch gibt es möglicherweise einen arbeitsintensiven Weg, um das zu bekommen, was Sie wollen.
- Berechnen Sie die Hauptkomponenten aus Ihrem Datensatz (Multivariate Methoden > Hauptkomponenten)
- Gehen Sie im Bericht zu Spalten speichern > Werte der Hauptkomponenten speichern. Die Anzahl der PCs, die Sie speichern, hängt von Ihren Daten ab, und ich verwende tendenziell PCs, die mindestens 80 % der Datenvariation erfassen
- Behandeln Sie die PCs dann wie beliebige Variablen in Ihrem Modell (z. B. Antwort-Screening, Modellanpassung usw.).
Hinweis: Dieser Ansatz ist direkt vom Workstream in R inspiriert, wie auf dieser Seite erläutert ( LINK ).
Am besten,
TS
Betreff: HauptkomponentenregressionDanke für die Antwort! Was haben die Leute also mit der PCR zu tun? Handelt es sich um ein grundlegendes statistisches Problem oder ist es etwas anderes? Als hätte ich ein Papier im Einsatz, das 700 Lösungsmittel in 100 Eigenschaften benötigt. Es scheint höchst unwahrscheinlich, dass es 100 wirklich unabhängige, grundlegende Aspekte im Lösungsmittelbereich gibt, und die PCR scheint eine vernünftige Möglichkeit zu sein, ihn auf eine überschaubare Größe zu reduzieren. Ich bin mir sicher, dass es auch viele andere Orte für Zeolithe, Mineralien usw. gibt. Und das ist nur chemisch.
Betreff: HauptkomponentenregressionIch frage wohl auch, wie man das Regressionsmodell, das man erhält, am besten in den ursprünglichen Spaltenraum umkehren kann. Ich schätze, vollständige Offenlegung: Ich verwende diese PCs als Faktoren in einem experimentellen Design. Erstellen Sie das Modell in Bezug auf die PCs und wenden Sie eine inverse Korrelationsmatrix darauf an, oder führen Sie dann einfach eine Art Anpassung an alle Faktoren durch und sehen, welche am besten passt, um ein physikalischeres Modell zu erhalten?Betreff: HauptkomponentenregressionKönnte eine partielle Kleinstquadrate-Regression eine einfachere Lösung sein?
Betreff: HauptkomponentenregressionIch bin mir nicht sicher, ob die Leute etwas gegen PCR haben, aber es gibt einige Einschränkungen. Letztendlich müssen Sie sich darüber im Klaren sein, was Sie von Ihrer Modellierungsarbeit erwarten.
PCR ist eine voreingenommene Regressionstechnik. Das ist nicht unbedingt schlecht, aber Ihr Modell wäre nur prädiktiv. Es ist nicht dazu gedacht, Erkenntnisse darüber zu liefern, was Dinge verursacht, wie es ein geplantes Experiment tun würde. Es basiert wirklich nur auf Korrelationen und erhebt keinen Anspruch auf Kausalität.
Wenn Sie PCA für die X-Werte durchführen, wie @Thierry_S vorschlägt, werden bei Beibehaltung der ersten paar Hauptkomponenten nur die X-Werte berücksichtigt, nicht die Ziel- oder Antwortvariable Y. Daher erhalten Sie möglicherweise nicht das beste Modell. Die letzte Hauptkomponente hat möglicherweise die beste Vorhersagefähigkeit des Ziels, daher sollten Sie ALLE Hauptkomponenten beibehalten, um Ihr PCR-Modell zu erstellen. Sobald Sie ein Modell mit allen PCs angepasst haben, können Sie die unbedeutenden entfernen, um ein endgültiges Modell zu erhalten.
Ihr letzter Beitrag behandelt das Hauptproblem der PCR: Wie übersetzt man zurück in den ursprünglichen X-Raum? Es gibt mehrere mögliche Ansätze. Ein Ansatz besteht darin, den Faktor mit der höchsten Ladung von jedem der signifikanten PCs beizubehalten. Ein zweiter Ansatz besteht darin, den Faktor mit der niedrigsten Ladung von jedem der signifikanten PCs zu entfernen. Und es gibt noch weitere Möglichkeiten. Welchen Ansatz Sie wählen, hängt davon ab, was Sie von einem Modell erwarten.
Betreff: HauptkomponentenregressionHmmmmmm. Ich glaube, ich verstehe Ihre Bedenken , @Dan_Obermiller .
Ok, hier ist ein Gedanke. Und das ist ein Eintauchen in Dinge, mit denen ich wirklich nicht vertraut bin, also lassen Sie mich wissen, ob das absurd ist. Obwohl das experimentelle Design mit PCs zu einem Modell in Bezug auf PCs führt, ist der y-Vektor immer noch in realen Einheiten. Man könnte also tun, was @Thierry_S vorgeschlagen hat, und die PCs generieren. Auf diese Weise können Sie ein Design generieren, das zumindest versucht, Punkte auszuwählen, die entlang der Richtungen maximaler Varianz liegen. Laden Sie diese als Kovariate in die DoE-Plattform. Und dann habe ich mir gerade die PLS-Plattform angesehen, die @Victor_G geteilt hat. Vielleicht sollten Sie, anstatt ein Modell in Bezug auf die PCs zu erstellen, eine PLS-Regression der endgültigen Daten gegenüber dem ursprünglichen Datensatz durchführen.
Auf diese Weise verwenden Sie die PCs nur, um sicherzustellen, dass die Verwendung des ursprünglichen Spaltenraums in Ihrem Entwurf maximiert wird, Sie verwenden jedoch ein Regressionsmodell, das dem ursprünglichen, physisch verankerten Spaltenraum Priorität einräumt.
Ist das sinnvoll? Meine erste Sorge ist, dass dadurch das Optimalitätskriterium einfach ins sprichwörtliche Hinterzimmer verbannt wird, aber soweit ich weiß, ist PLS darauf ausgelegt, stark korrelierte Variablen zu verarbeiten, sodass die Notwendigkeit des Optimalitätskriteriums geringer ist? Es könnte auch andere Probleme geben.
Ich bin nur ein einfacher Chemieingenieur, also sagen Sie mir Bescheid, wenn ich hier mit den Statistiken nicht gut umgehe.Betreff: HauptkomponentenregressionUnd, @Victor_G , ich habe gerade gesehen, dass Sie L'Oreal in Ihrem Slogan haben. Ich habe mich gerade bei L'Oreal beworben. Keine Ahnung, ob ich es bekomme, aber ich hatte Angst, dass ich JMP Pro verlieren könnte, wenn ich zu einem anderen Job wechsle. Ich bin froh, dass ich den Zugang nicht verliere, wenn ich dort einen Job bekomme!Betreff: Hauptkomponentenregression@ehchandlerjr , für die Designerstellung sehe ich zwei Optionen:
- Verwenden Sie PCs als Faktoren im Design (mit den von @Dan_Obermiller erwähnten Risiken in Bezug auf die Vorhersagbarkeit, aber Sie haben möglicherweise eine gute experimentelle Raumabdeckung),
- Verwenden Sie Ihre Faktoren direkt als Kovariate, da Sie, je nachdem, welche Faktoren Sie haben, die Ebenen möglicherweise nicht unabhängig voneinander ändern können: Bei chemischen Eigenschaften können Sie beispielsweise Molekulargewicht, topologische Oberfläche und Kohlenstoffkettenlänge für eine Reihe von Molekülen nicht völlig unabhängig voneinander ändern. Die Vorbereitung eines Kandidatensatzes mit allen möglichen Kombinationen Ihrer Faktoren und die Verwendung dieser Faktoren als Kovariate könnte dazu beitragen, dieselben ursprünglichen Eingaben beizubehalten, eine gute Abdeckung Ihres Versuchsraums zu ermöglichen und Ihre Antworten direkt mit diesen Faktoren zu modellieren (durch PLS oder andere Modelle). Weitere Informationen hier: Was ist eine Kovariate beim Versuchsdesign?
Entwickler-Tutorial – Effektiver Umgang mit Kovariaten beim Entwerfen von Experimenten – JMP-Benutzer-Community
Viel Glück für L'Oreal, halten Sie mich auf dem Laufenden:)
Am besten,
Betreff: HauptkomponentenregressionVielleicht ist meine Definition eines Experiments anders als Ihre? Meine praktische Frage lautet wohl: Was manipulieren Sie im Experiment tatsächlich? Ich glaube nicht, dass der PC unbedingt direkt auf einen Faktor oder gar eine Gruppe von Faktoren übertragbar ist, die spezifisch und unabhängig voneinander manipuliert werden können.
Sie können diese Faktoren sicherlich regressieren, aber ich bin mir nicht sicher, ob das ein Experiment ist. Wenn Sie nur Kovariaten haben, ist das kein Experiment, sondern eine Regression. Experimente beinhalten üblicherweise Faktoren, die als fixe Effekte gelten. Kovariaten sind Zufallseffekte. Zusammen ergibt das ein gemischtes Modell. Die Anzahl der Zufallsvariablen, die Sie im gemischten Modell berücksichtigen können, ist in der Regel begrenzt.
