DoE unter Verwendung von Hauptkomponenten als VariablenHallo,
Ich arbeite an einem Optimierungsproblem und habe eine PCA für den Datensatz durchgeführt.Die sieben wichtigsten Hauptkomponenten erklären etwa 80 % der Varianz.Ich hatte gehofft, ein DoE unter Verwendung dieser sieben wichtigsten Hauptkomponenten als Variablen planen zu können.Ein Kollege hat jedoch darauf hingewiesen, dass dies Unsinn ist, da die späteren Hauptkomponenten vergleichsweise wenig Varianz gegenüber den früheren erklären und ihre Einbeziehung daher zu einer ineffizienten Nutzung experimenteller Ressourcen führen würde.(Zur Information: Er befürwortete stattdessen die k-Nächste-Nachbarn-Analyse, über die ich nicht viel weiß.)Meine Frage ist, ob es immer noch gültig ist, ein DoE mit Variablen (in diesem Fall Hauptkomponenten) durchzuführen, deren Fähigkeit, Daten zu erklären, stark variiert.(In meinem Bereich sehe ich oft DoEs, die nur auf der Grundlage der drei besten DoEs vorgeschlagen werden, selbst wenn sie nur einen Bruchteil der Gesamtvariabilität erklären.)
VersuchsplanungBetreff: DoE verwendet Hauptkomponenten als VariablenHallo @kjwx109 ,
Ohne weitere Details könnte es schwierig sein, Ihnen zu helfen. Ich weiß zum Beispiel nicht:
- Möchten Sie Ihren bereits vorhandenen Datensatz analysieren oder Experimente auf der Grundlage dieses Datensatzes planen?
- Was ist das Ziel der Analyse?
- Möchten Sie ein Vorhersagemodell oder ein erklärendes Modell (oder vielleicht beides) erstellen?
- Haben Sie ein Problem mit hoher Dimensionalität? Wie viele Originalfaktoren/Variablen haben Sie?
- Möchten Sie Einzelpersonen/Beobachtungen oder Variablen gruppieren/clustern?
Generell mag es sinnvoll sein, ein DoE für Hauptkomponentenvariablen zu erstellen, aber es ist besser, wenn diese Hauptkomponentenvariablen aus Sicht der Fachkompetenz sinnvoll sind: Möglicherweise sind bestimmte Faktoren auf bestimmten PCs und bei Ihnen „vermischt“. kann einen Begriff finden, der diese beiden korrelierten Faktoren umfasst und erklären, warum sie möglicherweise miteinander verbunden sind.
Es gibt zahlreiche Möglichkeiten, die Dimensionalität zu reduzieren, wenn Sie dieses Problem angehen möchten, und Sie haben die Möglichkeit, dies bei Variablen oder Beobachtungen/Einzelpersonen zu tun. Dies kann zu unterschiedlichen Visualisierungen und Ergebnissen führen. Ich habe hier auf ein ähnliches Thema zum Thema Clustering geantwortet: JMP Community – Spalten für Clustering , und es gibt andere Möglichkeiten, die Dimensionalität zu reduzieren: Hauptkomponentenanalyse, multivariate Einbettungen (UMAP, t-SNE, ...) ...
Ich sehe nicht, wie K-Nearest Neighbors in diesem Zusammenhang nützlich sein könnten, es wird häufiger in einem prädiktiven Ansatz oder einem Vorverarbeitungsschritt für fehlende Werte verwendet. Es handelt sich nicht um eine Variablenauswahlmethode. Weitere Informationen finden Sie hier: K Nächste Nachbarn (jmp.com)
Und Sie können hier sehen, wie es auf interaktive Weise funktioniert (und welchen Einfluss die Datensatzgröße, die Anzahl der Nachbarn usw. haben): K-Nearest Neighbors (KNN) – Visualisierung der Varianz der Entscheidungsgrenze / Antoine Broyelle | Beobachtbar (observablehq.com)
Ich hoffe, dass Ihnen diese erste Antwort weiterhilft, und freue mich darauf, Ihnen mit mehr Kontext weiterzuhelfen.
Betreff: DoE verwendet Hauptkomponenten als VariablenVictor stellt einige tolle Fragen.Ich würde gerne wissen, wie Sie eine Hauptkomponente tatsächlich manipulieren und wie Sie den Pegel festlegen.
Betreff: DoE verwendet Hauptkomponenten als VariablenSind alle Ihre Variablen unabhängig, d. h. Sie können den Wert für jede direkt festlegen?Wenn ja, ist die Erkundung nur des durch diese 7 Komponenten definierten Raums möglicherweise viel kleiner als der potenzielle Entwurfsraum, und Sie riskieren, optimale Punkte zu verpassen, nur weil Sie dort in der Vergangenheit noch nie gelaufen sind.Beispiel: Wenn die Anlage die Temperatur X nie geändert hat, wird ein DOE, das PCA-Komponenten verwendet, X auch nicht verschieben.
Andererseits kann dieser unbekannte Raum zu einem wirklich schlechten Produkt führen oder einfach nicht funktionieren.Wenn Sie die Leistung an den Grenzen all dieser Komponenten effektiv analysieren und visualisieren können und sicher sind, dass der optimale Punkt erreicht ist innen Die Raumgestaltung, die dann mit diesem Raum beginnt, könnte am effizientesten sein.Überprüfen Sie dies anhand vorläufiger Ergebnisse und erweitern Sie den Entwurf, wenn Sie feststellen, dass der Entwurfsraum zu klein oder zu groß ist.
Was die Anzahl der Komponenten betrifft, denke ich, dass eine Analyse dieser Komponenten angebracht ist. Wenn Sie wirklich 7 Faktoren haben, die Sie kontrollieren können, und wenn der potenzielle Nutzen der Optimierung des 7. Faktors die zusätzlichen Durchläufe wert ist, die zur Erkundung dieses Bereichs erforderlich sind, dann versuchen Sie es.In manchen Fällen können die ersten vier Komponenten zu einem bestimmten Zeitpunkt Faktoren sein, die außerhalb der Kontrolle der Anlage liegen, daher ist die fünfte Komponente die erste, die ein tatsächlicher Hebel ist, der gesteuert werden kann.In anderen Fällen kann der Unterschied zwischen den besten und schlechtesten Einstellungen für die 7. Komponente zu Einsparungen führen, die nicht einmal das Experiment finanzieren.
Prozesse und Designs sind voller Nuancen.Ich zögere, zu sehr zu verallgemeinern, daher hängt die Beantwortung einer solchen Frage wirklich von Ihrem Prozess und Ihren Zielen ab.
Betreff: DoE verwendet Hauptkomponenten als VariablenHallo @kjwx109 ,
Ich gehe davon aus, dass Sie eine PCA für eine große Anzahl kontinuierlicher Deskriptorvariablen in einer Bibliothek verschiedener „Kandidaten“-Materialien durchgeführt haben, um zu einer kleineren Anzahl kovariater Faktoren zu gelangen und ein Experiment zur Erforschung eines vielfältigen Spektrums der Kandidaten zu entwerfen .
Wenn das der Fall ist, denke ich, dass das beigefügte Beispiel bei der Beantwortung Ihrer Fragen hilfreich sein könnte. Ziel ist es, im Zuge der Optimierung eines chemischen Reaktionsprozesses eine vielfältige Auswahl an Lösungsmitteln auszuwählen.
Wir haben 9 Deskriptoren der Lösungsmittel und es gibt starke Korrelationen zwischen vielen von ihnen. Daher kann PCA verwendet werden, um die Größe des Problems zu reduzieren: 2 PCs erfassen >70 % der Variation in den Lösungsmitteldeskriptoren. (Wenn es keine starke Korrelation zwischen den Deskriptoren gäbe, hätte die PCA keinen Sinn – wir würden die Deskriptoren in unserem Experiment einfach als Kovariatenfaktoren verwenden.)
Betrachtet man die beiden wichtigsten PCs, ergeben sie als „echte“ chemische Eigenschaften des Systems Sinn: Die erste scheint zu beschreiben, wie „polar“ oder „wasserähnlich“ das Lösungsmittel ist; und der zweite beschreibt, wie „voluminös“ das Lösungsmittel ist. Es ist viel schwieriger, die Bedeutung des dritten PCs zu interpretieren, der nur 9 % der Variation ausmacht.
Wie viele PCs sollten wir als Kovariatenfaktoren in unserem geplanten Experiment verwenden? Sicherlich würden wir nicht alle 9 verwenden – der springende Punkt ist, die Größe des Problems von der großen Anzahl korrelierter messbarer Deskriptoren auf eine kleinere Anzahl sinnvoller, zugrunde liegender „latenter“ Komponenten zu reduzieren, von denen wir glauben, dass sie wichtige Eigenschaften des Systems beschreiben.
Als allgemeine Faustregel gilt, PCs mit Eigenwerten kleiner als 1 nicht zu berücksichtigen, da sie weniger Variation beschreiben als eine der ursprünglichen Variablen. In diesem Fall würde das bedeuten, dass wir uns dafür entscheiden würden, nur die ersten beiden PCs zu verwenden.Und die ersten beiden scheinen chemisch am sinnvollsten zu sein. In vielen Fällen wie diesem werden drei PCs verwendet, aber ich vermute, dass das vor allem daran liegt, dass es auf einem 3D-Streudiagramm gut aussieht!
Wir sollten eine Kombination aus den Statistiken der PCA und unserem Domänenverständnis des Systems verwenden, um die Wahl der Anzahl der PCs zu treffen, die als Kovariatenfaktoren übernommen werden sollen.
Es gibt Alternativen wie Clustering, die uns Gruppen ähnlicher Kandidaten aus der Bibliothek liefern würden.Wir könnten dann jeweils einen Vertreter auswählen, um eine vielfältige Auswahl an Kandidaten zu erhalten. Dies würde uns jedoch nicht die Erkenntnisse bringen, die wir durch die Verwendung aussagekräftiger PCs als Faktoren erhalten. Und es würde uns nicht ermöglichen, ein Experiment zu entwerfen, das die Eigenschaften der Kandidaten zusammen mit anderen Prozessfaktoren, die wir möglicherweise berücksichtigen, am besten erforscht. Ich bin mir nicht sicher, wie wir k nächste Nachbarn verwenden würden, aber ich kann mir vorstellen, dass dies die gleichen Nachteile hätte.
Ich hoffe das hilft.
Phil
