Einführung
Willkommen zum ersten Teil unserer dreiteiligen Blogreihe über raumfüllende Versuchsplanung (Space Filling Designs of Experiments, DOE). In einer Zeit, in der maschinelles Lernen, computergestützte Experimente und Simulationen eine immer wichtigere Rolle in Forschung und Entwicklung spielen, stoßen traditionelle Versuchsplanungsansätze mitunter an ihre Grenzen, wenn es darum geht, komplexe und kontinuierliche Faktorräume effizient zu untersuchen. Hier spielen raumfüllende Versuchsplanungen ihre Stärken aus.
Was sind raumfüllende Designs?
Raumfüllende Versuchsdesigns sind eine Art modellunabhängiger Versuchsplanung (DOE), die darauf abzielt, Versuchspunkte gleichmäßig im gesamten Versuchsraum zu verteilen und so den Abstand zwischen je zwei Punkten sowie die Abdeckung des Versuchsraums mit einer begrenzten Anzahl von Versuchen zu maximieren. Die Auswertung der Ergebnisse erfolgt häufig mithilfe einfacher Modelle des maschinellen Lernens (wie Gaußprozesse, Support-Vektor-Maschinen und Random Forests), die komplexe und nichtlineare Zusammenhänge modellieren und approximieren können.
Raumfüllende Versuchsdesigns werden ursprünglich für numerische Experimente in Bereichen eingesetzt, in denen Experimente unmöglich, komplex, kostspielig und/oder zeitaufwändig sind. Daher werden Phänomene häufig mithilfe numerischer Simulationen untersucht, deren Berechnungszeit jedoch aufgrund der zunehmenden Komplexität und Präzision der Modelle sehr lang sein kann. Um zufällige Simulationen zu vermeiden und eine gute Abdeckung des Simulationsraums zu gewährleisten, werden raumfüllende Versuchsdesigns verwendet, um die Rechenläufe gleichmäßig über den untersuchten Raum zu verteilen. Da numerische Simulationen deterministisch sind und bei identischen Eingaben identische Ergebnisse liefern, verzichten raumfüllende Versuchsdesigns typischerweise auf Wiederholungen. Dadurch entfällt die Notwendigkeit wiederholter Läufe zur Abschätzung der Variabilität. Raumfüllende Versuchsdesigns finden Anwendung in verschiedenen Branchen, wie beispielsweise der Ölindustrie, der Astronomie, der Optik und der Kerntechnik.
Dank raumfüllender Designs und Modellen des maschinellen Lernens lässt sich eine präzise Annäherung an die Simulationsmodelle (sogenannte „Surrogatmodelle“ oder Metamodellierung) schnell erstellen. Surrogatmodelle dienen der Darstellung und Annäherung der Ergebnisse komplexer Simulationsmodelle und sind im Vergleich zu diesen einfacher, kompakter und in der Regel rechentechnisch weniger aufwendig. Da Surrogatmodelle das Verhalten komplexerer Systeme approximieren, ermöglichen sie die Erkundung des Designraums komplexer Systeme, das Gewinnen von Erkenntnissen, die Optimierung und die Durchführung von Validierungssimulationen in deutlich kürzerer Zeit.
Hauptmerkmale
Raumfüllende Entwürfe weisen wichtige Merkmale hinsichtlich der Punktverteilung und ihrer beabsichtigten Verwendung auf:
- Gleichmäßige Verteilung der Punkte im gesamten Entwurfsraum.
- Es werden keine Annahmen über die zugrunde liegende Modellform getroffen.
- Gut geeignet für Vorhersagezwecke in rauscharmen Experimenten und Computersimulationen.
- Optimal für komplexe, nichtlineare Reaktionen.
Warum sollte man raumfüllende Designs gegenüber klassischen DOE-Designs bevorzugen?
Abbildung 1: Versuchsplanungsansätze
Traditionelle Beschränkungen des Energieministeriums
- Setzt spezifische Modellterme voraus (Haupteffekte, Wechselwirkungen, quadratische Effekte usw.).
- Kann große Bereiche des Gestaltungsspielraums unerforscht lassen.
- Optimiert für spezifische statistische Ziele (Screening und quantitative Analyse durch Effektschätzung, Vorhersage mittels polynomialer Antwortflächenmodelle).
Vorteile der Raumfüllung
- Modellunabhängige Exploration.
- Besseres globales Verständnis und bessere Vorhersage komplexer Reaktionsverhaltensweisen.
- Ideal für Computersimulationen, Metamodellierung und prädiktive Modellierung (maschinelles Lernen).
Allerdings benötigen raumfüllende Versuchsplanungen im Vergleich zu modellbasierten Versuchsplanungen oft eine höhere Anzahl von Punkten, um ein relevantes und aussagekräftiges Modell zu erhalten.
Überblick über gängige Arten von raumfüllenden Designs
Die Plattform für raumfüllende Entwürfe bietet verschiedene Entwurfstypen für unterschiedliche Situationen mit verschiedenen Faktortypen. Bei kontinuierlichen Faktoren verfolgen raumfüllende Entwürfe zwei Ziele:
- Maximiere den Abstand zwischen je zwei Entwurfspunkten.
- Verteilen Sie die Punkte gleichmäßig.
Raumfüllende Designs finden Sie in JMP unter DOE > Special Purpose > Space Filling Design (Abbildung 2).
Abbildung 2: Menü für raumfüllendes Design
Zu den Optionen für raumfüllende Designs gehören Kugelpackung, lateinischer Hyperwürfel, gleichmäßige Packung, minimales Potenzial, maximale Entropie, Gaußscher Prozess IMSE optimal und schnelle flexible Füllung.
| Designs |
Uniform |
Kugelpackung (Maximin) |
Lateinischer Hyperwürfel |
Schnelle, flexible Befüllung |
| Stärken |
Hervorragende Flächenabdeckung, mathematisch optimale Gleichmäßigkeit |
Optimale Punkttrennung |
Gute eindimensionale Projektionen, einfach zu generieren |
Ausgewogenheit zwischen Raumabdeckung und Projektionseigenschaften |
| Schwächen |
Zeit zum Berechnen |
Schlechte Projektionseigenschaften |
Keine Einschränkungen bei der Handhabung |
Kompromiss zwischen Raumabdeckung und Projektionseigenschaften |
| Am besten geeignet für |
Präzise Weltraumforschung |
Kontinuierliche Faktorräume mit verrauschten Antworten |
Erstes Screening, Computerexperimente |
Gemischte Faktortypen, ausgewogene Exploration, Umgang mit Nebenbedingungen |
| Art der Faktoren |
Nur stetige numerische Faktoren |
Nur stetige numerische Faktoren |
Nur stetige numerische Faktoren |
Kontinuierliche und diskrete numerische, kategoriale und Mischungsfaktoren |
Um zu beurteilen, wie gut die Designpunkte eine homogene Abdeckung des Parameterraums erreichen, vergleicht die Diskrepanzmetrik ihre Verteilung mit einer theoretischen Gleichverteilung.
Was ist eine Gleichverteilung?
Eine Gleichverteilung bedeutet, dass alle möglichen Werte innerhalb eines gegebenen Bereichs die gleiche Wahrscheinlichkeit haben.
Bei einer Gleichverteilung zwischen 0 und 1 hat jeder Wert exakt die gleiche Wahrscheinlichkeit: Es gibt keine bevorzugten Bereiche oder Häufungen. Grafisch erscheint dies als flache, rechteckige Form, in der die Wahrscheinlichkeitsdichte konstant bleibt (Abbildung 3).
Abbildung 3: Zufällige Gleichverteilung, generiert mit 1000 Punkten
Je größer die Anzahl der Punkte, desto einfacher lässt sich eine Gleichverteilung annähern.
Bei raumfüllenden Designs gewährleistet eine gleichmäßige Verteilung, dass die Punkte im gesamten Parameterraum gleichmäßig verteilt sind. Dadurch wird eine Häufung in bestimmten Bereichen verhindert, während andere unerforscht bleiben. So wird die Informationsabdeckung bei minimalem Rechenaufwand maximiert. Die Verwendung dieser Verteilung sichert eine unverzerrte Stichprobenziehung: Jeder Punkt im Designraum hat die gleiche Wahrscheinlichkeit, ausgewählt zu werden, was zu einer systematischen und effizienten Erkundung des Problembereichs führt.
Gängige Arten von raumfüllenden Designs
-
Uniformdesigns
PrinzipDas Grundprinzip besteht darin, ein Design zu erstellen, bei dem die Punktverteilung jedes Faktors möglichst genau einer Gleichverteilung entspricht. Dadurch wird ein Design geschaffen, das die Differenz zwischen den Designpunkten (die eine empirische Gleichverteilung aufweisen) und einer theoretischen Gleichverteilung minimiert. Diese Differenz zwischen Design- und theoretischer Gleichverteilung wird als Diskrepanz bezeichnet.
- StärkenHervorragende Flächenabdeckung, mathematisch optimale Gleichmäßigkeit.
- SchwächeZeit zum Berechnen.
- Am besten geeignet fürPräzise Weltraumforschung.
Abbildung 4: Darstellung eines gleichmäßigen Versuchsdesigns für zwei Faktoren mit 20 Durchläufen.
Beachten Sie, wie die Neuverteilung der Punkte eine gleichmäßige Verteilung der Punkte für jeden Faktor erzeugt.
Abbildung 5: Designdiagnose für Uniformdesign.
Der minimale Abstand zwischen zwei benachbarten Punkten ist heterogen. Die Abweichung ist gering und der MaxPro-Wert (maximale Projektion) ist bei diesem Design hoch.
-
Kugelpackungsdesigns (auch Maximin-Designs genannt)
PrinzipEs erzeugt ein Design, das den minimalen Abstand zwischen zwei Designpunkten maximiert. Dadurch werden die Punkte innerhalb des Designbereichs so weit wie möglich verteilt. Anschaulich lässt sich dies mit dem Problem vergleichen, Kugeln gleichen Volumens in einem vorgegebenen Volumen möglichst effizient zu stapeln.
- StärkeOptimaler Punktabstand.
- SchwächeSchlechte Projektionseigenschaften.
- Am besten geeignet für : Kontinuierliche Faktorräume mit verrauschter Antwort.
Abbildung 6: Darstellung des Kugelpackungsdesigns für zwei Faktoren mit 20 Versuchen.
Beachten Sie, wie die Neuverteilung der Punkte dazu führt, dass die Designpunkte mit einem konstanten Abstand zwischen benachbarten Punkten verteilt werden.
Abbildung 7: Designdiagnose der Kugelpackungskonstruktion.
Der minimale Abstand zwischen zwei benachbarten Punkten ist maximiert und möglichst gleich. Für diese Konstruktion ist keine MaxPro-Metrik-Bewertung möglich, da Punkte in einer Dimension identische Werte aufweisen können.
-
Lateinische Hyperwürfel-Designs (LHD)
PrinzipDas Grundprinzip besteht darin, so viele Kategorien zu erstellen, wie Läufe durchgeführt werden, und sicherzustellen, dass jeder Designpunkt pro Faktor genau einer Kategorie zugeordnet ist. Da viele Kombinationen zu dieser Generierung führen können, wird ein weiteres Kriterium (MaxPro) angewendet, um zu verhindern, dass die Neuverteilung der Punkte Korrelationen zwischen den Faktoren erzeugt und um gute Projektionseigenschaften zu gewährleisten. Es wird ein Design erzeugt, das den minimalen Abstand zwischen den Designpunkten maximiert, aber gleichzeitig eine gleichmäßige Verteilung der Stufen jedes Faktors erfordert. Jeder Faktor hat so viele Stufen, wie Läufe im Design vorhanden sind. Diese Methode erzeugt Designs, die einer Gleichverteilung ähneln. Die LHD-Methode stellt einen Kompromiss zwischen der Kugelpackungsmethode und der Methode des gleichmäßigen Designs dar.
- StärkenGute eindimensionale Projektionen, einfach zu generieren.
- SchwächeKeine.
- Am besten geeignet für: Erste Vorauswahl, Computerexperimente.
Abbildung 8: Darstellung eines lateinischen Hypercube-Designs für zwei Faktoren mit 20 Durchläufen.
Beachten Sie, wie durch die Neuaufteilung der Punkte 20 äquidistante Intervalle entstehen, die eine gleichmäßige Verteilung der Punkte für jeden Faktor annähern.
Abbildung 9: Designdiagnose des lateinischen Hyperwürfel-Designs.
Der minimale Abstand zwischen zwei benachbarten Punkten ist ähnlich. Die Abweichung ist gering und der MaxPro-Wert ist bei diesem Design hoch.
-
Schnelle, flexible Abfüllsysteme
Prinzip : Es erstellt ein Design mithilfe des schnellen flexiblen Füllalgorithmus (FFF). Der Algorithmus generiert zunächst eine große Anzahl zufälliger Punkte innerhalb des festgelegten Designbereichs. Diese Punkte werden anschließend mithilfe eines schnellen Ward-Algorithmus in Cluster gruppiert, deren Anzahl der Anzahl der angegebenen Durchläufe entspricht. Die endgültigen Designpunkte können entweder mit dem standardmäßigen MaxPro-Optimalitätskriterium oder mit dem Schwerpunktkriterium ermittelt werden.
- StärkeAusgewogenes Verhältnis zwischen Raumabdeckung und Projektionseigenschaften.
- Schwäche : Kompromiss zwischen Raumabdeckung und Projektionseigenschaften.
- Am besten geeignet für: Gemischte Faktortypen, ausgewogene Exploration, Umgang mit Nebenbedingungen.
Klingt kompliziert? Keine Sorge, eine schrittweise Erklärung des FFF-Algorithmus folgt später!
Abbildung 10: Darstellung des Designs für schnelles, flexibles Abfüllen für zwei Faktoren mit 20 Durchläufen.
Abbildung 11: Designdiagnose für schnelles, flexibles Abfüllsystem.
Der Mindestabstand zwischen zwei benachbarten Punkten ist heterogen. Die MaxPro-Metrikbewertung ist bei diesem Design recht hoch.
BONUS: Schritt-für-Schritt-Anleitung zum schnellen und flexiblen Füllalgorithmus
In diesem Abschnitt reproduzieren wir die Schritte des schnellen flexiblen Füllalgorithmus, um seine Mechanismen besser zu verstehen.
- Erstellen von Spalten für Faktoren: In diesem Beispiel erstellen wir zwei Spalten für die beiden stetigen Faktoren, jede mit 100.000 Zeilen und einer zufälligen gleichmäßigen Formelverteilung (Abbildung 12).
Abbildung 12: Erstellung der Faktorenspalten.
Der Designraum sollte vollständig von den mit der Formel erzeugten zufälligen, gleichmäßigen Punkten abgedeckt werden (Abbildung 13).
Abbildung 13: Der von 100.000 zufällig verteilten Punkten abgedeckte Designraum.
- Clustering: Unter Analysieren > Clustering wählen wir die Plattform Hierarchisches Clustering , geben die beiden Faktoren X1 und X2 in Y an und wählen Schnellstation als Methode (Abbildung 14).
Abbildung 14: Startfenster für hierarchische Cluster
Klicken Sie im roten Dreieck neben „Hierarchisches Clustering“ auf „Anzahl der Cluster“ und geben Sie 20 ein (20 ist die von JMP empfohlene Anzahl an Punkten für raumfüllende Designs mit zwei kontinuierlichen numerischen Faktoren). Klicken Sie anschließend im selben roten Dreieck auf „Clustermittelwerte speichern“ (Abbildung 15). Daraufhin erscheint eine neue Tabelle mit den Mittelwerten der 20 Cluster.
Abbildung 15: Hierarchische Clustering-Option zum Speichern von Clustermittelwerten.
Wir können die Cluster auch in unserer ursprünglichen Tabelle speichern und die Zeilen mit den Clustermittelwerten aus der Tabelle „Clustermittelwerte“ hinzufügen. Anschließend können wir unseren nach Clustern unterteilten Designraum visualisieren (Abbildung 16).
Abbildung 16: Designraum unterteilt in 20 Cluster.
- Filterung:Als Nächstes werden Zufallspunkte herausgefiltert und nur die Mittelwerte der Cluster beibehalten. Unser schnelles, flexibles Füllverfahren (mit Schwerpunktkriterium) ist damit abgeschlossen!
Anschließend können wir die nach diesen Schritten generierte Designgenerierung mit dem Ergebnis vergleichen, das wir durch die direkte Generierung eines schnellen, flexiblen Fülldesigns mit 20 Durchläufen unter Verwendung des Zentroidenkriteriums erhalten würden (Abbildung 17).
Abbildung 17: Vergleich der manuell mit dem Workflow erstellten Fast flexible Filling Designs (links) und des mit JMP unter Verwendung des Centroïd-Kriteriums erstellten Designs (rechts).
Die beiden Designs sehen sich sehr ähnlich!
Mit demselben Arbeitsablauf ließe sich ein schnelles, flexibles Fülldesign mit dem standardmäßigen MaxPro-Kriterium erstellen, allerdings würden die repräsentativen Clusterpunkte nicht als Mittelwert der Cluster ausgewählt, sondern als Punkte, die zu jedem Cluster gehören und das MaxPro-Kriterium maximieren:Details zur schnellen und flexiblen Befüllung
Auswahlkriterien für die Gestaltung
Bei der Auswahl zwischen raumfüllenden Designs sollten Sie Folgendes berücksichtigen:
- Objektiv:Je nach Zielsetzung (Screening, Exploration, präzise Vorhersagemodellierung usw.) und Schwerpunkt der geometrischen/distributionellen Generierung können bestimmte Designs bevorzugt werden.
- Dimensionalität des Entwurfsraums:Die Generierung einiger raumfüllender Designs (wie z. B. uniformer Designs) kann bei hohen Dimensionen einen hohen Rechenaufwand erfordern.
- Faktortypen:Bei ausschließlich kontinuierlichen Faktoren können Sie ein geeignetes Design entsprechend Ihrer Zielsetzung und Dimensionalität wählen. Bei Verwendung anderer Faktorentypen (diskrete numerische, kategoriale, gemischte usw.) bleibt Ihnen nur die Möglichkeit eines schnellen, flexiblen Füllungsdesigns.
- Antwortcharakteristikaund Integration mit Modellierungsansätzen : Je nach zu erwartendem Rauschen in der Antwort sowie den verwendeten Modellierungsansätzen (Gaußprozess, SVM, baumbasierte Modelle usw.) können unterschiedliche Designkonfigurationen angepasst werden.
- Anzahl der verfügbaren Durchläufe:Je nach Zielsetzung, zu analysierenden Zielgrößen und verfügbarem Budget können Sie ein Versuchsdesign wählen, das Ihren Rahmenbedingungen entspricht. Wenn Sie beispielsweise einen hochdimensionalen Versuchsraum homogen untersuchen möchten, indem Sie ausschließlich kontinuierliche Faktoren verwenden und möglicherweise verrauschte Zielgrößen berücksichtigen, kann ein Kugelpackungsdesign (Maximin-Design) eine gute Option sein.
- Rechenkomplexität der Entwurfsgenerierung:Je nach Anzahl der Durchläufe und Dimensionalität kann ein Design mit geringerer Generierungskomplexität sinnvoll sein. Gleichmäßige und Kugelpackungsdesigns sind im Allgemeinen komplexer zu generieren als schnelle, flexible Füllungsdesigns und lateinische Hyperwürfeldesigns.
- Erweiterungsstrategienfür sequentielle Experimente: BeliebigDesignerweiterungDie raumfüllende Vorgehensweise wird mithilfe der schnellen, flexiblen Füllmethode umgesetzt.
Demnächst
In unserem nächsten Beitrag legen wir den Rahmen für den Vergleich dieser raumfüllenden Designs dar. Wir definieren spezifische Reaktionen, Faktoren und Bewertungskriterien, um die Leistungsfähigkeit verschiedener raumfüllender Ansätze in unterschiedlichen Szenarien systematisch zu bewerten.
Dies ist der erste Teil einer dreiteiligen Serie über raumfüllende Versuchsaufbauten:
- Einführung in gängige Arten von raumfüllenden Designs(dieser Beitrag)
- Vergleichsrahmen und Bewertungsmetriken
- Ergebnisse, Analyse und Richtlinien für die Designauswahl
