<meta http-equiv="Content-Type" content="text/html; charset=UTF-8" />Roger W. Hoerl, PhD, Brate-Peschel-Assistenzprofessor für Statistik, Union College
Ronald D. Snee, PhD, Präsident, Snee Associates
Effiziente Mischungs-/Prozessexperimente mit nichtlinearen Modellen
9/2015
Ronald D. Snee, Snee Associates, Newark, DE
Roger W. Hoerl, Union College, Schenectady, NY
Gabriella Bucci, Out of Door Academy, Sarasota, FL
Urheberrecht: Ronald D. Schnee, Roger W. Hoerl und Gabriella Bucci 2015
Hinweis: Dieses Papier wird derzeit unter dem Titel „A Statistical Engineering Approach to Mixture Experiments With Process Variables“ redaktionell überprüft.
Abstrakt: Erörtert wird das Experimentieren sowohl mit Mischungskomponenten als auch mit Prozessvariablen, insbesondere wenn eine Wechselwirkung zwischen diesen beiden Variablensätzen wahrscheinlich ist. Wir betrachten sowohl Entwurfs- als auch Analysefragen im Kontext der Lösung eines tatsächlichen Mischungs-/Prozessproblems. Wir konzentrieren uns auf eine Strategie zur Bewältigung solcher Probleme und nicht auf die Suche nach dem bestmöglichen Design oder bestmöglichen Modell für einen bestimmten Datensatz. In diesem Sinne wird ein statistisches Engineering-Framework verwendet.Insbesondere wenn wir das Potenzial der Anpassung sparsamer nichtlinearer Modelle im Gegensatz zu größeren linearisierten Modellen berücksichtigen, erkennen wir erhebliche Möglichkeiten, die Größe experimenteller Designs zu reduzieren. In der Praxis ist es schwierig zu wissen, welcher Modelltyp am besten zu den resultierenden Daten passt. Daher wird eine integrierte, sequentielle Design- und Analysestrategie empfohlen. Anhand von zwei veröffentlichten Datensätzen und einem neuen Datensatz stellen wir fest, dass in einigen Fällen nichtlineare Modelle oder lineare Modelle, die die Interaktion ignorieren, eine Reduzierung der Experimente in der Größenordnung von 50 % ermöglichen. In anderen Fällen reichen nichtlineare Modelle möglicherweise nicht aus. Wir geben daher Leitlinien dazu, wann ein solcher Ansatz voraussichtlich erfolgreich sein wird, und schlagen eine Gesamtstrategie für solche Probleme vor.
Schlüsselwörter: Mischungen, Mischungsmodelle, Mischungsexperimente, nichtlineare Modelle
Einführung
Mischungsprobleme, bei denen die Anteile der Inhaltsstoffe 1,0 betragen müssen, treten in vielen Branchen und Anwendungsbereichen auf, beispielsweise in der Entwicklung von Lebensmitteln, Pharmazeutika und Chemikalien, um nur einige zu nennen. Bei vielen Gemischanwendungen beeinflusst nicht nur die Formulierung die endgültige Reaktion, sondern auch Prozessvariablen. Beispielsweise hängen bei der Herstellung eines Verschnittweins der endgültige Geschmack und andere wichtige Eigenschaften nicht nur von den Anteilen der verwendeten Rebsorten ab, sondern auch von Prozessvariablen wie den klimatischen Bedingungen der Vegetationsperiode, dem Zeitpunkt der Traubenernte und den Temperaturen verschiedene Phasen des Fermentationsprozesses, Art der verwendeten Reifefässer usw.
In einigen Fällen interagieren die Gemischkomponenten und Prozessvariablen nicht. Im Beispiel Wein würde dies bedeuten, dass die Gärung und andere Verarbeitung optimiert werden könnten, ohne Rücksicht auf die verwendeten Rebsorten zu nehmen. Dieses Szenario würde dazu führen, dass man additive Modelle verwendet, die ein Mischungsmodell und ein Prozessvariablenmodell kombinieren. In anderen Fällen trifft dieses Zusatzszenario nicht zu, da die besten Verarbeitungsbedingungen möglicherweise von den verwendeten Sorten abhängen. In diesem Fall gäbe es eine Wechselwirkung zwischen der Mischung und den Prozessvariablen. Das Interaktionsszenario würde zu Modellen führen, die Terme zur Berücksichtigung der Interaktion zwischen Mischungs- und Prozessvariablen enthalten.
Die typischerweise verwendeten Versuchspläne, wenn eine solche Interaktion erwartet wird, sind in der Regel groß, um die Anzahl der Terme in linearen Modellen unter Einbeziehung von Interaktionen zu berücksichtigen (Cornell 2002, 2011). Wenn man natürlich aus Fachkenntnissen oder früheren Experimenten weiß, wie die endgültige Modellform aussehen wird, kann man natürlich ein optimales oder nahezu optimales Experiment entwerfen, um dieses spezifische Modell abzuschätzen. Wir berücksichtigen die häufigere Situation, in der die Experimentatoren eine Wechselwirkung vermuten, sich jedoch nicht sicher sind, die endgültige Modellform festzulegen, bevor sie den Entwurf ausführen und die nachfolgenden Daten erhalten. Unser Fokus liegt daher weder auf dem optimalen Design für ein bestimmtes Modell noch auf dem optimalen Modell für einen bestimmten Datensatz. Vielmehr konzentrieren wir uns auf eine Strategie zur Bewältigung solcher Probleme, berücksichtigen alternative Designs und alternative Modelle und berücksichtigen die Notwendigkeit einer Effizienz bei der Lösung von Problemen in der Praxis.
In diesem Sinne verfolgen wir einen statistischen Engineering-Ansatz (Hoerl und Snee 2010, Anderson-Cook und Lu 2012), um die effektivsten und effizientesten Ansätze für Gemisch-/Prozessanwendungen in Unternehmen, Industrie, Forschung oder Regierung zu identifizieren.Insbesondere stellen wir fest, dass eine ernsthafte Betrachtung von Modellen mit nichtlinearen Parametern eine effiziente Alternative zu herkömmlichen Modellen mit linearen Parametern darstellen kann. Während die Anpassung nichtlinearer Modelle eine größere Herausforderung darstellt als die Anpassung linearer Modelle, ermöglicht moderne Software wie R, JMP, Minitab oder SAS Benutzern die Schätzung und Interpretation nichtlinearer Modelle relativ einfach, zumindest im Vergleich zu kommerzieller Software von 10 bis vor 20 Jahren.
Bei nichtlinearen Modellen müssen für dasselbe Mischungs-/Prozessproblem weniger Parameter geschätzt werden. Beispielsweise mussten in Cornells Fischpastetenanwendung (Cornell 2002) im linearen Modell 56 Terme geschätzt werden, im nichtlinearen Modell dagegen 14 Terme. Sollten daher nichtlineare Modelle eine praktikable Alternative darstellen, könnten viel aggressivere fraktionierte Entwurfsstrategien ergriffen werden, um den anfänglichen Experimentieraufwand deutlich zu reduzieren. Wir erkennen an, dass die Theorie, die nichtlinearen Modellen zugrunde liegt, beispielsweise für Standardfehler von Koeffizienten, weniger entwickelt ist als für lineare Modelle und häufig auf asymptotischen oder Näherungsergebnissen beruht (Montgomery 2012).
Mit anderen Worten: Da nichtlineare Modelle weniger Parameter benötigen, um die Wechselwirkung zwischen Prozess- und Mischungsvariablen zu berücksichtigen, können anfänglich viel kleinere Teilversuche durchgeführt werden. Offensichtlich sind nicht 56 Läufe erforderlich, um 14 Terme abzuschätzen, vorausgesetzt, dass die Experimentierkosten nicht unerheblich sind. Wenn sich das nichtlineare Modell oder sogar ein additives lineares Modell ohne Interaktion als ausreichend erweist, kann das Problem möglicherweise mit dem ursprünglichen Entwurf gelöst werden.
Wir haben viel zu gewinnen und wenig, wenn überhaupt, zu verlieren, wenn wir nichtlineare Modelle berücksichtigen. Wenn diese kleineren Modelle keine ausreichende Genauigkeit bieten, können nacheinander zusätzliche Experimente durchgeführt werden. Auf diese Weise reduzieren wir im besten Fall den experimentellen Effekt, der zur Lösung des Problems erforderlich ist, um bis zu 50 %, während wir im schlimmsten Fall irgendwann alle Experimente durchführen müssen, die ein typisches lineares Modell mit Interaktion erfordert würde brauchen. Diese Gesamtstrategie ist in Abbildung 1 dargestellt. Unserer Ansicht nach besteht das Herzstück der statistischen Technik darin, den besten Gesamtansatz zur Bewältigung des Problems hervorzuheben, anstatt sich auf das beste individuelle Design für ein bestimmtes Modell oder das beste individuelle Modell für einen bestimmten Datensatz zu konzentrieren.
Der Rest des Artikels ist wie folgt gegliedert; Wir überprüfen zunächst die typischen Modelle und Designs, die in Mischungsexperimenten mit Prozessvariablen verwendet werden, einschließlich solcher mit Wechselwirkung. Als nächstes betrachten wir die Grundlagen der statistischen Technik und diskutieren, wie sie auf dieses spezifische Problem anwendbar sind. Anschließend stellen wir drei Datensätze vor, zwei zuvor veröffentlichte und einen neuen Datensatz. Anhand dieser Datensätze vergleichen wir lineare additive, lineare interaktive und nichtlineare Modelle im Hinblick auf die Datenanpassung. Darüber hinaus weisen wir auf mögliche Interpretationen der Koeffizienten des nichtlinearen Modells hin. Als nächstes betrachten wir die hypothetischen Ergebnisse, die wir mit fraktionierten Designs für jedes dieser Probleme hätten finden können. Das heißt, wir analysieren eine Teilmenge der tatsächlichen Daten gemäß einem fraktionierten Design, passen die verschiedenen Modelle an und verwenden die Modelle, um die vom Modell nicht verwendeten Daten vorherzusagen. Abschließend betrachten wir die Implikationen dieser Analyse und schlagen eine Strategie zur Lösung von Mischungs-/Prozessproblemen vor, bei denen eine Wechselwirkung vermutet wird.
Typische Modelle, die bei Mischungs-/Prozessproblemen verwendet werden
Es gibt viele mögliche Designs und Modelle, die auf Mischungsprobleme mit Prozessvariablen angewendet werden können. Hier heben wir die gängigsten Modelle und Designs hervor, die in Anwendungen verwendet werden, insbesondere Scheff Modelle (Chef 1963, Cornell 2002), ohne den Versuch zu unternehmen, einen umfassenden Überblick zu geben. Wir betrachten zunächst Mischungsmodelle selbst, dann Mischungsmodelle mit Prozessvariablen ohne Interaktion, dann mit Interaktion. Sobald wir mit den Modellen fertig sind, besprechen wir die Designs, die normalerweise durchgeführt werden, um die Anpassung dieser Modelle zu ermöglichen.
Aufgrund der Einschränkung, dass die Formelkomponenten eine Summe von 1,0 ergeben müssen, was zum Verlust eines Freiheitsgrads führt, ist es üblich, den konstanten Term einfach aus einem standardmäßigen linearen Regressionsmodell zu streichen. Beispielsweise ergibt sich bei q Mischungskomponenten der lineare Scheff Modell würde geschrieben werden:
Da die Summe der Komponenten 1,0 ergibt, ist nicht der Absolutwert der Koeffizienten aussagekräftiger, sondern die Beziehungen zwischen den Koeffizienten. Wenn zum Beispiel b 1 =10, geb 2 =20 und b 3 =30, mit drei Komponenten, dann würden wir sagen, dass x 1 wirkt sich negativ auf die Antwort aus, da x erhöht wird 1 wir müssten entweder x verringern 2 oder x 3 um den gleichen Betrag, daher die Nettoauswirkung der Erhöhung von x 1 wäre, E(y) zu verringern. Weitere Informationen zur Interpretation von Mischungskoeffizienten finden sich in Cornell (2002).
Beachten Sie, dass wir für alle in diesem Artikel vorgestellten Modelle einen additiven Zufallsfehlerterm, eine unabhängige und identisch verteilte Normalverteilung mit einem Mittelwert von 0 und einer Standardabweichung annehmen . Obwohl Fehlerterme offensichtlich in jedem statistischen Modell wichtig sind, ist dies kein zentraler Punkt des aktuellen Artikels, daher werden wir in Zukunft wenig über diesen Fehlerterm sagen.
Es könnten auch andere Mischungsmodelle in Betracht gezogen werden, beispielsweise „Slack-Variablen“-Modelle, bei denen wir einen der Mischungsbestandteile weglassen, um die Mischungsbeschränkung zu vermeiden, und den konstanten Term wieder in das Modell einfügen. Wenn eine Krümmung vorhanden ist, ist es üblich, eine quadratische Form anzupassen Schiff Modell, das lineare Terme sowie alle möglichen Kreuzproduktterme zwischen Komponenten enthält:
Da jede Komponente als Eins minus der Summe aller anderen Komponenten betrachtet werden kann, würden wir die Kreuzproduktterme normalerweise nicht als Modellierung der Interaktion im herkömmlichen Sinne des Wortes betrachten, sondern eher als Modellierung nichtlinearer Mischung im Allgemeinen. Wenn zusätzliche nichtlineare Vermischung vorhanden ist und genügend Freiheitsgrade verfügbar sind, können wir die spezielle Kubik anpassen Schiff Modelle:
Dies gilt als „besonderes“ kubisches Modell in dem Sinne, dass es nicht alle Terme dritter Ordnung enthält, sondern vielmehr das quadratische Modell plus alle möglichen Kreuzprodukte zwischen drei Termen ist. Beispielsweise enthält das spezielle Kubikwort den Begriff nicht X 2 . Ein voller Kubikmeter Schiff Modell wäre:
wo die d ij sind kubische Koeffizienten des binären Überschusses oder „Synergismus“ (Cornell 2011, S. 31). Wenn in unserem Modell Prozessvariablen vorhanden sind, verwenden wir x ich für eine Mischungsvariable, z.B ich für eine Prozessvariable, b ich für einen Mischungskoeffizienten und a ich für einen Prozessvariablenkoeffizienten. Wir berücksichtigen nicht d ij Bedingungen. Darüber hinaus wird der Oberbegriff f(x) für ein Modell verwendet, das nur Mischungsbestandteile enthält, während g(z) für Modelle verwendet wird, die nur Prozessvariablen enthalten. Kombinierte Modelle, die beides beinhalten, werden als c(x,z) geschrieben.
Auch hier gibt es viele potenzielle Modelle, die auf Prozessvariablen und auf Kombinationen von Mischungsbestandteilen und Prozessvariablen angewendet werden können. Hier konzentrieren wir uns auf Standarddesigns, die am häufigsten in Anwendungen eingesetzt werden. Ein lineares Prozessvariablenmodell wäre:
,
wo wir r unabhängige Variablen haben. Ein Prozessvariablenmodell zweiter Ordnung (vollständig quadratisch) wäre:
Beachten Sie, dass die Doppelsummierung i=j umfasst, daher enthält das vollständige quadratische Modell quadratische (quadratische) Terme im Modell. Offensichtlich erfordert die Anpassung eines solchen Modells mehr als zwei Ebenen im Design. Bei zweistufigen Designs kann ein faktorielles Modell – lineare Terme und Wechselwirkungen zweiter Ordnung, aber keine quadratischen (quadratischen) Terme – verwendet werden:
Mit vollfaktoriellen Entwürfen könnten wir natürlich auch Wechselwirkungen höherer Ordnung abschätzen.
In Situationen, in denen sowohl Mischungs- als auch Prozessvariablen vorliegen, ist der Grad der zu erwartenden Wechselwirkung zwischen der Mischung und den Prozessvariablen eine wichtige Überlegung. Wenn wir Theorien oder Erfahrungen haben, die darauf hindeuten, dass die Gemisch- und Prozessvariablen nicht miteinander interagieren, können wir die Gemisch- und Prozessmodelle separat anpassen. Mit anderen Worten würde das Gesamtmodell wie folgt aussehen:
c(x,z) = f(x) + g(z) (1)
Wir bezeichnen Gleichung 1 als lineares additives Modell. In diesem Fall wäre f(x) das Modell, das für die Mischungskomponenten als geeignet befunden wurde, und g(z) wäre das Modell, das für die Prozessvariablen als geeignet befunden wurde.In vielen Situationen interagieren jedoch die Gemischkomponenten und Prozessvariablen. Mit anderen Worten: Die beste Zeit und Temperatur zum Backen eines Kuchens kann von den Zutaten im Kuchen abhängen. Ein Rotwein wird normalerweise nicht so gekühlt serviert wie ein Weißwein und so weiter. In diesen Fällen schlagen viele Autoren, wie Cornell (2002, 2011) und Prescott (2004), vor, die Mischungs- und Prozessvariablenmodelle zu multiplizieren, anstatt sie zu addieren. Mit anderen Worten: Um die Wechselwirkung zwischen Mischung und Prozess zu berücksichtigen, können wir das folgende Modell verwenden:
c(x,z) = f(x)*g(z) (2)
Dieses multiplikative Modell ist in den Parametern nicht linear (b ich und ein ich ), daher kann die Lösung der kleinsten Quadrate nicht in geschlossener Form oder durch Standardsoftware für lineare Regression erhalten werden. Ein Ansatz zur Lösung dieses Problems besteht darin, die einzelnen Terme in f(x)*g(z) auszumultiplizieren. Betrachten Sie den Fall, dass es drei Mischungsvariablen und zwei Prozessvariablen gibt. Der Einfachheit halber gehen wir davon aus, dass wir wissen, dass diese Modelle die folgende Form haben:
f(x) = b 1 X 1 + b 2 X 2 + b 3 X 3 + b 12 X 1 X 2 + b 13 X 1 X 3 + b 23 X 2 X 3 + b 123 X 1 X 2 X 3 , Und
g(z) = a 0 + a 1 z.B 1 + a 2 z.B 2 + a 12 z.B 1 z.B 2 ,
Dies wäre ein spezielles kubisches Mischungsmodell und ein faktorielles Prozessvariablenmodell. Daher müssen f(x) sieben Terme geschätzt werden und g(z) vier. Wenn wir jeden Term in f(x) mit jedem Term in g(z) multiplizieren, würde dies 28 Terme in einem linearisierten Regressionsmodell ergeben. Wir bezeichnen dieses Modell als linearisiert, da Gleichung 2 tatsächlich ein nichtlineares Modell ist. Durch Multiplikation aller Terme erstellen wir ein lineares Modell mit 28 Termen. Das heißt, wir haben:
c(x,z) = f(x)*g(z) = b 1 X 1 *A 0 + b 1 X 1 *A 1 z.B 1 + b 1 X 1 *A 2 z.B 2 + b 1 X 1 *A 12 z.B 1 z.B 2 (3)
+ b 2 X 2 *A 0 + b 2 X 2 *A 1 z.B 1 + b 2 X 2 *A 2 z.B 2 + b 2 X 2 *A 12 z.B 1 z.B 2
+ .............+ b 123 X 1 X 2 X 3 *A 12 z.B 1 z.B 2
Beachten Sie, dass Gleichung 3 in den Parametern linear ist, wenn wir b berücksichtigen 1 A 0 ein Parameter sein, b 1 A 1 ein anderer sein und so weiter. Gleichung 3 kann daher ebenso wie Gleichung 1 mit Standardsoftware für die lineare Regression geschätzt werden. Wenn die Schätzung der kleinsten Quadrate erhalten wird, ist natürlich der geschätzte Parameter für x 1 , aufgeführt als „b 1 A 0 ” in Gleichung 3 entspricht mit Wahrscheinlichkeit Null dem geschätzten Koeffizienten für x 1 in f(x) aus Gleichung 2 ( 1 ) mal der geschätzte Achsenabschnitt in g(z) aus Gleichung 2 ( 0 ), wenn diese einzelnen Terme direkt aus nichtlinearen kleinsten Quadraten geschätzt würden. Das heißt, die Schätzungen der kleinsten Quadrate aus Gleichung 3 können nicht zur Bestimmung der nichtlinearen Schätzungen der kleinsten Quadrate aus Gleichung 2 verwendet werden.
Ein wichtiger Punkt, auf den wir später zurückkommen, ist der Vergleich von Gleichung 2 mit Gleichung 3. Gleichung 2 ist ein nichtlineares Modell in den Parametern. Wenn es als solches geschätzt wird, müssen nur 11 Parameter geschätzt werden, sieben für f(x) und vier für g(z).In der Praxis werden nur 10 Parameter erforderlich sein, da Gleichung 2 eigentlich überspezifiziert ist; Für diese Gleichung kann es keine eindeutige Lösung der kleinsten Quadrate geben. Dies ist sofort ersichtlich, wenn man bedenkt, dass durch Multiplizieren von f(z) mit einer beliebigen Konstante ungleich Null, sagen wir m, und Teilen von g(z) durch m der Wert von c(x,z) unverändert bleiben würde, weil die m und 1/m würden sich aufheben. Da es unendlich viele solcher Konstanten m gibt, die mit jedem Koeffizienten in f(x) multipliziert werden könnten und jede die gleiche Restquadratsumme ergibt, kann es keine eindeutige Lösung der kleinsten Quadrate für Gleichung 2 geben. Wir gehen dieser Überspezifikation entgegen, indem wir a festlegen 0 = 1,0. Wir behaupten nicht, dass dies die beste oder einzige Möglichkeit ist, die Überspezifikation anzugehen, obwohl es die Interpretation der anderen Koeffizienten erleichtert, wie wir gleich sehen werden.
Der entscheidende Punkt ist natürlich, dass, wenn man Gleichung 2 direkt als nichtlineares Problem der kleinsten Quadrate schätzen kann, nur 10 Freiheitsgrade für geschätzte Parameter erforderlich wären, nicht die 28, die für die linearisierte Version erforderlich sind. Dies hat offensichtliche Auswirkungen auf die experimentelle Gestaltung, wenn Wechselwirkungen erwartet werden. Wenn keine Wechselwirkung zu erwarten ist, kann natürlich Gleichung 1, das lineare additive Modell, geschätzt werden. Auch diese Gleichung ist überspezifiziert, da a 0 Der Term wird nicht benötigt und kann tatsächlich nicht geschätzt werden, da der Achsenabschnitt bereits im Mischungsmodell f(x) enthalten ist. Indem wir den Achsenabschnitt weglassen, müssen wir wieder 10 Parameter schätzen, wie wir es im nichtlinearen Modell tun.
Typische experimentelle Designs, die bei Mischungs-/Prozessproblemen verwendet werden
Designs und Modelle gehen offensichtlich Hand in Hand, da wir bei der Konzeption eines Experiments normalerweise bestimmte Modelle im Kopf haben, auch wenn wir uns der genauen Form nicht sicher sind. Bei Mischungsexperimenten gibt es Modelle, die zur Schätzung des linearen Scheff geeignet sind Modelle und natürlich größere Designs, die sich zur Schätzung quadratischer oder spezieller kubischer Modelle eignen.
Simplex-Designs werden häufig bei Mischungsexperimenten verwendet. Diese werden typischerweise in q-1-Dimensionen dargestellt, wenn wir q Komponenten haben. Wenn wir beispielsweise drei Komponenten haben, gibt es aufgrund der Mischungsbeschränkung nur zwei Freiheitsgrade, sodass das Design wie in Abbildung 2 zweidimensional dargestellt werden kann. Beachten Sie, dass alle drei Komponenten dargestellt werden, indem jede eine Achse hat. Bei einem unbeschränkten Mischungsproblem kann jede Komponente von 0 bis 1,0 variiert werden, daher geht der vollständige Simplex auf jeder Achse von 0 bis 1. Der 0-Punkt wird durch die Basis des Simplex dargestellt, und 1,0 wäre dann am Simplex-Punkt gegenüber der Basis. Beachten Sie, dass wenn x 1 = 1,0, dann x 2 = x 3 = 0, daher entspricht dieser Punkt der Basis von x 2 und x 3 Achsen. Diese Punkte werden aus offensichtlichen Gründen als „reine Mischungen“ bezeichnet. Die reinen Mischungen und andere gemeinsame Punkte, die mit Simplex-Designs ausgeführt werden, sind in Abbildung 2 dargestellt.
Wir weisen darauf hin, dass der Schwerpunkt, der in faktoriellen Entwürfen dem Mittelpunkt entspricht, dem Punkt 1/3, 1/3, 1/3 entspricht, der in der Mitte des Simplex liegt. Andere übliche Punkte, die bei Simplex-Designs durchgeführt werden, sind sogenannte 50-50-Mischungen, die Anteile von 0,5 für zwei Komponenten und 0 für die dritte haben. Diese 50-50-Mischungen entsprechen den Mittelpunkten entlang jeder Basis des Simplex. Ein weiterer gemeinsamer Punkt, der häufig in Simplex-Designs verwendet wird, ist der „Kontrollpunkt“, der typischerweise auf halbem Weg zwischen dem Schwerpunkt und der reinen Mischung platziert wird. Bei einem dreikomponentigen Simplex wären diese für x 2/3, 1/6, 1/6 1 , 1/6, 2/3, 1/6, für x 2 und 1/6, 1/6, 2/3 für x 3 . Diese Prüfpunkte ermöglichen die Überprüfung, ob das Modell nicht nur an den Schwerpunkt und die Grenzen des Simplex zu den Daten passt. Mit anderen Worten: Eine gute Anpassung der Prüfpunkte lässt darauf schließen, dass die Interpolation innerhalb des Simplex relativ sicher ist.
Wie in Cornell (2002) erläutert, werden in der Praxis auch ausgefeiltere Simplex-Gitter-Designs verwendet, die Punkte gleichmäßig über den gesamten Simplex positionieren. In Experimenten über vier Komponenten hinaus sind diese Designs schwer zu veranschaulichen, es können jedoch die gleichen Arten von Designs erstellt werden, wie dies bei faktoriellen Designs der Fall ist. Natürlich gibt es oft Einschränkungen hinsichtlich der Mengen der Formulierungsbestandteile. Beispielsweise wünschen sich die wenigsten Verbraucher ein Salatdressing, das zu 100 % aus Essig besteht. In solchen Fällen kann man Pseudokomponenten erstellen (Cornell 2002), bei denen es sich um Transformationen der ursprünglichen Komponenten handelt, oder computergestützte Entwürfe in den durch die Einschränkungen geschaffenen abnormalen Entwurfsräumen verwenden. Solche Designs stehen nicht im Fokus des aktuellen Artikels. Wir gehen außerdem davon aus, dass der Leser mit den für die Prozessvariablen verwendeten Standard-Fakultätsentwürfen vertraut ist.
Bei Mischungsentwürfen mit Prozessvariablen wird typischerweise ein gewisser Hybridentwurf verwendet, sodass Mischungseffekte und -modelle sowie Prozesseffekte und -modelle geschätzt werden können. Wenn die Experimentatoren eine Wechselwirkung vermuten, ist häufig die Fähigkeit erwünscht, alle Terme in der linearisierten Version von Gleichung 2 schätzen zu können. Das heißt, der gewählte Versuchsaufbau sollte die Schätzung aller Effekte ermöglichen, die durch Multiplikation jedes Termes im Mischungsmodell mit jedem Term im Prozessmodell erzielt werden. Im oben erwähnten Beispiel würde man einen Entwurf wünschen, der die Schätzung aller 28 Terme in Gleichung 3 ermöglicht.
Solche Designs kreuzen typischerweise ein faktorielles oder gebrochenfaktorielles Design mit einem Mischungsdesign. Beispielsweise kreuzte Cornells Fischpastetchen-Experiment (Cornell 2002) ein dreikomponentiges Simplex-Design mit reinen Mischungen, einem Schwerpunkt und 50-50-Mischungen mit einer 2 3 Faktorielles Design in drei Prozessvariablen. Dieses Design ist in Abbildung 3 dargestellt. Beachten Sie, dass an jedem Punkt des 2 3 Beim faktoriellen Versuchsplan wurde der vollständige Simplex-Versuch durchgeführt. Alternativ könnte man dies natürlich auch als vollfaktoriellen Versuchsplan an jedem Punkt des Simplex darstellen. Da der Simplex-Versuchsplan 7 Punkte und der faktorielle Versuchsplan 8 Punkte hatte, umfasste der vollständige Versuchsplan 56 Punkte, die in zufälliger Reihenfolge ausgeführt wurden, um geteilte Darstellungen zu vermeiden (Cornell 2002, 2011).
Wenn keine Interaktion erwartet wird, könnten die Designs natürlich viel kleiner ausfallen. Beispielsweise hätte im Cornell-Fischpastetchen-Beispiel ein spezielles kubisches Mischungsmodell sieben Terme (drei lineare Mischterme, drei 2-Faktor-Kreuzprodukte und das spezielle kubische 3-Faktor-Kreuzprodukt) und ein vollfaktorielles Modell hätte diese 8 Begriffe (1 Achsenabschnitt, 3 Haupteffekte, 3 2-Faktor-Wechselwirkungen und 1 3-Faktor-Wechselwirkung). Da das Mischungsmodell f(x) einen Achsenabschnitt enthält, könnten wir den Achsenabschnitt von g(z) weglassen, sodass 7 + 8 – 1 = 14 Terme zur Schätzung in einem linearen additiven Modell ohne Wechselwirkung übrig blieben, d. h. c(x,z). ) = f(x) + g(z). Offensichtlich könnte ein viel kleinerer fraktionierter Entwurf durchgeführt werden, oder da es keine Wechselwirkung im Modell gibt, könnten die Mischungs- und Prozessvariablen unabhängig voneinander untersucht werden.
Die Rolle der statistischen Technik in Mischungsmodellen mit Prozessvariablen
Hoerl und Snee (2010) definierten statistische Technik als: „Die Untersuchung, wie statistische Konzepte, Methoden und Werkzeuge am besten genutzt und mit der Informationstechnologie und anderen Wissenschaften integriert werden können, um bessere Ergebnisse zu erzielen.“ Umgekehrt kann die statistische Wissenschaft als das Studium und die Weiterentwicklung der zugrunde liegenden Theorie und Anwendung einzelner statistischer Methoden angesehen werden. Der Hauptunterschied besteht darin, dass sich die Statistikwissenschaft auf die Weiterentwicklung des grundlegenden Wissens über die Tools selbst sowie deren Anwendung konzentriert. Die statistische Technik hingegen konzentriert sich darauf, wie man bestehende Methoden und Werkzeuge, also die bestehende statistische Wissenschaft, auf kreative Weise verknüpft und integriert, oft mit nicht-statistischen Werkzeugen, um eine größere Wirkung zu erzielen. Die kreative Nutzung bestehender Wissenschaft zur Erzielung größerer Wirkung ist die Essenz jedes Ingenieurbereichs.
Offensichtlich sind sowohl statistische Wissenschaft als auch statistische Technik erforderlich, damit der Bereich der Statistik wachsen und seine Auswirkungen auf die Gesellschaft verstärken kann. Wir argumentieren, dass zwar ein ausgewogener Ansatz erforderlich ist, der derzeitige Schwerpunkt des Berufsstands jedoch tendenziell auf die statistische Wissenschaft ausgerichtet ist (Snee und Hoerl 2011). Insbesondere sind wir der Meinung, dass mehr Gewicht auf die Entwicklung einer zugrunde liegenden Theorie gelegt werden muss, wie große, komplexe und unstrukturierte Probleme angegangen werden können – Probleme, die zu groß sind, als dass ein einzelnes Tool sie lösen könnte. Solche Probleme erfordern offensichtlich die kreative Integration mehrerer statistischer Methoden sowie den kreativen Einsatz von Informationstechnologie oder anderen Wissenschaften. Es ist eindeutig ein technischer Ansatz erforderlich. Weitere Hintergrundinformationen zur Disziplin der Statistiktechnik finden Sie in der Sonderausgabe von Quality Engineering on Statistical Engineering (Anderson-Cook und Lu 2012).
Wir haben festgestellt, dass bei der Lösung von Mischungsproblemen mit Prozessvariablen die Wahl des Designs und die Wahl des Modells Hand in Hand gehen. Das heißt, die Modelle, die wir schätzen können, werden durch das Design bestimmt, und das geeignete Design hängt von den Modellen ab, die wir schätzen möchten. Wenn wir außerdem das spezifische Modell im Voraus kennen würden, könnten wir einen optimalen Entwurf zur Schätzung dieses Modells erstellen. In vielen praktischen Situationen ist unser Fachwissen jedoch begrenzt und wir sind uns über das endgültige Modell nicht sicher. Typischerweise führt dies zu einem iterativen Ansatz für Design und Analyse, wie von Box et al. betont. (2005), Montgomery (2012) und viele andere.
Die entscheidende Frage in solchen Situationen ist, wie man das Problem am besten angeht, wenn wir Wechselwirkungen zwischen der Mischung und den Prozessvariablen erwarten, uns aber nicht sicher sind. Wir stellen fest, dass dies eine ganz andere Frage ist als die Frage nach dem optimalen Design für ein bestimmtes Modell und auch anders als die Frage nach dem optimalen Modell für einen bestimmten Datensatz. Bei letzteren handelt es sich eher um statistische Wissenschaftsfragen, da sie sich mit der Theorie und Praxis einzelner Werkzeuge befassen. Darüber hinaus kann man die „richtige“ Antwort analytisch anhand objektiver Kriterien ermitteln. Die Frage, wie man ein komplexes Problem angeht, ist jedoch keine Frage der statistischen Wissenschaft, da wir nur wenige Gegebenheiten und keine vereinbarte objektive Messgröße für den Erfolg haben. Mit anderen Worten: Das Problem ist unstrukturiert.
Wir argumentieren, dass diese Strategiefrage besser für die statistische Technik geeignet ist, da wir einen Gesamtansatz benötigen, der sowohl Design als auch Analyse umfasst, möglicherweise in sequenzieller Weise, um bessere Ergebnisse zu erzielen. Der Schlüssel liegt in der Integration mehrerer Tools. In diesem Fall können „bessere Ergebnisse“ auf statistischen Kriterien oder auf der Einsparung von experimentellem Aufwand, einschließlich Zeit und Geld, oder beidem basieren. Mit anderen Worten: Es kann darauf basieren, die beste Geschäftslösung zu finden, und nicht auf der Suche nach der besten statistischen Lösung. Dies ist ein komplexeres und weniger strukturiertes Problem als die Erlangung des besten Designs oder besten Modells unter bestimmten Bedingungen. Der Gesichtspunkt der statistischen Technik leitet daher unsere Studie und empfohlene Strategie für Mischungsprobleme mit Prozessvariablen.
Drei Fallstudien zu Design und Analyse
Cornell (2002) präsentierte Daten aus einem Experiment mit drei Arten von Fischfrikadellen: Meeräsche, Schafkopf und Meeräsche. Darüber hinaus wurde jedes Pastetchen bei unterschiedlichen Backtemperaturen, Backzeiten und Bratzeiten gegart (die Pastetchen wurden sowohl gebacken als auch frittiert). Die interessante Reaktion war die Textur der resultierenden Pastetchen. Das verwendete Design war ein Simplex-Design mit sieben Durchgängen in den Mischungsvariablen, einschließlich reiner Mischungen, 50-50-Mischungen und dem Schwerpunkt. Für die Prozessvariablen ein Achtdurchlauf 2 3 was für ein Lauf Cornell kreuzte das Mischungsdesign mit dem Prozessdesign, wie in Tabelle 1 aufgeführt und in Abbildung 3 dargestellt. Dieses Design hat insgesamt 7*8 = 56 Läufe. Cornell passte ein linearisiertes Modell an, wobei:
f(x) = b 1 X 1 + b 2 X 2 + b 3 X 3 + b 12 X 1 X 2 + b 13 X 1 X 3 + b 23 X 2 X 3 + b 123 X 1 X 2 X 3 ,
g(z) = a 0 +a 1 z.B 1 + a 2 z.B 2 + a 3 z.B 3 + a 12 z.B 1 z.B 2 + a 13 z.B 1 z.B 3 + a 23 z.B 2 z.B 3 + a 123 z.B 1 z.B 2 z.B 3 , Und
c(x,z) = f(x)*g(z)
TABELLE 1 Texturdaten für Cornell's Fish Patty
Blind | Zeit zum Braten |
25 | 40 |
Ofenzeit |
25 | 40 | 25 | 40 |
Ofentemp |
325 | 425 | 325 | 425 | 325 | 425 | 325 | 425 |
Meeräsche | Schafskopf | Croaker | Textur |
1 | 0 | 0 | - 1,84
- 2,86
- 3.01
- 4.13
- 1,65
- 2.32
- 3.04
- 4.13
|
0 | 1 | 0 | - 0,67
- 1.10
- 1.21
- 1,67
- 0,58
- 0,97
- 1.16
- 1.30
|
0 | 0 | 1 | - 1,51
- 1,60
- 2.32
- 2,57
- 1.21
- 2.12
- 2,00
- 2,75
- 0,5
- 0,5
|
0 | - 1.29
- 1,53
- 1,93
- 2.26
- 1.18
- 1,45
- 1,85
- 2.06
- 0,5
|
0 | - 0,5
- 1,42
- 1,81
- 2,57
- 3.15
- 1,45
- 1,93
- 2.39
- 2,82
|
0 | - 0,5
- 0,5
- 1.16
- 1,50
- 1,83
- 2.22
- 1.07
- 1.28
- 1,60
- 2.10
|
1/3 | 1/3 | 1/3 | - 1,59
- 1,68
- 1,94
- 2,60
- 1.41
- 1,54
- 2.05
- 2.32
|
Da f(x) 7 Terme und g(z) 8 Terme hat, hat c(x,z) 7*8 = 56 Terme, wenn die einzelnen Terme multipliziert werden, um ein linearisiertes Modell zu erstellen. Offensichtlich gab es keine Freiheitsgrade mehr, um den experimentellen Fehler bei 56 Durchläufen im Entwurf abzuschätzen, was zu einem quadratischen Mittelfehler (Root Mean Square Error, RMSE) von 0 führte, und keine Möglichkeit, die Standardabweichung des Fehlerterms (e) abzuschätzen, d. h. der Standardfehler. Darüber hinaus gab es keine Möglichkeit, Residuen auf Hinweise auf Modellunzulänglichkeit hin zu bewerten oder Tests auf mangelnde Anpassung durchzuführen. Cornell verwendete daher die Variation zwischen Wiederholungsmessungen (keine echten Wiederholungen) als Schätzung des Standardfehlers. Offensichtlich erlaubt diese Variation innerhalb eines Laufs nicht, Variationsquellen zwischen Läufen abzuschätzen, daher kann sie nicht als Schätzung des Standardfehlers angesehen werden, der dem aus echten Replikaten oder sogar aus Restfreiheitsgraden geschätzten entspricht.
Für unsere Zwecke des Modellvergleichs haben wir die PSE-Methode (Pseudo-Standardfehler) von Lenth (Lenth 1989) angewendet, um eine Schätzung des Standardfehlers für Cornells Modell zu erhalten. Die Methode von Lenth ermittelt zunächst die scheinbar realen Effekte und verwirft dann die verbleibenden Variablen, wobei die gewonnenen Freiheitsgrade zur Schätzung des Standardfehlers verwendet werden. Es handelt sich um einen Pseudostandardfehler, da er davon abhängt, dass die entsprechenden Terme aus dem Modell entfernt werden.
Prescott (2004) testete das Brotlaibvolumen mit drei Mehlen: Tjalve und Folke, die beide norwegisch sind, und Hard Red Spring, das amerikanisch ist. Es gab auch zwei Prozessvariablen, die Gärzeit und die Mischzeit. Es gab Einschränkungen hinsichtlich der Gehalte von drei Mehlen: .25 X 1 1, 0 X 2 .75 und 0 X 3 .75, wobei Tjalve x ist 1 , Volk ist x 2 und Hard Red Spring ist x 3 . Bei Anwendung auf den Simplex-Mischungsraum führt dies zu einem kleineren Voll-Simplex in einem reduzierten Raum. Durch die Konvertierung in Pseudokomponenten (Cornell 2002) kann weiterhin ein Standard-Simplex-Design verwendet werden. Für Modellvergleiche verwenden wir ohne Beschränkung der Allgemeinheit die Pseudokomponentenversion des Mischungsdesigns von Prescott. Prescott verwendete ein Simplex-Gitter-Design mit 10 Läufen für die Mischungsvariablen und ein 3 2 , also eine dreistufige Fakultät in zwei Variablen, für die Prozessgestaltung. Dieses Design hat natürlich 9 Läufe.
Prescott kreuzte erneut das Mischungsdesign mit dem Prozessdesign und erstellte ein 10*9 = 90-Lauf-Design, das in Tabelle 2 aufgeführt und in Abbildung 4 dargestellt ist. Für das Mischungsmodell f(x) betrachtete Prescott dasselbe spezielle kubische Modell mit 7 Termen, das Cornell verwendete, und für das Prozessmodell g(z) betrachtete er ein vollständiges quadratisches Modell mit 6 Termen:
g(z) = a 0 + a 1 z.B 1 + a 2 z.B 2 + a 12 z.B 1 z.B 2 +
TABELLE 2 Daten zum Prescott-Laibvolumen
Pseudokomponente Mischung | Prüfzeit (Minuten) |
35 | - 47,5
| 60 |
Mischzeit (Minuten) |
5 | 15 | 25 | 5 | 15 | 25 | 5 | 15 | 25 |
Tjalve | Menschen | Harter roter Frühling | Laibvolumen |
.25 | .75 | 0 | - 378,89
- 396,67
- 392,22
- 445,56
- 452,22
- 487,78
- 457,22
- 500,56
- 472,78
|
.50 | .50 | 0 | - 388,89
- 423,33
- 416.11
- 460,00
- 488,89
- 475,78
- 472,78
- 478,00
- 506.11
|
.75 | .25 | 0 | - 426.11
- 483,33
- 389,44
- 474,44
- 514,44
- 462,78
- 506,67
- 591,67
- 522.22
- 1,0
|
0 | 0 | - 386.11
- 459.11
- 423,33
- 458,33
- 506.11
- 514,44
- 545,56
- 522.22
- 551.11
|
.25 | .50 | .25 | - 417,78
- 437,22
- 444,56
- 484,44
- 490,00
- 495,00
- 497,78
- 531.11
- 577,78
|
.50 | .25 | .25 | - 389,44
- 447,22
- 415,00
- 490,89
- 528,89
- 507,78
- 517,78
- 567,22
- 538,33
|
.75 | 0 | .25 | - 448,33
- 459,44
- 455,56
- 436,00
- 535,00
- 552,22
- 507,44
- 578,89
- 590,00
|
.25 | .25 | .50 | - 413,89
- 485,56
- 462,22
- 483,89
- 529,44
- 540,00
- 565,00
- 598,89
- 580,56
|
.50 | 0 | .50 | - 415,56
- 514,44
- 437,78
- 493,89
- 583,33
- 578,89
- 524,44
- 649,44
- 640,00
|
.25 | 0 | .75 | - 432,78
- 498,33
- 517.22
- 474,44
- 568,33
- 579,44
- 541.11
- 638,89
- 638,89
|
Beachten Sie, dass die quadratischen Terme schätzbar sind, da das Prozessdesign ein dreistufiges Design war. Prescott führte mehrere linearisierte interaktive Modelle aus, beispielsweise der Form c(x,z) = f(x)*g(z), die insgesamt 7*6 = 42 Terme hatten. Bei 90 Läufen gab es genügend Freiheitsgrade, um das vollständige 42-Term-Modell zu schätzen, und es blieben noch Freiheitsgrade übrig, um den Standardfehler zu schätzen. Nach Prüfung mehrerer Modelle war das von Prescott für diese Daten vorgeschlagene endgültige Modell ein reduziertes Modell der Form:
y = 522,8x 1 + 448,1x 2 + 599,3x 3 + 13,0x 1 z.B 1 + 1,7x 2 z.B 1 + 54,3x 3 z.B 1 + 56,3x 1 z.B 2 + 37,2x 2 z.B 2
+ 73,8x 3 z.B 2 - 39,4x 1 + 3,7x 2 – 46,0x 3 - 10,2x 1 + 28,4x 2 + 1,0x 3
Beachten Sie, dass einige Terme aus dem Modell entfernt wurden, beispielsweise Terme, die Kreuzprodukte von x beinhalten ich , oder das Zusammenspiel von z 1 und z 2 . Tatsächlich waren nur 15 der möglichen 42 Begriffe in diesem endgültigen Modell enthalten. Wir kehren zu diesem Punkt zurück, wenn wir die linearisierten mit den nichtlinearen Modellen vergleichen.
Wang et al. (2013) führte im Rahmen eines Klassenprojekts für einen Statistikkurs, den der Erstautor 2013 an der Rutgers University unterrichtete, einen experimentellen Mischungs-/Prozessentwurf durch. Dieses Experiment umfasst drei Mischungsvariablen, Wasser, Milch und Orangensaft, und zwei Prozessvariablen, die Zugabe von Zucker (0 oder 2 Gramm) und die Art der verwendeten Milch (2 % oder Vollmilch). Die Antwort war die Schmelzzeit des aus der Mischung erzeugten Eises in Minuten. Das Mischungsdesign war ein 10-Durchlauf-Simplex-Design mit reinen Komponenten, 50-50 Mischungen, Kontrollpunkten und einem Schwerpunkt in Pseudokomponentenform. Dies ist das in Abbildung 2 dargestellte Design. Für das Prozessdesign führte Wang eine 2 durch 2 Fakultät in vier Läufen. Das gekreuzte Design mit 10*4 = 40 Läufen und die daraus resultierenden Antworten sind in Tabelle 3 aufgeführt und in Abbildung 5 dargestellt.
TABELLE 3 Wang et al. Daten zur Schmelzzeit
Mischung | Milchtyp |
2 % | Ganz |
Zucker |
0g | 2g | 0g | 2g |
Wasser | Milch | Saft | Schmelzzeit |
1/6 | 1/6 | 2/3 | - 29.43
- 24.31
- 34,94
- 32,97
|
0 | - 0,5
- 0,5
- 37,36
- 32,89
- 45,69
- 39.06
- 0,5
- 0,5
|
0 | - 33.32
- 28.34
- 41,78
- 35,84
|
1 | 0 | 0 | - 19.13
- 17.73
- 23.7
- 22.16
|
2/3 | 1/6 | 1/6 | - 24.11
- 22.49
- 29.76
- 25.43
|
1/3 | 1/3 | 1/3 | - 32.08
- 26.29
- 36,97
- 30.13
|
0 | 0 | 1 | - 30.41
- 23.25
- 31,92
- 29.45
- 0,5
|
0 | - 0,5
- 21.86
- 22.88
- 27.09
- 26.21
|
1/6 | 2/3 | 1/6 | - 37.35
- 28.43
- 42,92
- 39,95
|
0 | 1 | 0 | - 48,64
- 33.00
- 45.08
- 47,35
|
Wang et al. (2013) passten ein linearisiertes Modell unter Verwendung eines speziellen kubischen 7-Term-Modells für f(x) und eines faktoriellen 4-Term-Prozessmodells für g(z) an, das einen Achsenabschnitt, zwei Haupteffekte und die 2-Faktor-Wechselwirkung aufwies. Wenn also alle Terme multipliziert werden, ist c(x,z) das in Gleichung 3 angegebene linearisierte Modell mit 28 Termen. Bei 40 Läufen und 28 zu schätzenden Termen blieben 12 Freiheitsgrade zur Schätzung des Standardfehlers übrig.
Lineare und nichtlineare Modelle und Ergebnisse
Für jedes dieser Designs und Datensätze kann man auch viel kleinere Modelle in Betracht ziehen, wie zum Beispiel das lineare additive Modell c(x,z) = f(x) + g(z), das natürlich keine Terme zur Schätzung der Wechselwirkung hat zwischen Gemisch- und Prozessvariablen sowie das nichtlineare Modell. Um das nichtlineare Modell abzuschätzen, findet man direkt die Lösung der kleinsten Quadrate für c(x,z) = f(x)*g(z), ohne die Terme auszumultiplizieren. Wie bereits erwähnt, ist dieses Modell hinsichtlich der Parameter nichtlinear. Im vereinfachten Fall beispielsweise mit zwei Gemischvariablen und einer Prozessvariablen:
c(x,z) = ( B 1 X 1 + b 2 X 2 + b 12 X 1 X 2 )* (A 0 + a 1 z) (4)
Angenommen, wir möchten jeden dieser 5 Koeffizienten schätzen, können wir Gleichung 4 als nichtlineare Gleichung mit 5 Koeffizienten betrachten und nichtlineare kleinste Quadrate verwenden, um eine Lösung zu finden. Wie bereits erwähnt, müssen wir in der Praxis nur vier Koeffizienten schätzen, da Gleichung 4 überbestimmt ist und es keine eindeutige Lösung der kleinsten Quadrate gibt. Durch willkürliches Setzen von a 0 = 1,0 können wir im Allgemeinen eine eindeutige Lösung der kleinsten Quadrate für die anderen Parameter erhalten. Verwenden eines anderen Werts ungleich Null für a 0 würde Modellmetriken wie R nicht ändern 2 , Standardfehler usw. Natürlich ist bei nichtlinearen kleinsten Quadraten keine eindeutige Lösung garantiert.
Um das nichtlineare Modell anzupassen, verwenden wir den nichtlinearen Regressionsalgorithmus in JMP Pro 10, der auf einem Standard-MacBook Pro-Laptop ausgeführt wird. Wie bereits erwähnt, stellt die Ausführung nichtlinearer Modelle eine größere Herausforderung dar als die Ausführung linearer Modelle, aber mit moderner Software ist dies sicherlich machbar, und wir schlagen vor, dass es eine praktikable Option für diese Art von Problemen darstellt. Bevor wir die Ergebnisse diskutieren, die bei der Anpassung linearer additiver und nichtlinearer Modelle an diese drei Datensätze erzielt wurden, diskutieren wir kurz die Interpretation der Koeffizienten im nichtlinearen Modell. Wir diskutieren nicht das lineare additive Modell, da die Interpretation von Mischungstermen in der Literatur ausführlich diskutiert wurde, z Schiff (1963), Cornell (2002) und viele andere.
Nachdem wir die Terme im nichtlinearen Modell in Gleichung 4 geschätzt haben, können wir die geschätzten Terme frei multiplizieren, um die Interpretation zu erleichtern. Beachten Sie, dass dadurch ein ganz anderes Modell entsteht als das, das man durch Ausmultiplizieren der Terme vor der Schätzung der Koeffizienten erhält, wodurch das linearisierte Modell entstehen würde. Also, die Entscheidung, eine zu setzen 0 = 1 anstelle eines anderen Werts macht die Interpretation des Modells einfacher. Sobald wir die geschätzten Terme im nichtlinearen Ansatz für Gleichung 4 multiplizieren, erhalten wir:
= ( 1 X 1 + 2 X 2 + 12 X 1 X 2 )*(1 + 1 z)
= ( X 1 + x 2 + 12 X 1 X 2 ) + ( X 1 + x 2 + 12 X 1 X 2 )* 1 z (5)
Ohne Beschränkung der Allgemeinheit können wir annehmen, dass z so skaliert ist, dass es einen Mittelwert von 0 hat. Wenn z also seinen Mittelwert hat, vereinfacht sich Gleichung 5 auf nur den linken Teil, der das reine Mischungsmodell f(x) ist. Daher können wir die Mischungskoeffizienten als die Mischung interpretieren, die wir am Mittelpunkt der Prozessvariablen schätzen, oder alternativ als die durchschnittliche Mischung über das gesamte Design. Diese Interpretation gilt unabhängig davon, ob eine Interaktion mit z vorliegt oder nicht. Die Interpretation von 1 ist komplizierter. Beachten Sie, dass z in Gleichung 5 nur durch eine Reihe von Wechselwirkungen auftritt.
Dies impliziert, dass das nichtlineare Modell nicht in der Lage ist, den Haupteffekt von z allein aus den Wechselwirkungen von z mit den Mischungsvariablen abzuschätzen. Dies liegt daran, dass der einzige verfügbare Koeffizient den Haupteffekt von z und auch seine Wechselwirkungen mit x berücksichtigt ich Ist 1 . Während f(x) als Slack-Variablen-Modell mit einem Achsenabschnitt umgeschrieben werden könnte, hätten wir immer noch nur einen Freiheitsgrad, um sowohl den Haupteffekt von z als auch seine Wechselwirkungen mit den Mischungsvariablen zu berücksichtigen. Wir betrachten dies als einen Nachteil des nichtlinearen Ansatzes und spekulieren, dass das praktische Ergebnis darin bestehen wird, dass es einige Schwierigkeiten beim Anpassen von Oberflächen sowohl mit großen Prozessvariablen-Haupteffekten als auch mit starken Wechselwirkungen zwischen Mischungs- und Prozessvariablen geben wird.
Wir können diese Interpretation auf größere nichtlineare Modelle erweitern, wie etwa das 7-Term-Modell einer speziellen kubischen Mischung und das 8-Term-Prozessvariablenmodell aus seinem Fischfrikadellen-Experiment. Sollten wir c(x,z) = f(x)*g(z) direkt als nichtlineares Modell schätzen, würden wir 7 + 8 – 1 = 14 Koeffizienten schätzen. Denken Sie daran, dass wir a festgelegt haben 0 = 1. Nachdem wir diese 14 Koeffizienten mithilfe der nichtlinearen Methode der kleinsten Quadrate aufgelöst haben, können wir die Terme multiplizieren, um die Interpretation zu erleichtern. Dadurch entsteht:
(x)*(1 + 1 z.B 1 + 2 z.B 2 + 3 z.B 3 + 12 z.B 1 z.B 2 + 13 z.B 1 z.B 3 + 23 z.B 2 z.B 3 + 123 z.B 1 z.B 2 z.B 3 ),
Das ist 1 mal (x), plus 1 z.B 1 mal (x), plus 2 z.B 2 mal (x) und so weiter. Mit anderen Worten, alle anderen Terme im Modell außer (x)*1 beinhalten ich mal ein oder mehrere z ich , mal (x). Daher ist keine der Hauptwirkungen der z ich lässt sich nur aus dem Zusammenspiel von z ich mit den Mischungsvariablen (und ihren Wechselwirkungen), analog zur Situation in Gleichung 5. Ebenso sind Wechselwirkungen zwischen den z ich , wie zum Beispiel 1 z.B 2 kann beispielsweise nicht allein aus den Wechselwirkungen zwischen diesem Term und den Mischungstermen geschätzt werden.
Aus praktischer Sicht ist die Unfähigkeit, einzelne Koeffizienten abzuschätzen, z 1 und x 1 z.B 1 ist beispielsweise von größerer Bedeutung als die Unfähigkeit, einzelne Koeffizienten für die Wechselwirkungen wie z. B. abzuschätzen 1 z.B 2 z.B 3 und x 1 X 2 X 3 z.B 1 z.B 2 z.B 3 , im Sinne der Auflösung des Designs (Box et al. 2005). Das heißt, Praktiker würden sich selten Gedanken über die praktische Bedeutung einer Sechs-Faktoren-Interaktion machen.
Anpassen des linearen additiven Modells c(x,z) = f(x) + g(z) und des nichtlinearen Modells c(x,z) = f(x)*g(z) an die drei Daten Mit den zuvor besprochenen Sätzen erhalten wir die in Tabelle 4 gezeigten Ergebnisse. Für die Cornell- und Wang-Datensätze passen wir vollständige Modelle an, ohne den Versuch einer Teilmengenauswahl. Mit den Prescott-Daten beziehen wir sowohl für das lineare additive als auch für das nichtlineare Modell nur die Terme in f(x) und g(z) ein, die Prescott für sein endgültiges linearisiertes Modell ausgewählt hat. Konkret verwenden wir für f(x) nur x 1 , X 2 , und x 3 . Für g(z) schließen wir z ein 1 , z.B 2 , , Und . In diesem Sinne handelt es sich bei den Cornell- und Wang-Vergleichen um „Äpfel-gegen-Äpfel“-Vergleiche ohne Teilmengenauswahl, und beim Prescott-Vergleich handelt es sich um „Äpfel-gegen-Äpfel“-Vergleiche mit der von Prescott angewandten Teilmengenauswahl.
Das von uns verwendete numerische Kriterium ist der geschätzte Standardfehler oder der mittlere quadratische Fehler (RMSE). Offensichtlich gibt es keine einzelne Metrik, die die „Güte“ eines Modells bestimmen kann. Um in der Praxis geeignete Modelle zu entwickeln, müssen mehrere numerische Kriterien betrachtet, Residuendiagramme ausgewertet, die Ergebnisse mit der Theorie der soliden Materie verglichen werden und so weiter. Der Leser sollte nicht daraus schließen, dass wir empfehlen, sich beim Modellbau ausschließlich auf RMSE zu konzentrieren. Zum Zweck des Modellvergleichs verwenden wir den geschätzten Standardfehler jedoch lediglich als praktisches objektives Kriterium, um den Grad zu messen, in dem das Modell in der Lage ist, die Daten anzupassen.
Aus Tabelle 4 sehen wir, dass das linearisierte Modell in zwei Fällen den kleinsten geschätzten Standardfehler liefert und für die Cornell-Daten nahezu der kleinste ist. Dies ist nicht überraschend, da das lineare additive Modell keinerlei Wechselwirkungen berücksichtigt und das nichtlineare Modell die zuvor erwähnten Einschränkungen aufweist. Aus diesen drei Analysen schließen wir, dass bei ausreichenden Freiheitsgraden das linearisierte Modell der bevorzugte Ansatz ist, basierend auf der Anwendung dieses Kriteriums durch diese drei Modelle.
TABELLE 4 RMSE linearisierter, linearer additiver und nichtlinearer Modelle
Cornell-Daten Prescott-Daten Wang Daten
Linearisiert 0,17* 21,0 1,36
Lineare Additive 0,24 24,3 2,38
Nichtlinear 0,16 23,1 2,05
*Berechnet mit der Lenth-Methode, da es keine df für Fehler gibt.
Bei näherer Betrachtung stellen wir jedoch fest, dass bei zwei der Datensätze, den Cornell-Daten und den Prescott-Daten, die Unterschiede zwischen den Modellen nicht so groß sind, wie man erwarten könnte, und dass der RMSE des nichtlinearen Modells tatsächlich geringfügig ist kleiner als das linearisierte Modell RMSE für Cornells Daten. Denken Sie daran, dass das linearisierte Modell RMSE mit der Lenth-Methode berechnet wird, da keine Freiheitsgrade mehr zur Fehlerschätzung übrig sind. Die Leistung des nichtlinearen Ansatzes ist angesichts der Größenordnung der Unterschiede in der Anzahl der geschätzten Koeffizienten in diesen Modellen beeindruckend: 14 (linear additiv oder nichtlinear) gegenüber 56 (linearisiert) für Cornells Modell, 12 gegenüber 42 für Prescotts vollständiges Modell (7 gegenüber 15, wenn wir nur Prescotts reduzierte Modellterme verwenden) und 10 gegenüber 28 für Wangs Modell. Die nichtlinearen und linearen additiven Modelle sind viel sparsamer.
Eine mögliche Erklärung dafür, warum die linear-additiven und nichtlinearen Ansätze für die Wang-Daten nicht gut funktionieren, ist, dass es eine hochsignifikante Wechselwirkung zwischen den Gemisch- und Prozessvariablen und diesen Daten gibt. Beispielsweise sind die Terme im linearisierten Modell für Milch*Zucker*Milchtyp (x 2 z.B 1 z.B 2 ) und Milch*Saft*Zucker*Milchsorte (x 2 X 3 z.B 1 z.B 2 ), sind beide statistisch signifikant auf dem .01-Niveau. Der Begriff für Wasser*Milch*Zucker*Milchtyp (x 1 X 2 z.B 1 z.B 2 ), ist auf dem Niveau von .01 nahezu signifikant (p-Wert = .0101). Unserer Erfahrung nach ist es sehr ungewöhnlich, dass Wechselwirkungen zwischen vier Faktoren eine so große Bedeutung haben. Das lineare Modell, das keine Begriffe für die Interaktion zwischen Prozess- und Gemischvariablen enthält, wird offensichtlich nicht in der Lage sein, eine solche Interaktion effektiv zu modellieren. Das nichtlineare Modell verfügt einfach nicht über genügend Terme, um eine gute Näherung zu liefern. Bei solch einer signifikanten Wechselwirkung höherer Ordnung ist es wahrscheinlich, dass der linearisierte Ansatz erforderlich sein wird.
Angesichts der relativ geringen Unterschiede in Tabelle 4 scheint es plausibel, dass wir möglicherweise erhebliche Zeit und Geld sparen können, indem wir den Umfang der anfänglichen Experimente reduzieren. Sicherlich sind weder 90 Läufe erforderlich, um 12 Terme im nichtlinearen Prescott-Modell unter Verwendung aller Terme zu schätzen, noch 56 Läufe, um die 14 Terme im nichtlinearen Cornell-Modell zu schätzen. Um diese Frage zu beantworten, bewerten wir, wie jedes dieser Modelle zu einem Bruchteil der tatsächlich ausgeführten Designs passen würde.
Ergebnisse mit gebrochenen Designs
Jedes der von uns besprochenen Designs wurde durch Kreuzung des Mischungsdesigns mit dem Prozessdesign erstellt. Daher betrug die Gesamtzahl der Läufe n 1 *N 2 , wo n 1 war die Zahl im Mischungsversuchsplan und n 2 die Nummer im Prozessdesign.Für Cornells Fischpastetchen-Design war dies 7*8 = 56. Angesichts der oben gezeigten Ergebnisse für nichtlineare Modelle stellt sich logischerweise die Frage, ob tatsächlich alle 56 Durchläufe erforderlich waren oder ob Cornell möglicherweise in der Lage gewesen wäre, einen viel kleineren Entwurf durchzuführen und fast die gleichen Ergebnisse zu erzielen? Eine der von Cornell (2002) angeführten Begründungen für die Durchführung des 56-Run-Designs war die Notwendigkeit, alle Koeffizienten im linearisierten Modell zu schätzen.
Cornell (2002) stellte außerdem fest, dass Experimentatoren, wenn sie nicht in der Lage waren, den vollständigen Versuchsplan durchzuführen, einen Teilversuchsplan erstellen konnten, indem sie an jedem Punkt des Mischungsraums einen Bruchteil des Prozessentwurfs durchführten. Um sicherzustellen, dass möglichst viele Terme schätzbar sind, schlug Cornell vor, zu wechseln, welcher Teil des Prozessentwurfs an verschiedenen Punkten des Mischungsentwurfs ausgeführt wurde. Im Fall von drei Prozessvariablen könnten wir beispielsweise z ausführen 1 z.B 2 z.B 3 = 1 halber Bruchteil bei etwa der Hälfte der Mischungsauslegungspunkte und z 1 z.B 2 z.B 3 = -1 in der anderen Hälfte. Cornell empfahl außerdem, das vollständige Prozessdesign nach Möglichkeit im Schwerpunkt des Mischungsraums auszuführen. Er stellte fest, dass der Experimentator bei der Durchführung dieses fraktionierten Versuchsplans nicht in der Lage wäre, das vollständig linearisierte Modell abzuschätzen, sondern sich auf die Abschätzung einer Teilmenge dieser Terme beschränken müsste.
Im Fall der Fischpastete hatte das Mischungsdesign 7 Punkte und das Prozessdesign 8. Wenn alle 8 Punkte am Schwerpunkt und dann 4 (ein halber Bruchteil) an allen anderen Punkten ausgeführt würden, würde dies zu einem gebrochenen Entwurf mit 32 Punkten führen. Dies sind nicht genügend Punkte, um alle Terme im linearisierten Fischpastetenmodell abzuschätzen, aber mehr als genug, um die 14 Terme im nichtlinearen oder linearen additiven Modell abzuschätzen. In Abbildung 6 zeigen wir das fraktionierte Design mit z 1 z.B 2 z.B 3 = 1 Lauf bei den reinen Mischungen, und z 1 z.B 2 z.B 3 = -1 Lauf bei den 50-50-Mischungen. Um die grafische Interpretation zu erleichtern und Vergleiche mit Abbildung 3 zu ermöglichen, zeigen wir erneut die Mischungspunkte, die an jedem Punkt des Prozessdesigns durchgeführt wurden, obwohl die Konstruktionsmethode wie oben beschrieben war.
Wir sehen nicht nur, wie gut das nichtlineare Modell zum reduzierten Datensatz passt, sondern verfügen auch über eine natürliche Hold-out-Stichprobe, um das Modell besser bewerten zu können. Das heißt, es werden nur 32 Läufe verwendet, um das nichtlineare Modell zu schätzen. Sobald wir die Modellterme geschätzt haben, können wir dieses Modell daher verwenden, um die 24 Läufe vorherzusagen, die nicht zur Schätzung dieses Modells verwendet wurden. Eine solche Hold-out-Stichprobe wird im Allgemeinen als valideres Kriterium zur Bewertung eines geschätzten Modells angesehen, da das Modell diese Daten nicht gesehen hat und während des Anpassungsprozesses nicht von ihnen beeinflusst werden kann. Tabelle 5 zeigt die Ergebnisse der ersten Anpassung sowohl des linearen additiven als auch des nichtlinearen Modells an das in Abbildung 6 gezeigte fraktionierte Design sowie den Vorhersagestandardfehler (RMSE) bei der Vorhersage der Hold-out-Daten. Beachten Sie, dass das Modell von Cornell zu viele Terme hatte, um mit einem gebrochenen Design geschätzt zu werden, sodass das linearisierte Modell keine Option ist.
Offensichtlich könnte man den fraktionierten Designdurchlauf bei den reinen Mischungen im Vergleich zu den 50-50-Mischungen beliebig umkehren. Der Vollständigkeit halber betrachten wir daher das in Abbildung 6 gezeigte Design als Teildesign 1 und definieren Teildesign 2 als das Design, bei dem z 1 z.B 2 z.B 3 = -1 wird bei reinen Mischungen gefahren, und z 1 z.B 2 z.B 3 = 1 wird mit 50-50 Mischungen durchgeführt. Auch hier werden die gesamten 8 Prozessentwurfspunkte im Schwerpunkt ausgeführt.
TABELLE 5 Vorhersageergebnisse mit Cornell Fractional Designs
*Berechnet mit der Lenth-Methode, da es keine df für Fehler gibt.
Beachten Sie in Tabelle 5, dass die nichtlinearen Modelle bei beiden Teildesigns die „Trainings“-Daten gut anpassen und die Hold-out-Daten einigermaßen gut anpassen. Der prognostizierte RMSE beträgt für beide Teildesigns 0,22, was höher ist als der ursprüngliche RMSE von 0,16, aber im Rahmen der Vernunft, wenn man bedenkt, dass wir nur 32 der ursprünglichen 56 Läufe verwendet haben, was einer Reduzierung um 43 % entspricht. Das lineare additive Modell liefert auch bei der Anpassung des gesamten Datensatzes eine konsistente Leistung. Wie bereits erwähnt, ist ein vollständig gekreuztes Design mit dem linearisierten Modell zu bevorzugen, wenn unser einziges Ziel darin besteht, die Modellanpassung zu maximieren. Wenn jedoch Zeit und Kosten wichtige Faktoren sind, sollte ein nichtlineares Modell mit geringerer Vorhersagegenauigkeit in Betracht gezogen werden, das jedoch mit deutlich geringerem experimentellen Aufwand erhalten werden kann.
Prescotts Mischungsdesign war ein Simplex-Gitter mit zwei Kantenpunkten zwischen jeder reinen Mischung und einem Schwerpunkt. Dies wurde mit einer 3 gekreuzt 2 Prozessgestaltung. Eine solche Kombination stellt größere Herausforderungen bei der Bestimmung eines fraktionierten Designs dar, das im heuristischen Sinne ausgeglichen wäre. Nachdem wir verschiedene Optionen in Betracht gezogen haben, definieren wir das Teildesign 1 als das vollständige Design 3 2 im Schwerpunkt sind die Punkte, an denen z 1 z.B 2 = 0 an den reinen Mischungen und den Punkten, an denen z 1 = z.B 2 = 0 und auch wo z 1 z.B 2 = +/-1 an den folgenden drei Kantenpunkten: (2/3, 1/3, 0), (0, 2/3, 1/3) und (1/3, 0, 2/3).Dies führt zu einem fraktionierten Design mit 39 Läufen (9 + 5*3 + 5*3), dargestellt in Abbildung 7. Beachten Sie, dass das gebrochene Design weniger als halb so viele Punkte hat wie das ursprüngliche 90-Run-Design. Der Teilentwurf 2 wurde durch erneutes Ausführen des vollständigen Entwurfs 3 erhalten 2 am Schwerpunkt, aber Umkehrung der Prozesspunkte, die an den reinen Mischungen im Vergleich zu den drei Kantenpunkten ausgeführt werden.
Die Vorhersageergebnisse für die Prescott-Fraktionsentwürfe sind in Tabelle 6 aufgeführt. Beachten Sie, dass für das linearisierte Prescott-Modell nur die 15 von Prescott beibehaltenen Terme im endgültigen Modell verwendet wurden, sodass wir dieses Modell mit dem gebrochenen Design schätzen können. Dadurch können wir das linearisierte Modell mit den linearen additiven und nichtlinearen Modellen mit den Fraktionsdaten vergleichen. Wenn Prescott natürlich ein vollständiges spezielles kubisches Mischungsmodell in 7 Termen mit einem faktoriellen Prozessdesign in 6 Termen durchgeführt hätte, hätten wir nicht die 42 Freiheitsgrade, die zur Schätzung aller Terme erforderlich wären.
Aus Tabelle 6 können wir ersehen, dass das linearisierte Modell mit den fraktionierten Designs unter Verwendung der Trainingsdaten sehr gut funktioniert. Tatsächlich ist der RMSE für beide Designs niedriger als der RMSE, der mit dem vollständigen Datensatz ermittelt wurde. Dies kann teilweise durch die Tatsache erklärt werden, dass Prescott die im linearisierten Modell benötigten Parameter aus dem vollständigen Datensatz ermittelte. In diesem Sinne verwenden wir Informationen aus dem gesamten Datensatz, wenn wir ein linearisiertes Modell an die Bruchdaten anpassen. Allerdings können wir mit diesen 39 Datenpunkten nicht alle Terme im vollständig linearisierten Modell schätzen. Beachten Sie jedoch, dass das linearisierte Modell bei der Vorhersage der Hold-out-Daten deutlich schlechter abschneidet. Tatsächlich ist der linearisierte Vorhersage-RMSE für beide fraktionierten Designs größer als der des linearen und des nichtlinearen Modells.
Auch hier liefern die linearen additiven und nichtlinearen Modelle für beide Designs einen Vorhersage-RMSE, der einigermaßen nahe am RMSE aus dem Trainingssatz liegt. Wie bei den Daten von Cornell sehen wir, dass die Anpassung eines linearen additiven oder nichtlinearen Modells mit einem gebrochenen Versuchsplan eine praktikable Alternative zum Ausführen des vollständigen 90-Durchlauf-Versuchsplans darstellt.
TABELLE 6 Vorhersageergebnisse mit fraktionalen Prescott-Designs
Wangs ursprünglicher Entwurf war ein 10-Run-Simplex mit 50-50 Randpunkten und Kontrollpunkten, gekreuzt mit einer 2 2 Prozessdesign, was zu 10*4 = 40 Durchläufen führt. Wir erhalten den Teilentwurf 1, indem wir einen vollständigen Entwurf 2 ausführen 2 am Schwerpunkt und bei reinen Mischungen ist der halbe Bruch z 1 z.B 2 = 1 an den 50-50 Kantenpunkten und der halbe Bruch z 1 z.B 2 = -1 an den Kontrollpunkten. Daraus ergeben sich 4*4 + 2*3 + 2*3 = 28 Läufe, wie in Abbildung 8 dargestellt. Bruchteilentwurf 2 wurde durch Umkehrung der Bruchteile an den 50-50-Kantenpunkten und Kontrollpunkten erhalten.
Unter Verwendung dieser fraktionierten Designs vergleichen wir erneut die linearisierten, linear-additiven und nichtlinearen Modelle im Hinblick auf den Vorhersage-RMSE. Da das von Wang durchgeführte linearisierte Modell 28 Parameter hat, können wir dieses vollständige Modell schätzen, allerdings ohne verbleibende Freiheitsgrade zur Fehlerschätzung. Daher verwenden wir zu Vergleichszwecken erneut den Pseudostandardfehler von Lenth anstelle von RMSE für das linearisierte Modell. Die Ergebnisse dieser Vergleiche sind in Tabelle 7 dargestellt.
TABELLE 7 Vorhersageergebnisse mit Wang-Fraktionsentwürfen
*Berechnet mit der Lenth-Methode, da es keine df für Fehler gibt.
Am bemerkenswertesten in Tabelle 7 sind vielleicht die schlechten Vorhersagen des linearisierten Modells. Dies ist wahrscheinlich zum großen Teil auf die Tatsache zurückzuführen, dass es bei den fraktionierten Designs keine Freiheitsgrade für die Fehlerschätzung gibt. Eine wichtige Lehre daraus ist unserer Ansicht nach die Gefahr, Regressionsmodelle ohne oder mit wenigen Freiheitsgraden für Fehler zur Vorhersage neuer Daten zu verwenden. Modellbewertung und -validierung sind schwierige Aufgaben; Dies mit wenigen oder gar keinen Fehlerfreiheitsgraden zu tun, führt wahrscheinlich zu schlechten Vorhersagen. Die linearen additiven und nichtlinearen Modelle schneiden besser ab und sind in Bezug auf die Vorhersage außerhalb der Stichprobe in etwa gleichwertig. Beachten Sie, dass weder das lineare additive noch das nichtlineare Modell einen RMSE erzeugten, der dem linearisierten Modell mit dem vollständigen Datensatz nahe kam. Bei der Vorhersage außerhalb der Stichprobe schneiden beide jedoch besser ab als das linearisierte Modell. Wir argumentieren erneut, dass dies einige Beweise dafür liefert, dass lineare additive und nichtlineare Modelle, die auf gebrochenen Designs basieren, in der Praxis sinnvolle Alternativen sind.
Was haben wir gelernt?
Wir haben linearisierte, lineare additive und nichtlineare Modelle anhand von zwei veröffentlichten Mischungsprozess-Datensätzen und einem neuen Datensatz verglichen. Darüber hinaus haben wir diese Ansätze nicht nur im Hinblick auf die Anpassung der Originaldatensätze verglichen, sondern auch hinsichtlich der Anpassung möglicher Teildesigns, die anstelle der vollständig gekreuzten Designs (Misch-Zeit-Prozess) hätten durchgeführt werden können. Wir wiederholen, dass unser Ziel nicht darin besteht, das optimale Design oder beste Modell im absoluten Sinne zu finden. Vielmehr schlagen wir einen statistischen Engineering-Ansatz vor, um die beste Strategie zur Bewältigung von Mischungsprozessproblemen angesichts potenzieller Wechselwirkungen zu ermitteln. Eine solche Strategie würde die praktischen Vorteile von Teilentwürfen und sequentiellen Ansätzen berücksichtigen.
Kurz gesagt argumentieren wir, dass wir aus diesen Vergleichen Folgendes gelernt haben:
- Wenn genügend Freiheitsgrade verfügbar sind, passen linearisierte Modelle, die durch Multiplikation der Terme des Mischungsmodells mit denen des Prozessmodells erhalten werden, wahrscheinlich am besten zu den Daten und liefern die besten Vorhersagen für Daten außerhalb der Stichprobe.
- Lineare additive Modelle, die die Wechselwirkung zwischen Mischung und Prozess ignorieren, und nichtlineare Modelle bieten praktikable Alternativen zum linearisierten Modell und bieten erhebliche Vorteile hinsichtlich der Anzahl der zu schätzenden Terme.
- Wenn Experimentatoren die Option linearer additiver oder nichtlinearer Modelle in Betracht ziehen, bietet eine sequentielle Strategie, die mit fraktionierten Designs beginnt, das Potenzial, den Gesamtaufwand an Experimenten, der zur Entwicklung eines nützlichen Modells erforderlich ist, erheblich zu reduzieren.
- Wenn die linearen additiven und nichtlinearen Modelle nicht gut genug zu den ursprünglichen Bruchplänen passen, können Experimentatoren den verbleibenden vollständig gekreuzten Versuchsplan ausführen und das linearisierte Modell anpassen. In diesem Sinne haben Experimentatoren viel zu gewinnen und sehr wenig zu verlieren, wenn sie eine sequenzielle Strategie in Betracht ziehen.
- Ein weiterer nicht zu übersehender Punkt ist, dass Modelle mit wenigen oder keinen Freiheitsgraden für Restfehler möglicherweise gut zu Stichprobendaten passen, die Vorhersage aus Stichprobendaten jedoch riskant ist.
Die von uns vorgeschlagene Strategie ist in Abbildung 1 dargestellt. Indem wir zunächst den fraktionierten Entwurf ausführen, haben wir das Potenzial, den Umfang der Experimente, die zur Anpassung eines geeigneten Modells erforderlich sind, erheblich zu reduzieren. Die verschiedenen fraktionellen Designs und die Anzahl der Koeffizienten in den verschiedenen Modellen sind zum Vergleich in Tabelle 8 zusammengefasst.
TABELLE 8 Größe der vollständigen und gebrochenen Designs und Anzahl der Koeffizienten in den Modellen
Datensatz | - NEIN. Führt das vollständige Design aus
| - NEIN. Führt Fractional Design aus
| Die Ermäßigung | - NEIN. Linearisierte Modellkoeffizienten
- NEIN. Koeffizienten des linearen additiven Modells
- NEIN. Nichtlineare Modellkoeffizienten
|
Cornell | 56 | 32 | 43 % | 56 | 14 | 14 |
Prescott | 90 | 39 | 57 % | 42 | 12 | 12 |
Wang et al. | 40 | 28 | 30 % | 28 | 11 | 11 |
Wir empfehlen, sowohl das lineare additive als auch das nichtlineare Modell auf die Bruchdaten anzuwenden. Sollte das nichtlineare Modell deutlich besser passen, wäre dies ein Hinweis auf nennenswerte Wechselwirkungen zwischen Gemisch und Prozessgrößen. Natürlich gibt es keine Garantie dafür, dass das lineare additive oder nichtlineare Modell gut passt. Insbesondere bei einem hohen Grad an Wechselwirkung zwischen Gemisch- und Prozessvariablen werden wahrscheinlich linearisierte Modelle erforderlich sein.
Wenn die Experimentatoren mit den aus dem fraktionierten Versuchsplan generierten Modellen nicht zufrieden sind, haben sie die Möglichkeit, den anderen Teilversuch durchzuführen – den Bruchteil, der ursprünglich nicht ausgeführt wurde, um den vollständigen Versuchsplan zu vervollständigen. Diese Option sollte Teil der zu Beginn der Studie verabschiedeten Strategie sein. Dieser Ansatz würde die Schätzung des vollständig linearisierten Modells ermöglichen. Ein Freiheitsgrad wäre erforderlich, um das Design im Laufe der Zeit effektiv zu blockieren, und zwar zwischen dem ersten Bruchteil und dem zweiten Bruchteil. Ansonsten hat dieser Ansatz keine wirklichen Nachteile, vorausgesetzt, es ist möglich, nacheinander zu experimentieren. Wir erkennen erneut an, dass die Theorie, die nichtlinearen Modellen zugrunde liegt, nicht so weit entwickelt ist wie die für lineare Modelle.
Der Modelladäquanzschritt in Abbildung 1 sollte natürlich nicht auf die Bewertung von RMSE beschränkt sein. Dieser Entscheidungsschritt soll eine vollständige Bewertung der Modelladäquanz umfassen, einschließlich einer sorgfältigen Prüfung der Residuen, der Bewertung potenzieller Ausreißer, eines Vergleichs mit dem aktuellen Domänenwissen zu diesem Problem usw. Eine solche Auswertung des linearisierten Modells wird vorausgesetzt, daher haben wir dies nicht als weiteren Schritt in Abbildung 1 aufgenommen. Unser Ziel in dieser Abbildung ist es, zu zeigen, wie die verschiedenen Modelle nacheinander ausgewertet werden können, anstatt die Details einer soliden statistischen Modellbildung zu beschreiben, wie in Box et al. diskutiert. (2005) zum Beispiel.
Der Leser wird vielleicht bemerken, dass wir in diesem Artikel nicht das Potenzial computergestützter Designs untersuchen, einen optimalen Anteil auszuwählen, der zum nichtlinearen Design passt. Wir glauben, dass die Forschung zur Anwendung von Computerdesigns für nichtlineare Modelle bei Mischungsprozessproblemen noch bessere Ergebnisse liefern könnte als die, die wir präsentieren. Wir überlassen dies der zukünftigen Forschung.
Eine praktikable Strategie wurde entwickelt, getestet und illustriert
Wir betrachten das Problem des Entwurfs von Experimenten und der Anpassung von Modellen sowohl mit Mischungs- als auch mit Prozessvariablen, von denen angenommen wird, dass sie wahrscheinlich miteinander interagieren. Ein üblicher Ansatz zur Lösung solcher Probleme besteht darin, einen vollständigen Mischungsentwurf gekreuzt mit einem vollständig faktoriellen Entwurf in den Prozessvariablen durchzuführen. Ein solcher Entwurf ermöglicht die Schätzung aller Koeffizienten in einem linearisierten Modell – einem Modell, das durch Kreuzung aller Terme im Mischungsmodell mit allen Termen im Prozessmodell erstellt wird. Allerdings sind sowohl die Modelle als auch die Designs, die zu ihrer Schätzung erforderlich sind, in der Regel recht groß. Beispielsweise wurde in Prescotts Brotbackbeispiel ein 90-Durchlauf-Design verwendet. Cornells Fischpastetchen-Design erforderte 56 Durchgänge.
Wir betrachten den Fall, in dem Experimentatoren ein gutes Modell wünschen, vielleicht nicht das optimale, und ein solches Modell mit viel weniger Experimenten als 90 oder 56 Durchläufen erhalten möchten. In diesen Situationen argumentieren wir, dass eine statistische Engineering-Strategie, die sequenzielle Experimente, zunächst viel kleinere Bruchpläne und die Berücksichtigung linearer additiver oder nichtlinearer Modelle verwendet, einen besseren Gesamtansatz bietet. Um es noch einmal zu sagen: Wir behaupten nicht, dass das nichtlineare Modell dem linearisierten Modell in Bezug auf RMSE oder Vorhersage-RMSE wahrscheinlich überlegen ist. Wir behaupten auch nicht, dass gebrochene Designs genauso viele Informationen enthalten wie vollständig gekreuzte Designs. In diesem Sinne schlagen wir weder ein bestimmtes Design per se noch ein bestimmtes Modell per se vor.
Vielmehr schlagen wir eine Strategie zur Bewältigung solcher Probleme vor, die unserer Meinung nach den in der aktuellen Literatur vorgeschlagenen Ansätzen insgesamt überlegen ist. In diesem Sinne handelt es sich bei unserer vorgeschlagenen Strategie um einen statistischen Engineering-Ansatz. Basierend auf den hier gezeigten Ergebnissen kommen wir zu dem Schluss, dass dieser Ansatz überlegen ist, da er das Potenzial bietet, erhebliche experimentelle Zeit und Mühe einzusparen, während er praktisch keine Nachteile aufweist, vorausgesetzt, ein sequenzieller Ansatz ist machbar. Insbesondere lassen sich nichtlineare Modelle mit moderner Statistiksoftware wie R, JMP, Minitab oder SAS relativ einfach schätzen, sodass Software kein Hindernis für die Berücksichtigung nichtlinearer Modelle darstellen muss. Wir glauben außerdem, dass ähnliche Ansätze in anderen Reaktionsoberflächenanwendungen von allgemeinerem Nutzen sein könnten – jenseits von Mischungs-/Prozessvariablenmodellen, aber dies ist ein Thema für zukünftige Forschung.
Verweise
Anderson-Cook, CM und Lu, L. (Gastredakteure) (2012). „Sonderheft zur Statistiktechnik“, Qualitätstechnik , 24(2).
Box, GEP, Hunter, JS und Hunter, WG (2005). Statistiken für Experimentatoren , 2 n.d Auflage, John Wiley and Sons, Hoboken, NJ.
Cornell, JA (2002). Experimente mit Mischungen: Entwürfe, Modelle und Analyse von Mischungsdaten , 3 ca Edition, John Wiley and Sons, Hoboken, NY.
Cornell, JA (2011). Eine Einführung in Experimente mit Mischungen , John Wiley and Sons, Hoboken, NJ.
Hoerl, RW und Snee, RD (2010). „Statistisches Denken und Methoden zur Qualitätsverbesserung: Ein Blick in die Zukunft“ Qualitätstechnik , 22(3): 119-139.
Lenth, RV (1989). „Schnelle und einfache Analyse nicht replizierter Fakultäten“, Technometrie , 31(4): 469-473.
Montgomery, D.C (2012). Design und Analyse von Experimenten , 8. Auflage, John Wiley and Sons, Hoboken, NJ.
Prescott, P. (2004). „Modellierung in Mischungsexperimenten einschließlich Wechselwirkungen mit Prozessvariablen.“ Qualitätstechnologie und quantitatives Management, 1(1): 87-103.
Schiff , H. (1963). „Das Simplex-Schwerpunkt-Design für Experimente mit Mischungen“, Zeitschrift der Royal Statistical Society B , 25(2): 235–263.
Snee, RD und Hoerl, RW (2011). " Richtiges Mischen; „Die richtige Mischung zwischen statistischer Technik und angewandter Statistik“, Qualitätsfortschritt , Juni: 46-49.
Wang, L., Xu, J., Wu, S. und Zhang, K. (2013). Untersuchung der Schmelzrate selbst hergestellter Eiswürfel, unveröffentlichter Projektbericht.
