| Lautsprecher |
Transkript |
| Phil Kay |
Okay, wir sprechen über die Neugestaltung und Analyse von Experimenten. Ich bin Phil Kay, Lernmanager im globalen technischen Enablement-Team, und Pete Hersh ist mein Kollege. |
| Peter Hersh |
Ja, ich bin auch Mitglied des globalen technischen Enablement-Teams und freue mich, über DOE und einige der neuen Techniken zu sprechen, die wir heute erkunden. |
| Phil Kay |
Zunächst einmal möchten wir sagen, dass wir große Fans des Energieministeriums sind. Es ist großartig. Es hat in Wissenschaft und Technik schon seit langem einen enormen Wert. |
| |
Und dennoch müssen wir mit einigen Annahmen einverstanden sein, wenn wir DOE häufig verwenden wollen. |
| |
Und sie fühlen sich als Wissenschaftler oder Ingenieur nicht immer besonders wohl. Dinge wie Effektsparsität, also die Vorstellung, dass sich nicht alles, was man betrachtet, als wichtig herausstellt |
| |
und tatsächlich erweisen sich nur wenige der Dinge, mit denen Sie experimentieren, als wichtig. Oder Effektvererbung ist eine weitere Annahme. |
| |
Das bedeutet, dass wir komplexe Verhaltensweisen oder Effekte höherer Ordnung nur bei Faktoren erwarten, die in ihrer einfacheren Form aktiv sind. |
| |
Und genau diese Idee der aktiven und inaktiven Effekte besteht im sequenziellen Prozess der Versuchsplanung darin, die aktiven Effekte von den inaktiven Effekten zu trennen. |
| |
Und das fühlt sich manchmal einfach zu sehr nach einer binären Entscheidung an. Ich finde, es erscheint mir oft etwas verrückt, dass wir mit einigen der Dinge, an denen wir experimentieren, an einem völlig inaktiven, |
| |
obwohl wir, glaube ich, wissen, dass wirklich alles eine Wirkung haben wird. Es mag weniger wichtig sein, aber |
| |
es wird immer noch eine gewisse Wirkung haben. Und das sind größtenteils Annahmen, die wir verwenden, um |
| |
einige der Herausforderungen bei der Gestaltung von Experimenten zu umgehen, wenn man sich keine große Anzahl von Durchläufen leisten kann, und ja. Pete, ich weiß nicht, ob du das auch aus deiner Sicht kommentieren möchtest. |
| Peter Hersh |
Ja, da stimme ich voll und ganz zu. Ich denke, die Vorstellung, dass so etwas wie die Temperatur inaktiv ist, ist... Ich finde es schwer vorstellbar, dass die Temperatur keinen Einfluss auf ein Experiment hat. |
| Phil Kay |
Ja, es ist irgendwie absurd, nicht wahr? Also, |
| |
ja, wenn das in Ihrem Experiment vorkommt, dann wird es immer in irgendeiner Weise aktiv sein, aber vielleicht nicht so wichtig wie andere Dinge. |
| |
Ich gehe gleich zu den Ergebnissen von |
| |
von dem, was wir uns angesehen haben. Wir haben uns also diese Autovalidierungstechnik angesehen, die Chris Gotwalt und Phil Ramsey im Wesentlichen erfunden haben |
| |
Wir haben es bei der Analyse geplanter Experimente verwendet und es hat wirklich unglaubliche Ergebnisse geliefert. Wir hätten nicht gedacht, dass das möglich wäre. |
| |
Ich habe mir zunächst ein System mit 13 aktiven Effekten angesehen und ein 13-Lauf-Screening-Design analysiert. Daraus konnte ich erkennen, dass 13 Effekte aktiv waren. Das ist eine gesättigte Situation. Wir würden nicht... |
| |
Normalerweise sprechen wir davon, dass definitive Screening-Designs bei der Identifizierung aktiver Effekte effektiv sind, wenn die Effektdichte gering ist, also nur wenige Effekte tatsächlich wichtig oder aktiv sind. In diesem Fall gelang es mir jedoch, alle 13 aktiven Effekte zu identifizieren. |
| |
Und nicht nur das, es gelang uns tatsächlich, ein Modell mit all diesen 13 aktiven Effekten aus diesem 13-Durchläufe umfassenden definitiven Screening-Design zu erstellen. |
| |
Auch das ist ziemlich unglaublich. Wir gehen nicht davon aus, dass wir ein Modell mit so vielen aktiven Effekten erstellen können, wie wir Datenzeilen haben, aus denen wir es erstellen. |
| |
Und Pete, Sie haben sich noch ein paar andere Dinge angesehen und sind zu weiteren wirklich interessanten Ergebnissen gekommen. |
| Peter Hersh |
Ja, absolut, und Phils Ergebnisse sind sehr, sehr beeindruckend. Ich denke |
| |
Der nächste Schritt, den wir versuchten, war die Entwicklung eines supergesättigten Designs, das mehr aktive Effekte als Läufe aufweist. Wir versuchten dies mit |
| |
sehr kleine DOEs. Ein DOE mit sechs Durchläufen und sieben aktiven Effekten, das wir mit Standard-DOE-Techniken nicht analysieren könnten, |
| |
das richtig. Und wir verglichen das mit acht und zehn DOEs und wie viel uns das brachte. So erhielten wir recht brauchbare Modelle, sogar aus einem sechs DOEs, das |
| |
besser als ich erwartet hatte. |
| Phil Kay |
Ja, es ist wirklich besser, als Sie erwarten dürfen, nicht wahr? |
| |
Und so haben wir diese wirklich beeindruckenden Ergebnisse und die Fähigkeit, eine große Anzahl aktiver Effekte aus einer kleinen |
| |
definitives Bildschirmdesign und tatsächlich das Modell mit all diesen aktiven Effekten bauen. Und in Petes Fall konnte ich ein Modell mit sieben aktiven Effekten aus wirklich kleinen |
| |
Entworfene Experimente. |
| |
Wie haben wir das gemacht? Wie funktioniert die Autovalidierungsmethode? Sie greift Ideen aus dem maschinellen Lernen auf, und eines der wirklich nützlichen Werkzeuge des maschinellen Lernens ist die Validierung. Die Holdout-Validierung ist eine sehr gute Möglichkeit, sicherzustellen, dass Sie … |
| |
das nützlichste Modell. Es ist also ein robustes Modell. Wir halten einen Teil der Daten zurück und nutzen diese, um verschiedene Modelle zu testen, die wir erstellen. |
| |
im Grunde verwenden wir das Modell, das die beste Vorhersage der von uns zurückgehaltenen Daten liefert, und das ist wirklich erprobt und getestet. |
| |
Es ist eigentlich so ziemlich der Goldstandard für die Erstellung der nützlichsten Modelle, aber bei DOE ist das eine größere Herausforderung, nicht wahr, Pete? Dafür ist es offensichtlich nicht wirklich geeignet. |
| Peter Hersh |
Ja, ja, die ganze Idee hinter DOE ist es, den Designraum so effizient wie möglich zu erkunden. Und wenn wir anfangen, Läufe oder |
| |
Analyse der Läufe, dann werden wir einen Teil dieses Designraums verpassen und |
| |
mit vielen dieser DOE-Techniken, wie beispielsweise definitiven Screening-Designs, ist das wirklich nicht möglich. |
| Phil Kay |
Genau, also wäre es schön, wenn es einen Trick gäbe, mit dem wir die Vorteile dieser Holdout-Validierung nutzen könnten, ohne kritische Daten zurückhalten zu müssen. Das bringt uns zu dieser Autovalidierung. |
| |
Idee, und, Pete, möchtest du ein bisschen beschreiben, wie das funktioniert? |
| Peter Hersh |
Absolut, das war eine wirklich clevere Idee von Chris und Phil Ramsey. Sie nehmen im Wesentlichen unsere Originaldaten von einem DOE und resampeln sie, sodass Sie |
| |
Wiederholen Sie die Ergebnisse. Beachten Sie, dass in der Tabelle unten auf der Folie die grauen Läufe dieselben Ergebnisse wie die weißen Läufe zeigen. Sie werden lediglich wiederholt. |
| |
Und sie kommen damit durch, indem sie diese Gewichtungsspalte paarweise erstellen. Wenn also jemand ein hohes Gewicht hat, |
| |
der wiederholte Durchlauf davon hat eine niedrige Rate...Gewicht und so weiter und so fort. Und dies...das ist...ermöglicht es uns, die Daten mit dieser Validierung und der Gewichtung zu verwenden und wir werden etwas detaillierter darauf eingehen, wie das gemacht wird. |
| Phil Kay |
Ja, Sie werden sehen, wie es funktioniert, wenn wir die Demos durchgehen. Wir haben im Wesentlichen zwei Fallstudien mit simulierten Beispielen, die wir zur Veranschaulichung dieser Methodik verwenden. Die erste Fallstudie, die ich besprechen werde, |
| |
Ich betone, dass es sich um ein simuliertes Beispiel handelt. Und in gewisser Weise ist es etwas unrealistisch, aber ich denke, es demonstriert die Leistungsfähigkeit dieser Methodik sehr gut. |
| |
Wir haben sechs Faktoren und um es ein bisschen realistischer erscheinen zu lassen, haben wir einige echte Faktoren aus einer Fallstudie ausgewählt, in der versucht wurde, einen biologischen Organismus zu züchten und die Nährstoffe, die in das System eingespeist werden, zu optimieren, um die Wachstumsrate zu optimieren. |
| |
Wir haben also diese sechs verschiedenen Nährstoffe und das sind unsere Faktoren. Wir können diese in unterschiedlichen Mengen hinzufügen. Deshalb habe ich ein 13-stufiges Screening-Design entwickelt, um diese Faktoren im Hinblick auf die Wachstumsratenreaktion zu untersuchen. |
| |
Die Antwortdaten wurden von mir vollständig simuliert, und zwar so, dass es 13 stark aktive Effekte gab. |
| |
Ich habe es so simuliert, dass alle Haupteffekte, alle sechs Haupteffekte, aktiv sind. |
| |
Und dann sind für jeden dieser Faktoren auch die quadratischen Effekte aktiv, wir haben also sechs quadratische Effekte. |
| |
Außerdem haben wir einen Achsenabschnitt, den wir immer schätzen müssen. Insgesamt sind also 13 Effekte aktiv, die für das Verständnis des Systems wichtig sind. |
| |
1 Signal-Rausch-Verhältnis, aber das ist mit der Standardmethodik immer noch eine echte Herausforderung, um das zu modellieren, und wir werden in der Demo darauf zurückkommen. |
| |
Die eigentliche Frage ist also, ob wir all diese wichtigen Effekte identifizieren können und, wenn ja, ob wir dann auch ein Modell mit all diesen wichtigen Effekten erstellen können. Denn wie gesagt, das wäre wirklich bemerkenswert. |
| |
im Vergleich zu dem, was wir mit Standardmethoden erreichen können. |
| |
Und dann Fallstudie Nr. 2, Pete? |
| Peter Hersh |
Ja, absolut. Sehr, sehr ähnlich wie Phils Fallstudie. Dieselbe Idee: Wir geben einem Organismus verschiedene Nährstoffe in unterschiedlichen Mengen und überprüfen seine Wachstumsrate. In diesem Fall habe ich Phils Vorgehensweise vereinfacht und auf nur drei Nährstofffaktoren heruntergebrochen. Und das ist |
| |
Wir bauen ein anderes Design, nämlich ein I-optimales übersättigtes Design, bei dem wir eine vollständige Reaktionsfläche betrachten |
| |
in einer übersättigten Weise und wir sahen sechs, acht und zehn Lauf |
| |
Designs. Und also dieselbe Idee. |
| |
Die die |
| |
Die Effekte waren sehr, sehr |
| |
Hohes Signal-Rausch-Verhältnis, daher wollte ich diese Effekte unbedingt erkennen können, wenn sie aktiv sind. Und genau wie Phil habe ich die Haupteffekte in den Quadraten sowie den Achsenabschnitt aktiviert gelassen, und wir versuchen, diese herauszufiltern. |
| |
Und dieselbe Idee: Wie viele Durchläufe bräuchten wir also, um diese aktiven Effekte zu sehen, und wie genau kann das Modell sein, das wir aus diesen sehr kleinen Designs erstellen können? |
| Phil Kay |
Ja, denn wie ich schon sagte, haben Sie wirklich kein Recht zu erwarten, dass Sie aus einem so kleinen Entwurf ein gutes Modell bauen können. |
| Peter Hersh |
Ja, genau. Okay. |
| Phil Kay |
Ich werde jetzt eine Demo der Fallstudie Nr. 1 zeigen. |
| |
Und ich präsentiere dies anhand eines JMP-Projekts. Das ist also eine wirklich schöne Möglichkeit, Ihre Ergebnisse zu präsentieren. Ich empfehle, es auszuprobieren. |
| |
Und das ist unser |
| |
Design. Dies ist unser definitives Screening-Design mit 13 Durchläufen, bei dem wir diese Nährstofffaktoren variieren und die simulierte Wachstumsrate erhalten. Wie gesagt, wurde dies so simuliert, dass |
| |
die Haupteffekte, die Quadrate aller dieser Faktoren sind stark aktiv, außerdem müssen wir diesen Achsenabschnitt schätzen. |
| |
Bei einem definitiven Screening-Design empfehle ich Ihnen im Allgemeinen, als eine der Analysen, die Sie durchführen können, ein passendes definitives Screening zur Betrachtung der Ergebnisse zu verwenden. |
| |
Es funktioniert wirklich gut, wenn das Prinzip der Effektsparsität zutrifft. Solange also nur wenige Effekte stark aktiv sind und der Rest unwichtig ist, |
| |
dann wird es diese ... die wenigen wichtigen Effekte finden und sie von den unwichtigen trennen. |
| |
Aber in diesem Fall hatte ich nicht erwartet, dass es gut funktioniert, und es funktioniert nicht gut. Es erkennt nicht, dass alle sechs Faktoren aktiv sind. Tatsächlich wird nur ein Faktor als aktiv identifiziert. |
| |
Das ist also keine große Überraschung, denn die Situation ist zu schwierig und zu anspruchsvoll für diese Art der Analyse. |
| |
Wenn wir irgendwie wüssten, dass alle diese aktiven Effekte aktiv sind und wir versuchen würden, ein Modell mit allen sechs Haupteffekten, allen sechs quadratischen und dem Achsenabschnitt anzupassen, |
| |
dann handelt es sich um ein gesättigtes Modell. Wir müssen so viele Parameter schätzen, wie wir Datenzeilen haben. Daher können wir das Modell gerade so anpassen, erhalten aber keine Statistiken. |
| |
Und abgesehen davon, dass ich diese Daten simuliert habe, wüssten wir in einer realen Situation sowieso nicht, welche aktiv sind, also wüssten wir nicht einmal, welches Modell wir anpassen sollten. |
| |
Mithilfe der Methode der automatischen Validierung konnte ich die aktiven Effekte tatsächlich sehr überzeugend identifizieren. Ich werde im Folgenden erläutern, wie wir das gemacht haben. |
| |
Und dies ist nur eine Visualisierung meiner Ergebnisse. Sie müssen es nicht unbedingt auf diese Weise visualisieren. Dies dient Präsentationszwecken. |
| |
Ich konnte zunächst feststellen, dass der Intercept aktiv war. Ich habe alle meine sechs Haupteffekte, |
| |
und meine quadratischen Effekte und dann meine Zwei-Faktor-Interaktionen, die ich simuliert habe, um keinen Effekt zu haben. Sie können sehen, dass sie weit unten liegen |
| |
Im Vergleich zu den anderen. Und hier gibt es tatsächlich einen Nullfaktor, den wir verwenden ... also einen Dummy-Faktor. Alles, was kleiner als der Nullfaktor ist, können wir als unwichtig oder inaktiv deklarieren, wenn Sie so wollen. |
| |
Und was wir hier eigentlich betrachten, ist die sogenannte Proportion ungleich Null. Ich werde im weiteren Verlauf erklären, was das bedeutet. Mit dieser Metrik bestimmen wir die Stärke und Wichtigkeit eines Effekts. |
| |
Hier ein paar Informationen dazu, wie ich das durchgezogen habe. Ich habe mein ursprüngliches, 13-Läufe umfassendes Screening-Design genommen und es für die automatische Validierung eingerichtet. Wir haben jetzt 26 Zeilen dupliziert. |
| |
Und dafür gibt es ein Add-In. Einer unserer Kollegen, Mike Anderson, hat ein Add-In erstellt, mit dem Sie dies in JMP 15 tun können. |
| |
In JMP 16 fügen sie tatsächlich die Fähigkeit in den prädiktiven Modellierungstools in der Validierungsspaltenplattform hinzu. |
| |
Und das führt dazu, dass wir diesen doppelten Satz unserer Daten erhalten und dann diese Gewichtung und, wie Pete sagte, wir haben ... jede Zeile ist im Trainingssatz und im Validierungssatz. |
| |
Wenn es im Trainingssatz eine niedrige Gewichtung hat, hat es bei der Validierung eine hohe Gewichtung. Wenn es also im Trainingssatz eine hohe Gewichtung hat, hat es im Validierungssatz eine niedrige Gewichtung. |
| |
Und was wir tatsächlich tun, ist, dass wir lesen … diese wurden im Grunde zufällig zugewiesen. |
| |
Wir haben diese neu zugewiesen und konnten dies hunderte Male wiederholen, die Modelle jedes Mal anpassen und dann die aggregierten Ergebnisse über viele Simulationsläufe hinweg betrachten. Was würden Sie also tun? |
| |
soll das Modell anpassen und ich verwende hier GenReg in JMP Pro. |
| |
Und Sie benötigen sowieso JMP Pro, da Sie diese Validierungsrolle angeben können müssen. Daher fügen wir … die Spalte „Validierung trainieren“ in die Validierung ein. |
| |
Die Gewichtung erfolgt in der Häufigkeit. Anschließend richten wir alles andere wie gewohnt für unsere Antwort ein. Anschließend habe ich ein Modell, nämlich das Antwortoberflächenmodell mit all diesen Effekten. Anschließend klicke ich auf „Ausführen“. |
| |
Und es passt zu einem Modell. Wir können die Vorwärtsauswahl oder das Lasso verwenden. Hier habe ich das Lasso verwendet. |
| |
In diesem Fall ist es nicht besonders wichtig. |
| |
Und was tatsächlich passiert ist, ist, dass wir in diesem Fall nur den Achsenabschnitt als wichtig identifiziert haben, sodass wir im Modell tatsächlich nur den Achsenabschnitt haben. |
| |
Wenn wir jedoch die Gewichtung ändern und zu unserer Datentabelle zurückkehren und diese Gewichtungen erneut simulieren, erhalten wir wahrscheinlich ein anderes Ergebnis vom Modell. |
| |
Wir gewichten unterschiedliche Datenreihen und verschiedene Durchläufe im Experiment. Dadurch ändert sich das passende Modell. Wir werden das hunderte Male wiederholen. Ich werde dafür die Simulationsfunktion in JMP Pro verwenden. |
| |
Wir tauschen die Gewichtungsspalte aus und ersetzen sie durch eine neu berechnete Version. Das kann man mehrere hundert Mal wiederholen. Ich habe es in diesem Fall sogar 250 Mal gemacht. Ich werde das nicht laufen lassen, da es ein bis zwei Minuten dauern würde. |
| |
Sobald Sie das getan haben, erhalten Sie eine Tabelle, die so aussieht. |
| |
Jetzt habe ich die Parameterschätzung für jedes dieser 250 Modelle für jeden dieser Effekte. Also |
| |
In meinem ersten Modell in diesem Lauf war dies die Parameterschätzung für den Haupteffekt der Zitronensäure. Im nächsten Modell, als wir die Gewichtung neu berechneten, |
| |
Der Haupteffekt der Zitronensäure ging nicht in das Modell ein und war in diesem Fall Null. |
| |
Und Sie können tatsächlich Verteilungen für alle diese Parameterschätzungen durchführen. Und eines der Dinge, die Sie tun können, ist, |
| |
Passen Sie diese Statistik, die zusammenfassende Statistik, an, um den Anteil ungleich Null zu betrachten. Sie können hier den Achsenabschnitt sehen, |
| |
die Schätzungen, die wir vom Achsenabschnitt hatten. Wie man bei Zitronensäure sehen kann, wurde er oft als Null geschätzt, also waren das die Modelle, |
| |
Der Haupteffekt der Zitronensäure war im Modell nicht enthalten und wurde häufig auf etwa 3 geschätzt, was auch meinen Simulationen entsprach. |
| |
Wir betrachten also den Anteil der Fälle, in denen der Wert ungleich Null ist, und können daraus eine kombinierte Datentabelle erstellen. Das habe ich bereits getan und nur ein bisschen... |
| |
Hier noch eine kleine Ergänzung. Ich habe einfach eine Spalte hinzugefügt, in der steht, ob es sich um einen Haupteffekt handelt oder nicht. So habe ich dann |
| |
Diese Visualisierung hier. Was Sie sehen, ist der Anteil der Fälle, in denen jeder dieser Effekte ungleich Null ist, also der Anteil der Fälle, in denen jeder dieser Effekte in unserem Modell vorkommt, im Vergleich zu all diesen |
| |
Wir haben 250 Simulationsläufe durchgeführt, bei denen wir die fraktionale Gewichtung neu simuliert haben. Und das verwenden wir, um zu identifizieren |
| |
die aktiven Effekte, und das ist... und es hat bemerkenswerte Arbeit geleistet. Es hat geschafft, was unsere Standardmethoden nicht leisten konnten. Es wurden 13 aktive Effekte aus 13 Durchläufen identifiziert. |
| |
definitives Screening-Design. |
| |
Was möchten Sie als Nächstes tun? Wir möchten das Modell mit all diesen Effekten anpassen, und das ist mir gelungen. Und ich vergleiche das Modell, das ich hier angepasst habe, |
| |
Vergleichen Sie die Ergebnisse mit der tatsächlichen simulierten Reaktion. Sie können sehen, wie gut sie übereinstimmen. So konnte ich ein Modell mit all diesen Haupteffekten, all diesen quadratischen Funktionen und dem Achsenabschnitt erstellen. |
| |
Ich habe hier also ein 13-Parameter-Modell, das ich an dieses 13-Run-Definitive-Screen-Design anpassen konnte, was wiederum einfach bemerkenswert ist. |
| |
Und ich werde nicht im Einzelnen erklären, wie ich zu diesem Teil gekommen bin. Ich übergebe jetzt an Pete. Er wird etwas mehr über die Idee selbstvalidierter Ensemble-Modelle sprechen. |
| Peter Hersh |
Absolut. Danke, Phil. Mal sehen. Ich zeige Ihnen meinen Bildschirm und wir schauen uns das Projekt kurz an. Also |
| |
Sie können hier sehen |
| |
im gleichen |
| |
Flow als Phil, wir schauen uns hier ein Projekt an und ich habe |
| |
Ich habe mit sechs übersättigten DOE-Läufen begonnen und hier sehen Sie, ich habe drei Faktoren, |
| |
Was ist meine tatsächliche zugrunde liegende Modellwachstumsrate und dann, was war die Wachstumsrate ... die simulierte Wachstumsrate und dann, wie Phil erwähnte, |
| |
Ich erstelle diese automatische Validierungsspalte. Dies kann mit einem von Mike Anderson entwickelten Add-In in JMP 15 erfolgen. In JMP 16 ist es direkt in die Software integriert und Sie können unter „Analyse der prädiktiven Modellierungsplattform – Erstellen einer Validierungsspalte“ darauf zugreifen. |
| |
Phil hat ein hervorragendes Beispiel dafür gezeigt, wie wir aktive Faktoren ermitteln können – ein Faktorenscreening. Das ist oft unser Hauptziel beim DOE. Wenn wir aber noch einen Schritt weitergehen und ein Modell daraus erstellen wollen, |
| |
Wir würden den gleichen Prozess durchlaufen, richtig. Also erstellen wir unser DOE, wir fügen diesem DOE eine automatische Validierung hinzu, wir erstellen unser Modell, genau wie Phil es gezeigt hat, mit generalisierter Regression und einem der |
| |
Techniken zur Variablenauswahl. Phil Ramsey und Chris Gotwalt haben sich viele dieser verschiedenen Techniken angesehen, und sie scheinen alle recht gut zu funktionieren. Ob Sie nun ein Lasso oder eine zweistufige Vorwärtsauswahl verwenden, sie scheinen alle ähnliche Ergebnisse zu erzielen und |
| |
funktionieren ziemlich gut. Sobald Sie dies eingerichtet und gestartet haben, erhalten Sie ein Modell, wie Phil es gezeigt hat, und Sie wissen, dass einige dieser Modelle |