Lautsprecher | Transkript |
| Jordan Hiller | ausgehen. |
| Phil Kay | Okay, nun ja, vielen Dank, dass Sie sich uns angeschlossen haben. Ich bin Phil Kay. Ich bin der Lernmanager bei JMP und werde diese Präsentation mit einem interaktiven Beispiel von SVEM beginnen, einer selbstvalidierten Ensemble-Modellierung. |
| Ich werde darauf eingehen, was SVEM ist und wie es funktioniert. Anschließend werden Pete und Trent Beispiele vorstellen. |
| Fallstudien und Simulationen, die wirklich erklären, warum Sie dies tun möchten. Ich werde dies nur auf einer präsentieren |
| Eine sehr einfache Fallstudie, daher scheint es zunächst nicht klar, warum ... Es scheint vielleicht nicht klar zu sein, warum Sie dies tun sollten, aber hoffentlich verstehen Sie den Mechanismus, nachdem ich das erklärt habe. |
| Okay, ich werde mein Video jetzt stoppen und mich nur auf die Softwaredemonstration hier konzentrieren. |
| Wir haben hier ein JMP-Tagebuch, das wir mit Ihnen teilen, sodass Sie über den Beitrag in der JMP-Community unter Community.JMP.com darauf zugreifen können. |
| Und das Beispiel, das wir verwenden werden, ist ein klassisches DOE-Beispiel. Dies sind die Bounce-Daten, die Sie den Hilfedateien in JMP entnehmen können. |
| Es sind also drei Faktoren, 15 Läufe. Es ist ein Box-Behnken-Design und wir haben dort eine Antwort, die dehnbar ist, also wirklich ganz einfach, Standard, |
| Traditionelles altmodisches DOE. |
| Und die Modellierung dieser Daten stellt keine wirkliche Herausforderung dar, und wenn wir ein Antwortflächenmodell anpassen, erkennen wir, dass sich dieses krummlinige Verhalten, diese quadratischen Effekte und auch die Wechselwirkungen zwischen Faktoren als wichtig erweisen. |
| Sehen wir uns also an, wie wir dies mithilfe des SVEM-Ansatzes modellieren können. |
| Wenn wir dies also mit SVEM modellieren, werden Sie als Erstes bemerken, dass wir 30 Datenzeilen haben, also tatsächlich jede Datenzeile dupliziert haben, was vielleicht etwas verrückt erscheint. Es mag wie Betrug erscheinen. Dies ist ein wichtiger Trick in der SVEM-Methodik. |
| Sie werden sehen, dass wir hier einige zusätzliche Spalten haben, und die wichtigste ist diese Validierungsgewichtung. Lassen Sie uns das einfach darstellen, damit Sie sehen können, was es bedeutet. |
| Sie können also sehen, dass wir für jede unserer Datenzeilen, jeden unserer Läufe tatsächlich Laufpaare haben, also Lauf Nummer eins, den Sie hier sehen können. |
| Tatsächlich gewichten wir jeden dieser Läufe entweder in den Trainingssatz, der bei Null liegt, oder in den Validierungssatz, der bei Eins liegt. Und das sieht man bei jedem Paar |
| diese Gewichtungen sind umgekehrt proportional. So können Sie hier zum Beispiel beim siebten Lauf sehen, dass er im Training eine starke Gewichtung hat, kein Validierungssatz, und dass er im Validierungssatz entsprechend eine niedrige Gewichtung hat. |
| Jetzt wurden diese zufällig zugewiesen und wir können ... |
| Indem wir hier klicken, können wir diese neu zeichnen, damit wir die Gewichte neu zuweisen können. Und wenn eine Zeile im Trainingssatz eine hohe Gewichtung hat, also beispielsweise Zeile Nummer sechs hier eine hohe Gewichtung im Trainingssatz hat, hat sie im Validierungssatz eine entsprechend niedrige Gewichtung. |
| Daher verdoppeln wir hier unsere Datenreihen. |
| Und wir werden dies zur Selbstvalidierung nutzen. Was wir also tatsächlich tun können, ist, eine Variante der Hold-Back-Validierung zu verwenden, wo |
| Anstatt eine Datenzeile vollständig im Validierungssatz zurückzuhalten, werden wir Teile jeder Datenzeile zurückhalten, sodass jede Zeile tatsächlich innerhalb des Trainingssatzes und des Validierungssatzes liegen kann und, was wichtig ist, Wir können diese Gewichte neu zuweisen |
| wiederholt, was bei der Ensemblemodellierung ausreicht. |
| Okay, um es zusammenzufassen: Wir haben im Grunde jede Datenzeile verdoppelt und ihnen Gewichtungen zugewiesen, sodass einige Zeilen mehr im Training und andere mehr im Training enthalten sein werden Validierungssatz. |
| Jetzt können wir ein Modell mithilfe der Validierung anpassen. |
| Wir verwenden hier also GenReg, und Sie können sehen, dass wir einen Validierungssatz verwenden (und die Fehlermeldung dort einfach ignorieren). |
| Wir verwenden Lasso und die Validierung als Modellauswahl. Und in diesem Fall wurden tatsächlich keine aktiven Effekte im Modell ausgewählt. Es handelt sich also um eine Anpassung an ein Antwortoberflächenmodell, und wir haben die Validierung als Auswahlmethode mithilfe des Lassos verwendet. |
| und wir haben festgestellt, dass tatsächlich keine Effekte aktiv sind, sodass wir ein Modell haben, das praktisch keine aktive Beeinflussung aufweist. |
| Was wir dann tun können, ist, diese Gewichte erneut zu zeichnen, damit wir unsere Spalten neu gewichten können. |
| Und wir sehen, dieses Mal bekommen wir ein anderes Modell. Tatsächlich werden jetzt einige der Effekte aktiv, sodass Kieselsäure in dieser Wechselwirkung zwischen Kieselsäure und Schwefel aktiv ist. |
| Speichern wir dieses Modell. |
| So, jetzt mit unserem |
| In der Datentabelle können Sie sehen, dass wir dort eine gespeicherte Modellformelspalte haben. |
| Lassen Sie uns diese Gewichte noch einmal neu zeichnen. Also zeichnen wir sie erneut neu, sodass einige der Zeilen stärker im Training und andere stärker im Validierungsbereich stehen. |
| Und wir haben wieder ein anderes Modell bekommen und das speichern wir jetzt. So haben wir es jetzt |
| zwei Zeilen mit... zwei Spalten mit gespeicherten Vorhersageformeln. |
| Und das können wir wieder tun. Deshalb werde ich die Gewichte neu zeichnen und die Vorhersageformel speichern. Ich habe gerade ein Skript, das das für uns erledigt. Und tatsächlich wird dann dieser Modelldurchschnitt erstellt, sodass wir tatsächlich den Durchschnitt unserer drei gespeicherten Modelle gebildet haben. |
| Daher verwendete jedes einzelne Modell eine andere Validierungsgewichtung. |
| Jedes Modell war anders, einige waren besser als andere. Der entscheidende Punkt ist, dass, wenn wir den Durchschnitt daraus bilden, |
| Der Durchschnitt davon ist das bisher beste Modell. Sie sehen also, dass dies dem Originalmodell, das wir mit Standardmethoden am Standard montiert haben, ziemlich nahe kommt ... |
| der Originaldatensatz. |
| Und das können wir auch weiterhin tun. Wir können das zehnmal machen, also wiederholen wir das. Und Sie können sehen, wie die Gewichte neu gezeichnet werden. Jedes Mal bekommen wir ein etwas anderes Modell. |
| Und wir können jedes dieser verschiedenen Modelle speichern. |
| Und am Ende erhält man ein durchschnittliches, wahrscheinlich bestes Modell. |
| Und wenn wir das tatsächlich mit dem ursprünglichen Modell vergleichen, das wir aus der Standardanalyse dieser Daten gesehen haben, |
| Wie Sie sehen, stimmen die beiden Modelle tatsächlich ziemlich gut überein. |
| In diesem Fall ist die Verwendung dieser selbstvalidierten Ensemble-Modellierung also tatsächlich zu demselben Modell gelangt, das wir auch mit der Standardmodellierung erhalten würden |
| lineare Regression. |
| Deshalb möchte ich auf die wichtigsten Punkte dessen eingehen, was Sie dort gesehen haben. Und wie gesagt, wir gehen weiter zu Pete und Trent, die die Beweggründe für den Einsatz dieser neuartigen Modellierungstechnik erläutern werden. |
| Wir haben die ursprünglichen Datenzeilen dupliziert. |
| Das bedeutet dann, dass wir eine zufällige Gewichtung anwenden können, um zu sagen, wie viel von jedem Zeilenpaar sich im Training im Vergleich zur Validierung befindet. |
| Dadurch können wir die Validierung nutzen. Für einen so kleinen Datensatz könnten wir das nicht nutzen. Es würde keinen Sinn machen, eine ganze Datenreihe vorzuhalten, aber was können wir mit diesem duplizierten Satz machen? |
| ist eine gewichtete Validierung. Daher haben wir in diesem Fall ein Modell mithilfe der Lasso-Auswahl angepasst, und diese Lasso-Auswahl nutzte diese gewichtete Validierungsspalte. |
| Dann zeichnen wir diese Gewichte neu. Wir weisen diesen Zeilenpaaren nach dem Zufallsprinzip erneut unterschiedliche Gewichte zu und passen das Modell neu an. Und in unserem Fall haben wir dies 10–15 Mal wiederholt, aber in der Praxis würden wir diesen Vorgang 100 Mal oder öfter wiederholen wollen, um ein gutes selbstvalidiertes Ensemblemodell zu erhalten. |
| Und jedes Modell ist es selbst ... jedes einzelne Modell in jedem Schritt dieses iterativen Prozesses ist nicht besonders nützlich, aber der Modelldurchschnitt oder das Ensemble ist es, wie wir bei unserem endgültigen Modell gesehen haben, das wir als Durchschnitt aller dieser Iterationen erreicht haben . |
| Nun möchte ich es Pete übergeben und er wird jetzt eine Fallstudie durchgehen, die tatsächlich veranschaulicht, warum Sie diese ungewöhnliche Methode für die Modellierung solcher Daten verwenden möchten. |
| Peter Hersh | Vielen Dank, Phil. Ich werde fortfahren und meinen Bildschirm hier teilen. |
| Und lassen Sie uns ein Beispiel durchgehen, wann wir das könnten |
| Verwenden Sie diese Methode. Hier bin ich also |
| Schauen wir uns zunächst die Ergebnisse an, also schauen wir uns ein paar Designs an, bei denen es sich um sehr kleine DOEs handelt, also ein DOE mit sechs Durchläufen, acht Durchläufen und 10 Durchläufen, mit drei Faktoren. |
| Dabei handelt es sich um Reaktionsoberflächendesigns, die von Natur aus sehr gesättigt bis gesättigt sind, und sie sind allesamt optimale Designs, sodass es sich hierbei um eine sehr geringe Anzahl an Durchläufen handelt |
| um hier unser Ziel zu erreichen. Hierhin gehen wir also. Lassen Sie uns also einen Schritt zurückgehen und über das Design sprechen und dann darüber, wie wir hierher gekommen sind. |
| So. |
| Dies ist eine Fallstudie, in der wir versuchen, die Wachstumsrate einer Mikrobe durch die Anpassung verschiedener Nährstoffkombinationen zu maximieren. Und wie ich bereits erwähnt habe, verwenden wir ein super gesättigtes I-Optimum-Design und passen die Anzahl der Durchläufe an. |
| Und das sind simulierte Daten, bei denen alle Haupteffekte sowie alle Quadratiken aktiv sind. |
| Bei der Einrichtung haben wir also mit unseren drei Faktoren begonnen. Ich habe mein Modell entworfen. Wenn Sie in JMP noch nie ein gesättigtes oder supergesättigtes Design entworfen haben, |
| Der Weg, dies zu erreichen, besteht darin, die Effekte, die nicht die Haupteffekte sind, möglichst so zu behandeln, dass Sie weniger Durchläufe oder die gleiche Anzahl an Durchläufen wie bei Modelleffekten haben. Und dann habe ich dort meine Entwürfe erstellt. |
| Und durchlief diesen Prozess, den Phil dort so schön beschrieben hat, nämlich die erneute Abtastung der Daten, um diese invertierten ... umgekehrt proportionalen Gewichte zu erhalten, die für diesen Prozess von entscheidender Bedeutung sind. |
| Wir haben ein paar Gespräche geführt und ich habe nur QR-Codes dazu. |
| Diese Technik wurde von Chris Gotwalt und Phil Ramsey entwickelt und sie haben die Technik in einigen früheren Vorträgen vorgestellt. Und das letzte |
| QR-Code war ein Add-In, das diese Validierungsspalte in älteren Versionen von JMP einrichtete. Ab JMP 16 können Sie dies nativ in der Software tun, aber wenn Sie JMP 15 haben, müssen Sie dieses Add-In-Setup verwenden. |
| Und wie Phil sagte, also ein |
| Einzelne Modelle passen möglicherweise nicht sehr gut zu den Daten, einige passen gut, andere haben keine Begriffe. |
| Aber das hier ist nur ein Spaziergang durch das Beispiel, in dem Sie jedes einzelne Modell sehen können. Bei einigen handelt es sich lediglich um einen Schnittpunkt, bei anderen ist die Passung ziemlich schlecht, und das eine oder andere Modell schneidet ziemlich gut ab. |
| Und das ist, wie Phil es beschrieben hat, jedes davon hat ein anderes neu berechnetes Gewicht. Wir bekommen also ein etwas anderes Modell und werden uns diese sparen. Das ist also der erste Schritt dorthin. |
| Und dann besteht der nächste Schritt darin, dass wir diese Modelle gemittelt haben. Und wie Sie sehen können, wird die Modellanpassung immer besser, je mehr Modelle Sie mitteln. Die einzelnen Modelle sind also nicht besonders gut, aber das Gesamtdurchschnittsmodell liefert uns eine gute Übereinstimmung. |
| Und der letzte Schritt, über den ich sprechen wollte, war, dass diese Modelle von Natur aus voreingenommen sind. Wie Sie beim ersten von Phil hergestellten Modell gesehen haben, gab es dort keine aktiven Effekte. So |
| Wenn Sie mit Ihrem Modell eine Modell- oder Variablenauswahltechnik anwenden, erhalten Sie gelegentlich ein Modell, in das diese bestimmte Variable nicht eingeht. |
| Wenn wir uns also diese Verteilungen ansehen, können Sie sehen |
| All dies sind aktive Effekte und sie haben eine Verteilung um 5, was der Effektgröße entspricht, aber sie haben auch diesen Balken hier unten, der 0 ist. |
| Wir werden den Effekt also nicht so oft überschätzen, wie wir 0 bekommen, um dies auszugleichen, also wird dieser auf einen niedrigeren Wert tendieren, also werden wir einen machen |
| kleiner Trick, um diese Modelle zu entzerren, wo wir |
| Behandeln Sie dieses Modell nur als Prädiktor in einem Modell der kleinsten Quadrate. Dadurch werden diese Verzerrungen beseitigt. Ich werde diesen Prozess durchgehen, um Ihnen zu zeigen, wie das geht. |
| Aber am Ende erhalten wir das sehr schöne Ergebnis, das ich mit einer sehr kleinen Anzahl von Läufen geteilt habe. Das ist also eine Art Motivation für die Verwendung von SVEM: die Fähigkeit, Vorhersagen zu treffen und ein anständiges Modell mit weniger Durchläufen zu erstellen, als dies ohne diese Technik möglich wäre. |
| Okay, also lasst uns hier zu JMP springen |
| Und |
| Gehen Sie diesen Prozess durch. |
| Okay, hier ist das DOE mit sechs Durchläufen des von mir gezeigten Beispiels, in dem wir unsere drei Faktoren und unsere Wachstumsrate haben. Und das geschieht, nachdem wir das Modell gebaut haben. |
| So sieht es aus und wir haben es durchgemacht und sind jetzt gelaufen. Wir haben also unsere sechs Läufe mit unseren sechs Ergebnissen. Unser nächster Schritt besteht darin, diese Validierungsspalte zu erstellen. Um dies innerhalb von JMP zu tun, analysieren wir einfach die Vorhersagemodellierung. |
| Erstellen Sie eine Validierungsspalte und erstellen Sie dann anstelle einer Validierungsspalte eine Tabelle für die automatische Validierung. |
| Okay, und so habe ich das gemacht. Ich habe das bereits durchgemacht und werde den Vorgang daher nicht noch einmal wiederholen. |
| Aber hier sind diese Daten mit ihren neu abgetasteten Daten und dieser umgekehrt korrelierten Gewichtung, wie Phil demonstriert hat. Sie haben ein hohes Gewicht gepaart mit einem geringen Gewicht des wiederholten Laufs. Nachdem wir das getan haben, gehen wir durch und erstellen unser Modell. |
| In diesem Fall habe ich ein GenReg-Modell verwendet und Sie möchten eine der Techniken zur Variablenauswahl auswählen. Wenn ich also damit weitermache, möchte ich so etwas wie ein Vorwärtsauswahl-Lasso machen |
| oder oder eine dieser Auswahltechniken. Und Trent wird detaillierter auf diese Auswahltechniken eingehen und darauf, welche sie untersucht haben. |
| Nachdem ich das Modell ausgeführt habe, sehen Sie, dass JMP einige aktive Effekte durchlaufen und ausgewählt hat. Es hat einige davon erwischt, aber Sie können es hier sehen |
| Diese Verzerrung, die wir sehen, wobei diese beiden Haupteffekte aktiv sein sollten, aber sie haben sich als 0 herausgestellt. Wenn ich das also in der Datentabelle speichere, |
| Ich erstelle eine neue Spalte, wie Phil es gezeigt hat, und berechne dann das Gewicht neu und mache es immer wieder. Und hier ist ein einfaches Skript, um dies 100 Mal zu tun, und |
| Wir teilen dies gerne mit Ihnen. Und das ist ganz einfach: Kopieren Sie einfach Ihr Skript, Ihr Modellskript, und fügen Sie es hier ein, um zu reproduzieren, was wir hier gemacht haben. |
| Okay, hier ist das Endergebnis, bei dem wir unser DOE und unsere Ergebnisse durchgegangen sind, und dann haben wir es getan |
| die 100 Modelle, die ich gespeichert habe |
| und hier versteckt. Und dann das endgültige Modell |
| ein Durchschnitt aller 100 dieser Modelle. Und der letzte Schritt, den wir machen wollen, ist dieser Entzerrungsschritt. Alles, was wir tun werden, ist, das zu behandeln |
| Durchschnittsmodell als Prädiktor für die Wachstumsrate. |
| Hier können Sie das Originalmodell sehen, das wir haben |
| hat eine viel steilere Steigung, also ein ordentliches R-Quadrat, aber es ist nicht so gut, wie wir es uns erhofft hatten. Ich meine, selbst bei sechs Läufen passen diese ... sechs Läufe ziemlich gut, aber |
| Wenn wir diese Voreingenommenheit beseitigen können, können wir es vielleicht etwas besser machen. Also wirklich einfache Einrichtung. Wir nehmen einfach die Wachstumsrate. Unsere Antwort ist unser Y. Wir fügen das hinzu |
| Ensemble-Modell hier, gemittelt aus all diesen |
| einzelne Modelle, als unser Prädiktor. Wir führen dies durch und erhalten ein Ergebnis, und Sie können sehen, dass es sich um eine viel bessere tatsächliche als vorhergesagte Handlung handelt. Und wenn wir dort einen Vergleich durchführen, können Sie sehen, dass die Beseitigung dieser Voreingenommenheit einen großen Effekt in die positive Richtung hat. |
| Richtig, und bevor ich es Trent zurückgebe, wollte ich noch eines zeigen |
| Folie hier, die im Grunde nur eine Zusammenfassung davon ist |
| das wir... (Ich habe dort meine Taskleiste verloren) ... wir empfehlen Ihnen dringend, sie zu verwenden |
| und schauen Sie sich diese Technik an, aber es ist keine magische Technik, die immer in jeder Situation funktioniert. Aber wenn Sie das bei Screening-Designs und ähnlichen Dingen überprüfen, könnte dies eine sehr schöne Technik sein, die das tut |
| Helfen Sie dabei, Dinge zu erreichen, die Sie mit Standardmodellierungstechniken möglicherweise nicht hätten erreichen können. Und damit werde ich es an Trent weitergeben, der es getan hat |
| ein bisschen mehr Details darüber, wie das gemacht wird und was |
| Informationen dort. Also, Trent, willst du es wegnehmen? |
| Trent Lemkus | Ja, danke, Peter. Ich weis das zu schätzen. |
| So |
| Ich teile meine |
| PDF. Ich möchte nur sicherstellen, dass es sich tatsächlich um ein Teilen handelt und jeder es sehen kann. |
| Peter Hersh | Ja. |
| Trent Lemkus | Okay, fantastisch. So |
| Als Phil und Peter vorstellten, stellten sie Fallstudien vor, die meiner Meinung nach phänomenale Anekdoten sind, die die Leistungsfähigkeit von SVEM zeigen und zeigen, wann und warum man SVEM verwenden sollte. |
| Was wir für unsere Forschungsarbeit getan haben, die sich derzeit im Peer-Review-Prozess befindet, ist, dass wir übermäßig viele Simulationsstudien durchgeführt haben, um zu zeigen ... um empirisch zu sehen, wie sich SVEM in einem prädiktiven Umfeld verhalten würde. So |
| Als Nächstes ... Ich habe eine Reihe von Folien, die ich zeigen werde. Ich weiß, dass es vielleicht etwas langweilig und trocken wirkt, aber ich denke, es ist unbedingt erforderlich, nur die Details zu besprechen |
| Bevor ich auf etwas Unterhaltsameres eingehe, das ein Beispiel dafür ist, wie wir ... |
| wie wir JMP, JSL verwendet haben und wie ich die Simulationen als Beispiel durchgeführt habe und um Ihnen zu zeigen, wie einige der Ausgaben sowie die Ergebnisse aussehen. |
| In erster Linie ging es also um die Gliederung und die Ziele unserer Simulationsstudien |
| Wir wollten eine reale Simulationsarchitektur schaffen. Deshalb wollten wir, dass unsere Simulationen das reale industrielle DOE so nah wie möglich nachahmen. |
| Und zweitens wollten wir sehen, wie moderne Modellbildungs- oder moderne Modellauswahltechniken sowie SVEM funktionieren, wenn sie sich hauptsächlich auf reine Vorhersagen konzentrieren. |
| schlicht und einfach. Wir wollten also sehen, wann wir ein Modell an ein Design anpassen, wie es eine Wahrheit oder einen zurückgehaltenen Datensatz vorhersagt, oder wie ich meinen Akzent entschuldige, Daten. |
| Und wenn wir diese einzigartigen Läufe so oft simulieren können, wie es rechnerisch möglich ist, wollen wir möglichst reale Schlussfolgerungen ziehen ... wir wollen ... reale Ergebnisse so nahe wie möglich ableiten, damit wir dürfen |
| Schreiben Sie Einstellungen vor und geben Sie an, wo und wie SVEM verwendet werden soll, da SVEM noch in den Kinderschuhen steckt. |
| Welche Designs haben wir also in erster Linie in unseren Simulationen verwendet? Wir haben definitive Screening-Designs verwendet |
| und wir verwendeten Box-Behnken-Designs, bei denen das zugrunde liegende echte Erzeugungsmodell in unseren Designs vollständig quadratische Modelle oder umgangssprachlich als Modelle zweiter Ordnung bekannt war. Und der Grund, warum wir diese Designs ausgewählt haben, ist, dass A) für die endgültigen Screening-Designs die |
| Je mehr Haupteffekte Sie haben, desto gesättigter und dann übersättigter werden die Modelle, was bedeutet, dass Sie umso weniger Freiheitsgrade haben, je höher die Haupteffekte werden. Bei Ihren Box-Behnken-Entwürfen mit den Haupteffekten, die wir verwendet haben, |
| Sie werden nicht auf dieses Szenario stoßen. Wir haben also ... wir haben eine Gegenüberstellung zwischen zwei Szenarien, wobei wir in einer Hand haben |
| Wir verfügen mit unseren Box-Behnken-Entwürfen über ausreichende Freiheitsgrade, um unsere Koeffizienten bei Anwendung einer Modellauswahltechnik zu schätzen, und im Fall des endgültigen Screening-Entwurfs haben wir fast diese Freiheitsgrade |
| In den meisten unserer Fälle hatten wir ein übersättigtes Design, sodass uns nicht genügend Freiheitsgrade zur Verfügung standen. Mit anderen Worten, einfach ausgedrückt: |
| Wir konnten nicht alle Auswirkungen abschätzen, wenn wir zeitgenössische Modellbautechniken verwenden, wie Ihre Vorwärtsauswahlen, wie Ihre Lassos, Ihre Dantzig-Selektoren und so weiter. |
| Dies führt uns zu den tatsächlichen Modellalgorithmen, die wir für unsere Simulationen verwendet haben. Denken Sie also bei den SVEM-Modellen daran, dass, wenn Sie... |
| Wenn Sie nicht genau wissen, was SVEM ist, ist es sehr wichtig, dass Sie sich einige der vorherigen Präsentationen ansehen, auf die sich Peter bezog. |
| Aber wir müssen SVEM mit einer zugrunde liegenden Modellbildungstechnik wie Vorwärtsauswahl, Pruned Forward und Lasso verwenden, die wir für unsere Simulationsstudien verwenden. |
| In unseren Nicht-SVEM-Modellfällen verwenden wir dieselben Modellbildungsalgorithmen, haben aber auch den Dantzig-Selektor integriert, der in der DOE recht beliebt ist. |
| sowie das passende definitive Screening-Design, das ausschließlich für das definitive Screening relevant ist; Es wird nicht für andere Designs verwendet. |
| Darüber hinaus verwenden wir ein Informationskriterium namens AICc oder korrigiertes AIC, das in der DOE sehr verbreitet ist und eigentlich für die Auswahl sehr sparsamer Modelle bekannt ist. |
| Wie Sie sehen, versuchen wir, zeitgenössische Techniken zu integrieren, die bei der Verwendung industrieller DOE sehr aktuell sind, und bleiben dabei beim Kern ... Kernpunkt, den ich in der ersten Folie gezeigt habe, nämlich |
| Wir wollen mit unseren Simulationsstudien die reale Welt so nah wie möglich nachahmen, damit wir diese empirischen Ergebnisse erzielen können. |
| So können wir empirisch beurteilen, wie diese verschiedenen Modellbildungsalgorithmen prädiktiv funktionieren. Und hoffentlich können wir zeigen, dass SVEM seine Konkurrenz empirisch übertrifft oder übertrifft. |
| Für die eigentliche Simulationsstruktur führten wir also 1.000 Simulationen für jeden Modellbildungsalgorithmus durch. Wenn wir beispielsweise ein Vorwärtsmodell mit AICc anpassen würden, |
| Bei jedem einzelnen dieser 1.000 Durchläufe würden wir ein echtes Modell, die Wahrheit, generieren und diesem dann Rauschen hinzufügen oder. |
| Gaußsches Rauschen (das in der Wissenschaft und in der Forschung sehr häufig vorkommt), |
| Dadurch wird, wenn Sie so wollen, ein Trainingssatz und ein Wahrheitssatz erstellt, sodass wir, sobald wir ein Modell angepasst haben, sehen können, wie dieses Modell im Vergleich zur Wahrheit vorhersagt. Und wir wiederholen und regenerieren diese Datensätze nach dem Zufallsprinzip 1.000 Mal. |
| Für den SVEM-Hyperparameter, auf den ich nicht näher eingehen werde, haben wir einen nBoot von 200 verwendet. Einfach ausgedrückt haben wir im Wesentlichen 200 Modelle angepasst und den Durchschnitt dieser Modelle gebildet, um unser endgültiges SVEM-Modell zu erhalten. |
| Die Designs wurden auch über mehrere Funktionen hinweg iteriert. Also die Anzahl der Haupteffekte |
| Für endgültige Screening-Designs hatten wir vier Haupteffekte und acht Haupteffekte. Für unsere Box-Behnken-Designs hatten wir |
| drei Haupteffekte und fünf Haupteffekte. Das bedeutet, um Ihnen nur ein Beispiel zu geben: Für unseren DSD gibt es beispielsweise acht Haupteffekte, bei denen K acht ist. Wenn Sie ein vollständig quadratisches Modell haben, |