| Lautsprecher |
Transkript |
| Damien PERRET |
Hallo und herzlich willkommen, und vielen Dank, dass Sie sich diese Präsentation der Europe Discovery Summit Konferenz online ansehen. |
| |
Mein Name ist Damien Perret. Ich bin Forschungs- und Entwicklungswissenschaftler bei CEA in Frankreich und arbeite zusammen mit meinem Kollegen und Freund Francois Bergeret, Statistiker und Gründer von Ippon Innovation in Frankreich. |
| |
Mein Name ist Damien Perret. Ich bin Forschungs- und Entwicklungswissenschaftler bei CEA in Frankreich und arbeite zusammen mit meinem Kollegen und Freund Francois Bergeret, Statistiker und Gründer von Ippon Innovation in Frankreich. |
| |
Wir freuen uns sehr, heute hier mit Francois zusammen zu sein, und möchten uns beim Lenkungsausschuss bedanken, der uns die Möglichkeit gegeben hat, dieses Thema zu behandeln, bei dem es um fortgeschrittene statistische Methoden geht, die zur Vorhersage der Glasviskosität mit JMP angewendet werden. |
| |
Beginnen wir also mit ein paar Worten zur französischen Kommission für alternative Energien und Atomenergie (CEA). Die CEA ist eine französische Regierungsorganisation für Forschung, Entwicklung und Innovation in vier Bereichen. |
| |
Verteidigung und Sicherheit, kohlenstoffarme Energien, technologische Forschung und Grundlagenforschung. Das CEA zählt rund 20.000 Mitarbeiter an neun Standorten. |
| |
Wir pflegen enge Beziehungen zu Universitäten durch verschiedene gemeinsame Forschungseinheiten, eine hohe Anzahl von Patenten und die Gründung von Start-ups und verfügen über ein Budget von rund 5 Milliarden Euro. |
| François Bergeret |
Statistik und Datenwissenschaft, einschließlich Studien, Beratung und Schulung. |
| |
Wir sind sehr stolz darauf, Komplementäre zu sein. |
| |
seit mehreren Jahren. Ich freue mich sehr, heute mit meinem Freund Damien aufzutreten. |
| |
Ippon bietet außerdem fortschrittliche Lösungen für Null-Fehler-Produktion und Prozesssteuerung an. Ich selbst nutze JMP seit 1995, und zwar mit JMP 3. |
| Damien PERRET |
Unser Hauptziel bei dieser Arbeit ist es also, statistische Modelle zur Vorhersage der Glaseigenschaften zu erstellen, und in diesem Vortrag konzentrieren wir uns auf die Glasviskosität. |
| |
Dazu stammen die experimentellen Daten sowohl aus kommerziellen Datenbanken als auch aus unserer eigenen Datenbank am CEA. Wir wollten, dass die Algorithmen in JSL codiert und in JMP Pro 15 implementiert werden. |
| |
Die Zielgröße des Modells ist die interessierende Glaseigenschaft, in diesem Beispiel also die Viskosität, und die Faktoren sind die Gehalte der verschiedenen Glaskomponenten. |
| |
Hier also einige Hintergrundinformationen. Glas ist ein nichtkristalliner Feststoff. Es entsteht durch schnelles Abschrecken einer Glasschmelze und ist, aus materialwissenschaftlicher Sicht, ein Gemisch verschiedener Oxide. |
| |
Die Anzahl der Oxide ist also variabel, von zwei oder drei in einem sehr einfachen Glas bis zu etwa 30 und sogar noch mehr in den komplexesten Zusammensetzungen. |
| |
Die Berechnung von Glaseigenschaften hat eine lange Tradition, und wir glauben, dass die ersten Modelle Ende des 19. Jahrhunderts in Deutschland entwickelt wurden. |
| |
Seitdem, |
| |
Die Menge an veröffentlichter Literatur auf dem Gebiet der Vorhersage von Glaseigenschaften hat enorm zugenommen, sodass heute eine riesige Menge an Glasdaten in kommerziellen Datenbanken verfügbar ist, die auch zur Vorhersage angeboten und verwendet werden. |
| |
Glaseigenschaften. |
| |
Doch trotz aller Bemühungen, die in der Vergangenheit unternommen wurden, um die Eigenschaften von Glas vorherzusagen, bleibt die Vorhersage der Glasviskosität eine Herausforderung. |
| |
Und zwar deshalb, weil die Viskosität von Glas eine schwer vorhersagbare Eigenschaft ist. Erstens hängt die Viskosität stark von physikalischen Mechanismen ab, die in der Glasschmelze je nach Glaszusammensetzung auftreten können, wie beispielsweise Phasentrennung oder Kristallisation. Und auch |
| |
Die Viskosität ist die einzige Eigenschaft, die einen so großen Variationsbereich von bis zu bestimmten Größenordnungen aufweist. |
| |
Hier ist ein Beispiel, das diese Schwierigkeit verdeutlicht. Wir haben drei Zusammensetzungen von SBN-Glas ausgewählt, einem sehr einfachen Glas mit nur drei ???. |
| |
Zur Berechnung der Viskosität haben wir die besten bekannten Modelle aus der Literatur angewendet. |
| |
Anschließend vergleichen wir die vorhergesagten Werte mit den experimentellen Werten, die wir mit unserem eigenen Gerät gemessen haben. Man sieht also, dass es selbst bei einem sehr einfachen Glas nicht leicht ist, einen verlässlichen Wert für die vorhergesagte Viskosität zu erhalten. |
| |
Hier ist ein Bild, ein gutes Bild, das wir gerne verwenden, um einen Überblick über die Datenbank zu geben. Jeder Punkt repräsentiert ein Glas in einer mehrdimensionalen Darstellung des Zusammensetzungsbereichs. Die Daten können also aus Einzelstudien stammen. |
| |
Oder wir können Daten aus Studien mit experimentellen Designs haben, oder wir können Daten haben |
| |
erhalten |
| |
mit der Bewertung jeweils einer Komponente. |
| |
Wir haben in der Vergangenheit viel Zeit damit verbracht, verschiedene Techniken des maschinellen Lernens anzuwenden, indem wir den Teil der Daten nutzten, der in der gesamten Datenbank enthalten war. |
| |
Es wurde ein klassischer Ansatz an einem Validierungsdatensatz angewendet, aber am Ende konnte kein statistisches Modell mit akzeptabler Vorhersagefähigkeit zur Vorhersage der Viskosität gefunden werden. |
| |
Deshalb haben wir uns für einen anderen Ansatz entschieden. |
| |
Anstatt also alle Daten zu verwenden, halten wir es für besser, ein Modell anhand von Daten zu erstellen, die der Zusammensetzung nahekommen, für die wir die Viskosität vorhersagen möchten. Wenn wir beispielsweise vorhersagen wollen |
| |
hier auf der |
| |
rote Punkte: Aus den Daten in diesem Bereich wird ein Modell erstellt, und ein anderes Modell wird erstellt, wenn wir Vorhersagen treffen wollen. |
| |
das Anwesen |
| |
bei einer anderen Zusammensetzung. Deshalb bezeichnen wir diese Technik als dynamisch. Denn das Modell hängt von der Zusammensetzung ab. Es wird entsprechend angepasst, um Vorhersagen zu treffen. |
| |
Wir sagen, es läuft automatisch ab, weil wir das nicht manuell machen müssen. Jeder Schritt wird von im Tool implementierten Algorithmen ausgeführt. |
| |
Ein besonders wichtiger Punkt ist daher die Bestimmung der optimalen Datenteilmenge zur Erstellung des Modells. Hierfür haben wir zwei Subsampling-Methoden implementiert. |
| |
Bei der ersten Methode wird also ein theoretischer oder virtueller Versuchsplan erstellt. |
| |
um die gewünschte Zusammensetzung herum. Anschließend wird jeder Durchlauf des Versuchsdesigns durch die ähnlichsten experimentellen Daten aus der Datenbank ersetzt, wodurch der endgültige Trainingsdatensatz entsteht. |
| |
Die zweite Methode, die wir in dem Tool implementiert haben, basiert auf Datensätzen unterschiedlicher Größe, die um die Zusammensetzung von Interesse herum erstellt wurden. |
| |
Das Tool generiert zunächst einen kleinen Datensatz, auf dessen Grundlage Modelle zur Viskositätsvorhersage erstellt werden. Anschließend werden immer größere Datensätze generiert und die optimale Größe anhand statistischer Kriterien für jeden Datensatz ermittelt. |
| François Bergeret |
Da die Viskosität von Glas nicht einfach vorherzusagen ist, haben wir uns entschieden, verschiedene statistische Methoden und maschinelles Lernen anzuwenden. |
| |
Polynomische Modelle mit Transformation, verallgemeinerte Regression unter Verwendung einer Lognormalverteilung. Diese Methode ist in JMP Pro sehr leistungsfähig und kann bessere Ergebnisse liefern als die Modelle mit Transformation. |
| |
Wir verwenden außerdem neuronale Netze, die hinsichtlich Vorhersagen sehr leistungsstark sind. Da wir, wie bereits erwähnt, zwei Datensätze haben, erhalten wir sechs Vorhersagen für jede Zielgröße. |
| |
Die nächste Folie zeigt eine schematische Darstellung des Werkzeugs. |
| |
Als Eingangsgrößen dienen die Zusammensetzung des Glases und die Temperatur, bei der die Viskosität vorhergesagt werden soll. |
| |
Wenn wir uns das hier ansehen, sehen wir, dass der Code und der Algorithmus für die beiden Methoden, die wir eben beschrieben haben, implementiert wurden. |
| |
Die Stärke des Tools liegt darin, dass anstatt nur eine Vorhersage zu erhalten, sechs Werte anhand statistischer Kriterien berechnet werden, die mit allen vom Benutzer auswertbaren Daten verknüpft sind. |
| Damien PERRET |
Hier sind also einige der wichtigsten Parameter. Es ist sehr wichtig, möglichst viele Beiträge von Glasexperten zu berücksichtigen. |
| |
Zum Beispiel mussten wir spezielle Algorithmen entwickeln, um die Natur und die Rolle von Oxiden bei der Viskosität zu berücksichtigen. |
| |
Ein weiterer wichtiger Punkt betrifft den Ursprung und damit die Zuverlässigkeit der Daten. Dafür wurde in diesem Projekt viel Zeit aufgewendet. |
| |
zur Erstellung einer zuverlässigen Datenbank. Daher mussten wir Gewichtungen implementieren und verschiedene Methoden zur Berechnung der Distanz untersuchen... der Distanzen zwischen den Glaszusammensetzungen. |
| |
Nun ist es soweit.... |
| François Bergeret |
Okay, ich zeige jetzt den Bildschirm. |
| |
Um Ihnen eine Demo zu zeigen |
| |
des Codes, sodass Sie jetzt meinen Bildschirm sehen sollten. |
| |
Ich führe lediglich den Code aus, es handelt sich also um ein komplexes JSL-Programm. Wir haben es mehrere Monate lang mit CEA entwickelt. |
| |
Ich habe den Code also gerade ausgeführt und werde ihn euch jetzt zeigen. |
| |
Entdeckung...also öffne ich hier die Dateien, um den Code zu erhalten. |
| |
Und es läuft, okay. Der Code wird ausgeführt, also werde ich ein paar Kommentare abgeben. |
| |
Dieser Code enthält mehrere Schleifen. Zunächst müssen die Daten und Funktionen identifiziert werden. Danach folgt eine Schleife, genauer gesagt die sogenannte adaptive Iteration, die den Datenbankzugriff ermöglicht. |
| |
Also und |
| |
Da es adaptiv ist, wie Damien bereits erwähnte, sucht man nach der besten Teilmenge der Daten. Und wir haben hier auch den Ansatz der Versuchsplanung, bei dem wir durch Optimierung des Designs die richtigen Daten erhalten. |
| |
Danach – und das Programm läuft tatsächlich – sagen wir die Glasübergangstemperatur voraus. Okay, und wir haben, wie bereits erwähnt, drei Modelle, und für jedes Modell haben wir zwei Datenbanken, sodass wir insgesamt sechs Vorhersagen erhalten. |
| |
Wie Sie sehen, dauert die Ausführung etwas länger, aber sie dauert ungefähr eine Minute, und wenn sie abgeschlossen ist, verfügen wir über alle Ausgabewerte der Programme für die Glasübergangstemperatur und natürlich die Viskosität. |
| |
Die Verwendung von JSL hat sich als sehr, sehr nützlich erwiesen und ist zudem, wie Sie am Beispiel von Damien sehen werden, sehr benutzerfreundlich. |
| |
Für Experten bestimmt. Also Damien, du kannst reden und mein Weiterverbreiten beenden. |
| Damien PERRET |
Okay, also. |
| |
Nur einer. |
| |
Können Sie meinen Bildschirm jetzt sehen? |
| |
Ja, okay, also. |
| |
Okay, dies ist also ein allgemeiner statistischer Bericht, der vom Tool erstellt wurde. Zunächst haben wir die relevante Zusammensetzung des Glases. |
| |
Und dann |
| |
Wir haben |
| |
In diesem Diagramm sind die vorhergesagten Werte dargestellt. Auf der Y-Achse also: |
| |
Wir haben die von den drei Algorithmen und den beiden Methoden berechneten Viskositätswerte. Auf der X-Achse ist der Vergrößerungswert für die zweite Methode abgetragen. |
| |
In Rot ist der Median der Vorhersagen dargestellt, der für Laien ausreichend sein kann. Wer jedoch die statistischen Details untersuchen möchte, findet in diesem Bericht zahlreiche Informationen zur Qualitätsanalyse der einzelnen Vorhersagen. |
| |
jedes Modell. Zum Beispiel |
| |
Wir können die Werte überprüfen. |
| |
des PRESSS-Modells oder eines anderen Modells. Hier ist das BIC-F-Modell für die multilineare Regression. |
| |
Hier sehen wir also, dass die PRESS-Werte uns sagen, dass die Vorhersage mit Methode Nummer eins etwas besser ist als mit Methode Nummer zwei, und wir sehen auch die Modellliquidation bei der Vergrößerung des Trainingsdatensatzes. |
| |
Wir haben auch |
| |
verschiedene statistische Kennzahlen. Zum Beispiel haben wir den R²-Wert für die verschiedenen Algorithmen und Modelle. |
| |
Und hier haben wir noch weitere Details zum Modell. |
| |
Beispielsweise können wir beim ersten Verfahren den theoretischen und den tatsächlichen Versuchsaufbau vergleichen. Wir haben die vorhergesagten... |
| |
Vorhersageformeln für die verschiedenen Modelle. Wir verfügen außerdem über Informationen zu den Schätzungen und über viele Informationen zur zweiten Methode. Insgesamt haben wir also eine Menge statistischer Daten. |
| |
Details und Informationen, die für den Nutzer sehr, sehr nützlich sind. Und hier, |
| |
Am Ende haben wir die Zusammensetzung des meisten ??? Glases in der Datenbank, für das wir einen experimentellen Wert der Viskosität haben, was also auch sehr, sehr nützlich ist. |
| |
Okay, also |
| |
Kehren wir zur PowerPoint-Präsentation zurück. |
| |
Okay, das sind also die Ergebnisse, die wir erhalten. |
| |
Die Vorhersagefähigkeit wurde anhand von 230 Zeilen aus einer globalen Datenbank bewertet. In dieser Tabelle ist der relative Vorhersagefehler angegeben. |
| |
die Viskositätsvorhersage |
| |
Dies gilt für verschiedene Glasarten und für die gesamte Datenmenge. Drei Quantile werden als Median angegeben, was bedeutet, dass 50 % der vorhergesagten Werte einen relativen Fehler aufweisen, der unter dem in der Tabelle angegebenen Wert liegt. |
| |
Wir haben in dieser Tabelle auch die 75- und 90-Prozent-Quantile. Wenn wir über die Viskosität von Glas sprechen, betrachten wir üblicherweise einen Vorhersagefehler von etwa 70 % als sehr gut. Das lässt sich für den Großteil der Daten feststellen. |
| |
Die Modellleistung ist gut und wir waren mit den dort erzielten Ergebnissen sehr zufrieden. |
| |
Zum Vergleich: |
| |
Hier sind sie wieder |
| |
Die Ergebnisse, die wir für das sehr einfache SBN-Glas mit nur drei Oxiden erzielten, als wir die in der Literatur verfügbaren Modelle anwendeten, zeigen, dass die Werte für den relativen Vorhersagefehler deutlich höher waren und von Modell zu Modell stark variieren konnten. |
| |
Und noch einmal: Dies bezog sich auf ein sehr einfaches Glas mit nur drei Oxiden. |
| |
Und in einigen Fällen treten Fehler auf, die wichtiger sind. |
| |
Aber wenn wir uns diese Daten genauer ansehen, also hier in dieser Grafik, haben wir |
| |
die ??? Werte auf |
| |
Anhand der x-Achse und der experimentellen Werte auf der y-Achse erkennen wir, dass der größte Vorhersagefehler bei diesen beiden Gläsern auftritt. |
| |
aus der kommerziellen Datenbank SciGlass von ... der gleichen Referenz, die ein Patent ist und für die der experimentelle Fehler der Ausrüstung nicht erwähnt wird. |
| |
Und auch bei all diesen Zusammensetzungen mit hohem Aluminiumgehalt gehen wir davon aus, dass eine Kristallisation sehr wahrscheinlich ist, und dann können wir nicht mehr mit absoluter Sicherheit sagen, ob die experimentellen Werte korrekt waren. |
| |
Und schließlich haben wir unsere Methodik angewendet, um eine weitere Glaseigenschaft vorherzusagen, nämlich die Glasübergangstemperatur, die eine wichtige Eigenschaft in der Glastechnologie darstellt. |
| |
Hier sind die Ergebnisse, die wir erzielt haben und die sogar noch besser sind als bei der Viskosität. Der relative Gesamtfehler der Vorhersage liegt also unter 5 %, was wirklich gut ist, denn wir wissen, dass diese Eigenschaft |
| |
Die Werte können stark variieren, abhängig von der thermischen Vorgeschichte des Glases und der verwendeten Versuchsanordnung. Die hier angegebenen Werte liegen sehr nahe an der experimentellen Fehlergrenze, was sehr erfreulich ist. |
| François Bergeret |
Zusammenfassend lässt sich sagen, dass ein wichtiges Merkmal unseres Ansatzes die dynamische Stichprobenziehung aus der globalen Datenbank ist. Wir berücksichtigen dabei die relevanten Informationen zur Zusammensetzung der Daten. |
| |
Darüber hinaus haben wir mithilfe von JSL und JMP Pro die Modelle des maschinellen Lernens automatisiert; allgemeine Regression und neuronale Netze sind sehr leistungsfähig. |
| |
Laut dem CEA-Experten ist die Genauigkeit gut und deckt einige unerwartete Probleme auf. Wir planen nun, die Modelle auf einer größeren Datenbank zu erweitern und mit Bradley Jones zusammenzuarbeiten, um möglicherweise eine gemeinsame Publikation zu verfassen. Vielen Dank. |