Lautsprecher | Abschrift |
| Damien PERRET | Hallo willkommen und vielen Dank, dass Sie sich diese Präsentation für die Europe Discovery Summit-Konferenz online angesehen haben. |
| Mein Name ist Damien Perret. Ich bin F&E-Wissenschaftler bei CEA in Frankreich und zusammen mit meinem Kollegen und Freund Francois Bergeret, Statistiker und Gründer von Ippon Innovation in Frankreich. |
| Mein Name ist Damien Perret. Ich bin F&E-Wissenschaftler bei CEA in Frankreich und zusammen mit meinem Kollegen und Freund Francois Bergeret, Statistiker und Gründer von Ippon Innovation in Frankreich. |
| Francois, wir freuen uns sehr, heute hier zu sein, und wir möchten dem Lenkungsausschuss danken, der uns die Gelegenheit gegeben hat, diese Frage zu beantworten, bei der es um fortgeschrittene statistische Methoden geht, die mit JMP auf die Vorhersage der Glasviskosität angewendet werden. |
| Beginnen wir also mit ein paar Worten über die französische Kommission für alternative Energien und Atomenergie. CEA ist eine französische Regierungsorganisation für Forschung, Entwicklung und Innovation in vier Bereichen |
| Verteidigung und Sicherheit, kohlenstoffarme Energien, technologische Forschung und Grundlagenforschung. Die CEA zählt rund 20.000 Menschen an neun Standorten. |
| Wir haben starke Beziehungen zu Universitäten durch verschiedene gemeinsame Forschungseinheiten, eine große Anzahl von Patenten und Start-up-Gründungen mit einem Budget von rund 5 Milliarden Euro. |
| François Bergeret | Statistik und Data Science, einschließlich Studien, Beratung und Schulung. |
| Wir sind sehr stolz darauf, Komplementäre zu sein |
| seit mehreren Jahren. Ich freue mich auch sehr, heute mit meinem Freund Damien zu präsentieren. |
| Ippon schlägt auch fortschrittliche Lösungen für die Null-Fehler- und Prozesskontrolle vor. Ich persönlich bin seit 1995 JMP-Benutzer mit JMP 3. |
| Damien PERRET | Unser Hauptziel in dieser Arbeit ist es also, statistische Modelle zur Vorhersage der Glaseigenschaften zu erstellen, und für diesen Vortrag konzentrieren wir uns heute auf die Glasviskosität. |
| Dazu stammen experimentelle Daten sowohl aus kommerziellen Datenbanken als auch aus unserer eigenen Datenbank bei CEA. Wir wollten, dass Algorithmen in JSL codiert und in JMP Pro 15 implementiert werden. |
| Die Reaktion des Modells ist die interessierende Glaseigenschaft, also in diesem Beispiel die Viskosität, und die Faktoren sind die Gehalte der verschiedenen Glaskomponenten. |
| Deshalb hier ein paar Hintergrundinformationen. Glas ist ein nichtkristalliner Feststoff. Es wird durch schnelles Abschrecken einer Glasschmelze gewonnen, und aus stofflicher Sicht ist ein Glas eine Mischung, eine Mischung verschiedener Oxide. |
| Die Anzahl der Oxide ist also variabel, von zwei oder drei in einem sehr einfachen Glas bis zu etwa 30 und noch mehr in den komplexesten Zusammensetzungen. |
| Die Berechnung von Glaseigenschaften hat eine lange Tradition und wir gehen davon aus, dass die ersten Modelle Ende des 19. Jahrhunderts in Deutschland entstanden sind. |
| Seit damals, |
| Die Menge der veröffentlichten Literatur auf dem Gebiet der Vorhersage von Glaseigenschaften hat enorm zugenommen, so dass wir heute eine riesige Menge an Glasdaten in kommerziellen Datenbanken zur Verfügung haben, die auch zur Vorhersage angeboten und verwendet werden |
| Glas Eigenschaften. |
| Aber trotz aller Bemühungen, die in der Vergangenheit unternommen wurden, um die Glaseigenschaften vorherzusagen, bleiben Herausforderungen für die Vorhersage der Glasviskosität. |
| Und das, weil die Glasviskosität eine schwer vorhersagbare Eigenschaft ist. Zum einen ist die Viskosität stark abhängig von physikalischen Mechanismen, die je nach Glaszusammensetzung in der Glasschmelze auftreten können, wie beispielsweise Phasentrennung oder Kristallisation. Und auch |
| die Viskosität ist die einzige Eigenschaft mit einer so großen Schwankungsbreite bis zu gewissen Größenordnungen. |
| Hier ist also ein Beispiel, das diese Schwierigkeit zeigt. Wir haben drei Zusammensetzungen von SBN-Glas ausgewählt, das ein sehr einfaches Glas mit nur drei ??? ist. |
| Und wir haben die bekanntesten Modelle aus der Literatur verwendet, um die Viskosität zu berechnen. |
| Und dann vergleichen wir die vorhergesagten Werte mit dem experimentellen Wert, den wir mit unserem eigenen Gerät gemessen haben. Sie sehen also, dass es selbst für ein sehr einfaches Glas nicht einfach ist, einen zuverlässigen Wert für die vorhergesagte Viskosität zu erhalten. |
| Hier ist also ein Bild, ein gutes Bild, das wir gerne verwenden, um einen Überblick über die Datenbank zu geben, wo jeder Punkt ein Glas in einer multidimensionalen Ansicht des Bereichs der Kompositionen ist. Daher können Daten aus isolierten Studien stammen |
| oder wir können Daten aus Studien haben, die experimentelle Designs verwenden, oder wir können Daten haben |
| erhalten |
| mit der Bewertung einer Komponente nach der anderen. |
| Wir haben in der Vergangenheit viel Zeit darauf verwendet, verschiedene maschinelle Lerntechniken anzuwenden, indem wir den Teil der Daten verwendet haben, die in der gesamten Datenbank gefunden wurden. |
| Und ein klassischer Ansatz wurde für einen Validierungssatz verwendet, aber am Ende wurde kein statistisches Modell mit einer akzeptablen Vorhersagefähigkeit gefunden, um die Viskosität vorherzusagen. |
| Daher haben wir uns für einen anderen Ansatz entschieden. |
| Anstatt alle Daten zu verwenden, denken wir, dass es besser ist, ein Modell zu erstellen, indem wir Daten verwenden, die nahe an der Zusammensetzung liegen, wo wir die Viskosität vorhersagen möchten. Also zum Beispiel, wenn wir vorhersagen wollen |
| hier auf der |
| rote Punkte, ein Modell wird aus den Daten erstellt, die wir in diesem Bereich haben, und ein anderes Modell wird erstellt, wenn wir Vorhersagen treffen wollen |
| die Eigenschaft |
| auf einer anderen Komposition. Deshalb sagen wir, dass diese Technik dynamisch ist. Das liegt daran, dass das Modell von der Zusammensetzung abhängt. Es ist verwandt und angepasst, wo wir vorhersagen möchten. |
| Und wir sagen, es ist automatisch, weil wir dies nicht manuell tun müssen. Jeder Schritt wird von im Tool implementierten Algorithmen ausgeführt. |
| Einer der wichtigsten Punkte ist also sicherlich die Bestimmung der optimalen Teilmenge von Daten zur Erstellung des Modells. Dafür haben wir zwei Subsampling-Methoden implementiert. |
| Bei der ersten Methode wird also ein theoretisches oder virtuelles Design des Experiments generiert |
| um die Zusammensetzung von Interesse. Und dann wird jeder Lauf des Designs durch die ähnlichsten experimentellen Daten ersetzt, die in der Datenbank vorhanden sind, was zum endgültigen Trainingssatz führt. |
| Und die zweite Methode, die wir in das Tool implementiert haben, basiert auf Datensätzen unterschiedlicher Größe, die um die interessierende Zusammensetzung herum erstellt wurden. |
| Ein kleiner Datensatz wird vom Tool generiert und Modelle werden auf diesem kleinen Teilsatz erstellt, um die Viskosität vorherzusagen. Und dann werden immer größere Datensätze generiert, und die optimale Größe wird anhand statistischer Kriterien bewertet, die jeder Teilmenge zugeordnet sind. |
| François Bergeret | Die Glasviskosität ist nicht leicht vorherzusagen, daher haben wir uns entschieden, verschiedene Statistiken und Methoden des maschinellen Lernens zu verwenden. |
| Polynom ??? Modelle mit Transformation, verallgemeinerte Regression unter Verwendung einer Lognormalverteilung. Diese Methode ist mit JMP Pro sehr leistungsfähig und kann bessere Ergebnisse liefern als die ??? Modelle mit Transformation. |
| Wir verwenden auch neuronale Netze, die in Bezug auf die Vorhersage sehr leistungsfähig sind. Da wir, wie bereits erwähnt, zwei Datensätze haben, haben wir sechs Vorhersagen für jede Antwort. |
| Die nächste Folie ist ein Schema, eine Ansicht des Werkzeugs. |
| Eingaben sind die Zusammensetzung des Glases und die Temperatur, bei der die Viskosität vorhergesagt werden muss. |
| Wenn wir uns hier ansehen, wurden der Code und der Algorithmus für die beiden zuvor beschriebenen Methoden implementiert. |
| Die Stärke des Tools besteht darin, dass nicht nur eine Vorhersage, sondern sechs Werte mit einem statistischen Kriterium berechnet werden, die allen Daten zugeordnet sind, die vom Benutzer ausgewertet werden können. |
| Damien PERRET | Hier sind also einige der wichtigsten Parameter. Es ist sehr wichtig, möglichst viele Inputs der Glasexperten zu berücksichtigen. |
| Zum Beispiel mussten wir spezielle Algorithmen entwickeln, um in die Natur und die Rolle von Oxiden bei der Viskosität einzudringen. |
| Ein weiterer wichtiger Punkt betrifft die Herkunft und damit die Verlässlichkeit der Daten. Dafür wurde viel Zeit in dieses Projekt investiert |
| zum Aufbau einer zuverlässigen Datenbank. Also mussten wir Gewichte implementieren und wir mussten verschiedene Methoden zur Berechnung des Abstands untersuchen … die Abstände zwischen den Glaszusammensetzungen. |
| Also jetzt ist es soweit.... |
| François Bergeret | Okay, ich werde jetzt den Bildschirm zeigen. |
| Um Ihnen eine Demo zu zeigen |
| des Codes, also sollten Sie jetzt meinen Bildschirm sehen. |
| Und ich führe nur den Code aus, also ist es ein komplexes JSL-Programm. Wir haben es mehrere Monate lang mit CEA entwickelt. |
| Also habe ich gerade den Code ausgeführt und jetzt werde ich ihn Ihnen zeigen. |
| Discovery ... also öffne ich hier Dateien für den Code. |
| Und es läuft, okay. Der Code wird ausgeführt, also werde ich ein wenig kommentieren. |
| Wir haben mehrere Schleifen in diesem Code. Der erste Schritt besteht natürlich darin, die Daten und die Funktionen zu identifizieren. Und danach haben wir eine Schleife, zuallererst haben wir das, was wir die adaptive Iteration nennen, und den Grund für die Datenbank. |
| So und |
| Da es, wie von Damien erwähnt, adaptiv ist, suchen Sie nach der besten Teilmenge von Daten. Und wir haben hier auch den Design-of-Experiment-Ansatz, bei dem wir durch Optimierung des Designs die richtigen Daten erhalten. |
| Danach, und es läuft tatsächlich, sagen wir die Glasübergangstemperatur voraus. Okay, und wir haben, wie ich bereits erwähnt habe, drei Modelle und für jedes Modell haben wir zwei Datenbanken, also haben wir insgesamt sechs Vorhersagen. |
| Wie Sie sehen, ist die Ausführung ein bisschen lang, aber sie dauert etwa eine Minute, und wenn sie fertig ist, haben wir alle Ausgaben der Programme für die Glasübergangstemperatur und natürlich die Viskosität . |
| Die Verwendung von JSL war sehr, sehr nützlich und darüber hinaus ist es, wie Sie bei Damien sehen werden, in Bezug auf die Benutzer sehr einfach zu verwenden und zu handhaben |
| für die Experten zu verwenden. Also Damien, du kannst reden und mein Teilen stoppen. |
| Damien PERRET | Okay, also. |
| Nur einer. |
| Kannst du jetzt meinen Bildschirm sehen? |
| Ja, okay, also. |
| Okay, das ist also ein allgemeiner statistischer Bericht, der vom Tool erstellt wurde. Also zuerst haben wir die interessierende Zusammensetzung des Glases. |
| Und dann |
| wir haben |
| in diesem Diagramm die vorhergesagten Werte. Also auf der Y-Achse, |
| wir haben die vorhergesagten Werte der Viskosität, die durch die drei Algorithmen und für die zwei Verfahren berechnet wurden. Und auf der X-Achse haben wir die Nummer der Vergrößerung für die zweite Methode. |
| Und in Rot haben wir den Median der Vorhersagen, was für einen Nicht-Statistiker-Benutzer ausreichend sein kann, aber wenn wir die statistischen Details untersuchen möchten, haben wir in diesem Bericht viele Informationen, um die Qualität jeder einzelnen zu untersuchen |
| jedes Modell. Zum Beispiel, |
| Wir können die Werte überprüfen |
| der PRESSEN oder des anderen Modells. Hier ist für das multilineare Regressions-BIC-F-Modell. |
| Hier sehen wir also, dass die PRESS-Werte uns sagen, dass die Vorhersage mit Methode Nummer eins etwas besser ist als mit der zweiten Methode, und wir sehen auch die Modellauflösung mit der Erweiterung des Trainingssatzes an. |
| Wir haben auch |
| verschiedene statistische Werte. Zum Beispiel haben wir den R-Quadrat-Wert für die verschiedenen Algorithmen und für die verschiedenen Modelle. |
| Und hier haben wir noch mehr Details zum Modell. |
| Zum Beispiel können wir für die erste Methode das theoretische und das tatsächliche Versuchsdesign vergleichen. Wir haben die vorhergesagte... |
| Vorhersageformel für die unterschiedlichen ... für die unterschiedlichen Modelle. Außerdem haben wir einige Informationen über die ... über die Schätzungen, und wir haben auch viele Informationen über die ... für die zweite Methode. Am Ende haben wir also eine Menge Statistik |
| Details und Informationen, die für den Benutzer sehr, sehr nützlich sind. Und hier, |
| Am Ende haben wir die Zusammensetzung der meisten ??? von Glas in der Datenbank, für die wir einen experimentellen Wert der Viskosität haben, also ist das auch sehr, sehr nützlich. |
| Okay, also |
| Kommen wir zurück zu PowerPoint. |
| Okay, das sind also die Ergebnisse, die wir erhalten. Der |
| Zwei Vorhersagefähigkeiten wurden durch Extrahieren von 230 Zeilen bewertet, die eine globale Datenbank bilden. Und in dieser Tabelle haben wir den relativen Fehler der Vorhersage ... von |
| die Viskositätsvorhersage |
| für verschiedene Glasarten und für die globale Teilmenge von Daten. Als Median werden drei Quantile angegeben, was bedeutet, dass 50 % der vorhergesagten Werte einen relativen Fehler haben, der unter dem in der Tabelle angegebenen Wert liegt. |
| Und wir haben auch die 75- und 90-%-Quantile in dieser Tabelle. Wenn wir also über die Glasviskosität sprechen, halten wir traditionell einen vorhergesagten Fehler von etwa 70 % für sehr gut. Das können wir also für den Großteil der Daten sehen |
| die Modellfähigkeit ist in Ordnung und wir waren mit den dort erzielten Ergebnissen sehr zufrieden. |
| Als Vergleich, |
| hier sind nochmal |
| die Ergebnisse, die wir für das sehr einfache Glas, SBN-Glas, mit nur drei Oxiden erhalten haben, als wir die in der Literatur verfügbaren Modelle angewendet haben. Wir können also sehen, dass die Werte ... Werte für den relativen Vorhersagefehler viel höher waren und von einem Modell zum anderen stark variieren können. |
| Und wieder war dies für sehr einfaches Glas mit nur drei Oxiden. |
| Und in manchen Fällen haben wir Fehler, die wichtiger sind, |
| aber wenn wir uns diese Daten im Detail ansehen, so hier in dieser Grafik, haben wir |
| Die ??? Werte an |
| x-Achse und experimentellen Werten auf der y-Achse sehen wir, dass dieser größte Vorhersagefehler für diese beiden Gläser erhalten wird |
| stammt aus der kommerziellen Datenbank SciGlass von ... der gleichen Referenz, die ein Patent ist und für die der experimentelle Fehler der Ausrüstung nicht erwähnt wird. |
| Und auch bei all diesen Zusammensetzungen mit hohem Aluminiumgehalt denken wir, dass eine Kristallisation sehr wahrscheinlich auftritt, und dann können wir nicht ganz sicher sein, dass die experimentellen Werte korrekt waren. |
| Und schließlich haben wir unsere Methodik angewendet, um eine weitere Glaseigenschaft vorherzusagen, die Glasübergangstemperatur, die eine wichtige Eigenschaft in der Glastechnologie ist. |
| Hier sind die Ergebnisse, die wir erhalten haben, die noch besser sind als bei der Viskosität. Und hier liegt der relative Vorhersagefehler insgesamt unter 5 %, was wirklich gut ist, weil wir diese Eigenschaft kennen |
| kann stark variieren, je nach thermischer Vorgeschichte des Glases und je nach Versuchsgerät. Hier sind also die beiden Fähigkeiten, sehr nah am experimentellen Fehler, was sehr schön ist. |
| François Bergeret | Okay, als Fazit ist ein wichtiges Merkmal unseres Ansatzes ein dynamisches Subsampling der globalen Datenbank. Wir adressieren die richtigen Informationen rund um die Interessenzusammenstellung. |
| Darüber hinaus haben wir mit JSL und JMP Pro die maschinellen Lernmodelle automatisiert, die allgemeine Regression und neuronale Netze sind sehr leistungsfähig. |
| Laut dem CEA-Experten ist die Genauigkeit gut und zeigt einige unerwartete Probleme. Wir planen nun, die Modelle auf eine größere Datenbank zu erweitern und auch mit Bradley Jones zusammenzuarbeiten und vielleicht eine gemeinsame Publikation zu schreiben. Danke schön. |
