Conférencier | Transcription |
| Damien PERRET | Bonjour, bienvenue et merci d'avoir regardé cette présentation de la conférence Europe Discovery Summit en ligne. |
| Je m'appelle Damien Perret. Je suis chercheur R&D au CEA en France, et je suis avec mon collègue et ami François Bergeret, statisticien et fondateur d'Ippon Innovation en France. |
| Je m'appelle Damien Perret. Je suis chercheur R&D au CEA en France, et je suis avec mon collègue et ami François Bergeret, statisticien et fondateur d'Ippon Innovation en France. |
| Donc, avec François, nous sommes très heureux d'être ici aujourd'hui, et nous tenons à remercier le comité de pilotage qui nous a donné l'opportunité de parler de celui-ci, qui concerne les méthodes statistiques avancées appliquées à la prédiction de la viscosité du verre avec JMP. |
| Commençons donc par quelques mots sur la Commission française des énergies alternatives et de l'énergie atomique. Le CEA est un organisme gouvernemental français de recherche, développement et innovation dans quatre domaines |
| défense et sécurité, énergies bas carbone, recherche technologique et recherche fondamentale. Le CEA compte environ 20 000 personnes sur neuf sites. |
| Nous entretenons des relations étroites avec les universités à travers diverses unités mixtes de recherche, un nombre élevé de brevets et la création de start-up, avec un budget d'environ 5 milliards d'euros. |
| François Bergeret | les statistiques et la science des données, y compris les études, le conseil et la formation. |
| Nous sommes très fiers d'être partenaires généraux |
| depuis plusieurs années. Je suis également très heureux de présenter aujourd'hui avec mon ami Damien. |
| Ippon propose également des solutions avancées de contrôle zéro défaut et de processus. Je suis personnellement un utilisateur JMP depuis 1995 avec JMP 3. |
| Damien PERRET | Notre objectif principal dans ce travail est donc de créer des modèles statistiques pour prédire les propriétés du verre, et pour cet exposé d'aujourd'hui, nous nous concentrons sur la viscosité du verre. |
| Pour ce faire, les données expérimentales proviennent à la fois de la base de données commerciale et de notre propre base de données au CEA. Nous voulions que les algorithmes soient codés en JSL et implémentés dans JMP Pro 15. |
| La réponse du modèle est la propriété du verre d'intérêt, donc la viscosité pour cet exemple, et les facteurs sont le contenu des différents composants du verre. |
| Alors, voici quelques informations générales. Le verre est un solide non cristallin. Il est obtenu par une trempe rapide d'un verre fondu, et d'un point de vue matériel, un verre est un mélange, un mélange de différents oxydes. |
| Le nombre d'oxydes est donc variable, de deux ou trois dans un verre très simple à environ 30 et même plus dans les compositions les plus complexes. |
| Il existe une longue tradition dans le calcul des propriétés du verre et nous pensons que les premiers modèles ont été créés en Allemagne à la fin du 19ème siècle. |
| Depuis, |
| la quantité de littérature publiée dans le domaine de la prédiction des propriétés du verre a considérablement augmenté, de sorte qu'aujourd'hui nous avons une énorme quantité de données sur le verre disponibles dans une base de données commerciale, qui a également offert et utilisé pour prédire le |
| propriétés du verre. |
| Mais malgré tous les efforts qui ont été faits dans le passé pour prédire les propriétés du verre, des défis demeurent pour la prédiction de la viscosité du verre. |
| Et ce, car la viscosité du verre est une propriété difficile à prévoir. Premièrement, la viscosité est très dépendante des mécanismes physiques qui peuvent se produire dans le verre fondu, en fonction de la composition du verre, comme la séparation de phases ou la cristallisation, par exemple. Et aussi |
| la viscosité est la seule propriété ayant une plage de variation aussi importante jusqu'à certains ordres de grandeur. |
| Voici donc un exemple qui montre cette difficulté. Nous avons sélectionné trois compositions de verre SBN, qui est un verre très simple, avec seulement trois ???. |
| Et nous avons appliqué les modèles les plus connus de la littérature pour calculer la viscosité. |
| Et puis nous comparons les valeurs prédites avec la valeur expérimentale que nous avons mesurée avec notre propre appareil. Ainsi, vous pouvez voir que même pour un verre très simple, il n'est pas facile d'obtenir une valeur fiable pour la viscosité prévue. |
| Voici donc une image, une bonne image que nous aimons utiliser pour donner une vue de la base de données, où chaque point est un verre dans une vue multidimensionnelle du domaine des compositions. Donc une donnée peut provenir d'études isolées |
| ou nous pouvons avoir des données provenant d'études utilisant des conceptions expérimentales ou nous pouvons avoir des données |
| obtenu |
| avec l'évaluation d'un composant à la fois. |
| Nous avons passé beaucoup de temps dans le passé à appliquer différentes techniques d'apprentissage automatique en utilisant la partie des données présentes dans l'ensemble de la base de données. |
| Et une approche classique a été utilisée sur un ensemble de validation, mais à la fin, aucun modèle statistique avec une capacité prédictive acceptable n'a été trouvé pour prédire la viscosité. |
| Nous avons donc décidé d'utiliser une approche différente. |
| Donc, au lieu d'utiliser toutes les données, nous pensons qu'il est préférable de créer un modèle en utilisant des données proches de la composition où nous voulons prédire la viscosité. Donc, par exemple, si nous voulons prédire |
| ici sur le |
| points rouges, un modèle sera créé à partir des données que nous avons dans ce domaine et un modèle différent sera créé si nous voulons prédire |
| la propriété |
| sur une autre composition. C'est pourquoi nous disons que cette technique est dynamique. C'est parce que le modèle dépend de la composition. Il est lié et ajusté là où nous voulons prédire. |
| Et nous disons que c'est automatique parce que nous n'avons pas à le faire manuellement. Chaque étape est réalisée par des algorithmes implémentés dans l'outil. |
| L'un des points les plus importants est donc certainement la détermination du sous-ensemble optimal de données pour créer le modèle. Pour cela nous avons implémenté deux méthodes de sous-échantillonnage. |
| Ainsi, dans la première méthode, une conception théorique ou virtuelle de l'expérience est générée |
| autour de la composition d'intérêt. Et puis chaque exécution de la conception est remplacée par les données expérimentales les plus similaires présentes dans la base de données, conduisant à l'ensemble d'apprentissage final. |
| Et la deuxième méthode que nous avons implémentée dans l'outil est basée sur différentes tailles d'ensembles de données créés autour de la composition d'intérêt. |
| Un petit ensemble de données est généré par l'outil et des modèles sont créés sur ce petit sous-ensemble pour prédire la viscosité. Ensuite, des ensembles de données de plus en plus volumineux sont générés, et la taille optimale est évaluée par des critères statistiques associés à chaque sous-ensemble. |
| François Bergeret | La viscosité du verre n'est pas facile à prévoir, nous avons donc décidé d'utiliser différentes statistiques et méthodes d'apprentissage automatique. |
| Polynôme ??? modèles avec transformation, régression généralisée utilisant une distribution log-normale. Cette méthode est très puissante en utilisant JMP Pro et peut donner de meilleurs résultats que ??? modèles avec transformation. |
| Nous utilisons également des réseaux de neurones, très puissants en termes de prédiction. Comme nous avons deux ensembles de données, comme mentionné précédemment, nous avons six prédictions pour chaque réponse. |
| La diapositive suivante est un schéma, une vue de l'outil. |
| Les entrées sont la composition du verre et la température à laquelle la viscosité doit être prédite. |
| Si nous regardons ici, le code et l'algorithme ont été implémentés pour les deux méthodes que nous avons décrites juste avant. |
| La force de l'outil est qu'au lieu d'obtenir une seule prédiction, six valeurs sont calculées avec un critère statistique associé à toutes les données pouvant être évaluées par l'utilisateur. |
| Damien PERRET | Voici donc quelques-uns des paramètres clés. Il est très important de prendre en compte autant d'entrées que possible des experts en verre. |
| Par exemple, nous avons dû créer des algorithmes spécifiques pour entrer avec la nature et le rôle des oxydes sur la viscosité. |
| Un autre point d'importance majeure est lié à l'origine et donc à la fiabilité des données. Pour cela, un temps considérable a été consacré à ce projet |
| à la constitution d'une base de données fiable. Il a donc fallu mettre en place des poids et étudier différentes manières de calculer la distance ... les distances entre les compositions de verre. |
| Alors maintenant, il est temps ... |
| François Bergeret | D'accord, je vais montrer l'écran maintenant. |
| Pour vous montrer une démo |
| du code, vous devriez donc voir mon écran maintenant. |
| Et j'exécute juste le code donc c'est un programme JSL complexe. Nous l'avons développé pendant plusieurs mois avec le CEA. |
| Alors j'ai juste exécuté le code et maintenant je vais vous le montrer. |
| Découverte ... alors ici j'ouvre des fichiers pour le code. |
| Et ça marche, d'accord. Le code est en cours d'exécution, je vais donc commenter un peu. |
| Nous avons plusieurs boucles dans ce code. Bien entendu, la première étape consiste à identifier les données et les fonctions. Et après cela, nous avons une boucle, tout d'abord, nous avons ce que nous appelons l'itération adaptative et la raison de la base de données. |
| Alors et |
| comme il est adaptatif, comme mentionné par Damien, vous recherchez le meilleur sous-ensemble de données. Et nous avons également ici l'approche de la conception d'expériences, par laquelle, en optimisant la conception, nous obtenons les bonnes données. |
| Après cela et en fait, nous prévoyons la température de transition vitreuse. D'accord, et nous avons, comme je l'ai mentionné, trois modèles et pour chaque modèle, nous avons deux bases de données, donc nous avons un total de six prédictions. |
| Donc, comme vous le voyez, c'est un peu long à exécuter, mais cela dure environ une minute, et quand ce sera fait, nous aurons toute la sortie des programmes de la température de transition vitreuse et, bien sûr, de la viscosité . |
| Utiliser JSL a été très, très utile et, en plus, en termes d'utilisateurs, comme vous le verrez avec Damien, c'est très facile à utiliser et à |
| à utiliser pour les experts. Alors Damien, tu peux parler et arrêter mon partage. |
| Damien PERRET | Bon alors. |
| Juste un. |
| Pouvez-vous voir mon écran maintenant? |
| Oui, d'accord. |
| D'accord, il s'agit donc d'un rapport statistique général créé par l'outil. Donc d'abord, nous avons la composition d'intérêt du verre. |
| Puis |
| on a |
| sur ce graphique, les valeurs prédites. Donc sur l'axe Y, |
| nous avons les valeurs prédites de la viscosité calculées par les trois algorithmes et pour les deux méthodes. Et sur l'axe X, nous avons le numéro de l'agrandissement pour la deuxième méthode. |
| Et en rouge, nous avons la médiane des prédictions, qui peut être suffisante pour un utilisateur non statisticien, mais si nous voulons enquêter sur les détails statistiques, nous avons beaucoup d'informations dans ce rapport pour étudier la qualité de chacun |
| chaque modèle. Par exemple, |
| nous pouvons vérifier les valeurs |
| du PRESSS ou du modèle différent. Voici pour le modèle de régression multilinéaire BIC F. |
| Donc, ici, nous voyons que les valeurs PRESS nous indiquent que la prédiction avec la méthode numéro un est un peu meilleure que pour la deuxième méthode, et nous voyons également la liquidation du modèle avec l'élargissement de la formation activée. |
| Nous avons aussi |
| différentes valeurs statistiques. Par exemple, nous avons la valeur R au carré pour les différents algorithmes et pour les différents modèles. |
| Et ici, nous avons encore plus de détails sur le modèle. |
| Par exemple, pour la première méthode, nous pouvons comparer la conception théorique et réelle de l'expérience. Nous avons le prédit ... |
| formule de prédiction pour les différents ... pour les différents modèles. Nous avons également des informations sur le ... sur les estimations, et nous avons également de nombreuses informations sur le ... pour la deuxième méthode. Donc à la fin, nous avons beaucoup de statistiques |
| détails et informations très, très utiles à l'utilisateur. Et ici, |
| à la fin, on a la composition du plus ??? de verre dans la base de données, pour laquelle nous avons une valeur expérimentale de la viscosité, c'est donc très, très utile également. |
| Bon alors |
| revenons au PowerPoint. |
| Bon, voici les résultats que nous obtenons. Le |
| deux capacités prédictives ont été évaluées en extrayant 230 lignes qui forment une base de données globale. Et dans ce tableau, nous avons l'erreur relative de la prédiction ... de |
| la prédiction de viscosité |
| pour différents types de verre et pour le sous-ensemble global de données. Trois quantiles sont donnés sous forme de médiane, ce qui signifie que 50% des valeurs prédites ont une erreur relative inférieure à la valeur indiquée dans le tableau. |
| Et nous avons également les quantiles de 75 et 90% dans ce tableau. Ainsi, lorsque nous parlons de viscosité du verre, nous considérons traditionnellement que l'erreur prédite autour de 70% est très bonne. Nous pouvons donc voir que pour la majorité des données |
| la capacité du modèle est bonne et nous avons été très satisfaits des résultats que nous y avons obtenus. |
| À titre de comparaison, |
| voici encore |
| les résultats que nous avons obtenus pour le verre très simple, le verre SBN, avec seulement trois oxydes lorsque nous avons appliqué les modèles disponibles dans la littérature. On voit donc que la valeur ... les valeurs de l'erreur relative de prédiction étaient beaucoup plus élevées et pouvaient beaucoup varier d'un modèle à l'autre. |
| Et encore une fois, c'était pour du verre très simple avec seulement trois oxydes. |
| Et dans certains cas, nous avons des erreurs plus importantes, |
| mais si nous regardons ces données en détail, donc ici sur ce graphique, nous avons |
| le ??? valeurs sur |
| axe x et valeurs expérimentales sur l'axe y, on voit que cette plus grosse erreur de prédiction est obtenue pour ces deux verres |
| provenant de la base de données commerciale SciGlass de ... la même référence, qui est un brevet et pour laquelle l'erreur expérimentale de l'équipement n'est pas mentionnée. |
| Et aussi pour toutes ces compositions à haute teneur en aluminium, nous pensons que la cristallisation est très susceptible de se produire, et alors nous ne pouvons pas être totalement sûrs que les valeurs expérimentales étaient correctes. |
| Enfin, nous avons appliqué notre méthodologie pour prédire une autre propriété du verre, la température de transition vitreuse, qui est une propriété importante dans la technologie du verre. |
| Voici les résultats que nous avons obtenus, qui sont encore meilleurs que pour la viscosité. Et ici, donc l'erreur relative globale de prédiction est inférieure à 5%, ce qui est vraiment bien, car on sait que cette propriété |
| peut varier beaucoup, en fonction de l'historique thermique du verre et en fonction du dispositif expérimental. Voici donc les deux capacités, très proches de l'erreur expérimentale, ce qui est très sympa. |
| François Bergeret | D'accord, pour conclure, une caractéristique importante de notre approche est un sous-échantillonnage dynamique de la base de données mondiale. Nous adressons la bonne information autour de la composition d'intérêt. |
| De plus, en utilisant JSL et JMP Pro, nous avons automatisé les modèles de machine learning, la régression générale et les réseaux de neurones sont très performants. |
| Selon l'expert CEA, la précision est bonne et révèle des problèmes inattendus. Nous prévoyons maintenant d'étendre les modèles sur une base de données plus grande et également de travailler avec Bradley Jones et peut-être d'écrire une publication conjointe. Merci. |
