Le traitement de grands ensembles de données demeure un défi de taille, même à l'ère des algorithmes d'apprentissage automatique avancés capables de traiter d'immenses quantités d'informations. L'utilisation de techniques de force brute pour analyser des ensembles de données massifs peut engendrer des inefficacités, un surapprentissage des modèles, une accumulation de bruit et une diminution des gains liés à l'ajout de données supplémentaires.
Le sous-échantillonnage intelligent, qui consiste à sélectionner une fraction représentative des données, offre souvent une approche plus ciblée et pertinente. Il favorise l'élaboration de modèles plus interprétables, car la réduction de la taille de l'ensemble de données simplifie les relations entre les variables. Pour ces raisons, le sous-échantillonnage intelligent devrait être privilégié dans de nombreuses applications, notamment en science des matériaux, en recherche biomédicale, en modélisation environnementale, en analyse marketing et en sciences sociales.
Pourquoi recourir à la force brute quand on peut opter pour une approche intelligente ? À travers une démonstration interactive utilisant les dernières fonctionnalités de JMP Pro dans le domaine de la formulation de matériaux complexes, cette présentation montre qu’une approche de sous-échantillonnage bien conçue, combinée à des techniques de modélisation classiques et avancées (régression multilinéaire, réseaux de neurones, SVM, régression généralisée), peut conduire à des prédictions robustes.
Bonjour. Merci de suivre cette présentation dans le cadre de l'édition 2025 du Sommet européen de la découverte. Je m'appelle Damien Perret. Je suis chercheur en R&D au CEA en France et je présente aujourd'hui avec Carole Soual, statisticienne chez Ippon Innovation. Carole et moi sommes ravis d'être parmi vous aujourd'hui et nous tenons à remercier le comité de pilotage qui nous a permis de présenter nos travaux sur une approche de sous-échantillonnage intelligent appliquée à la modélisation prédictive.
Commençons par quelques mots sur le CEA. Le CEA est un organisme public français de recherche, de développement et d'innovation dans quatre domaines : les énergies bas carbone, les technologies numériques, les technologies médicales du futur et la défense et la sécurité.
Le CEA compte environ 21 000 personnes réparties sur 9 sites. Nous entretenons des relations étroites avec les universités grâce à divers centres de recherche conjoints, un nombre important de brevets déposés et la création de start-ups dotées d'un budget d'environ 6 milliards d'euros.
Ippon Innovation est une société de data scientists spécialisée dans la fourniture d'algorithmes avancés à l'industrie. Nos objectifs sont d'optimiser les coûts de production et les délais de test afin d'améliorer la qualité des produits complexes et de détecter les signaux faibles au sein des données massives. Nous proposons des services de conseil, de formation et d'études avancées à la demande. Nous avons développé plusieurs projets, tels que des solutions statistiques personnalisées et des outils avancés, dont certains sont brevetés.
Ce travail est motivé par le constat que, malgré la capacité des algorithmes d'apprentissage automatique les plus récents à traiter d'importantes quantités d'informations, la gestion de grands ensembles de données demeure un défi. Plutôt que d'utiliser des techniques de force brute sur des ensembles de données massifs, susceptibles de dégrader la prédiction pour diverses raisons, nous pensons qu'un sous-échantillonnage intelligent constitue une approche plus pertinente, permettant également d'obtenir des modèles plus interprétables. Nous présentons ici une application en science des matériaux, mais nous pouvons imaginer que cette approche puisse également être appliquée à de nouveaux domaines, même en dehors de la physique et de la chimie.
Pour ceux qui ont assisté à la découverte en 2021, un aperçu de cette étude a été présenté afin d'en expliquer la méthodologie. Celle-ci a été considérablement améliorée au cours des quatre dernières années, et la capacité prédictive de la méthode a été nettement accrue. C'est pourquoi nous souhaitions vous présenter nos derniers résultats.
L'objectif principal de ce travail est de développer une méthode de sous-échantillonnage rigoureuse, combinée, comme vous le verrez, à des techniques de modélisation classiques et avancées afin d'obtenir des prédictions robustes. Pour ce faire, nous avons souhaité que les algorithmes soient codés en JSL et implémentés dans JMP Pro 18.
Aujourd'hui, nous illustrons l'application de cette méthodologie à la prédiction de la viscosité du verre fondu. La réponse du modèle est donc la viscosité du verre. Les facteurs pris en compte sont les pourcentages massiques des oxydes du verre, et notre base de données contient des ensembles de données commerciaux et propriétaires.
En résumé, le verre est un matériau non cristallin obtenu par trempe rapide ; il s’agit d’un mélange de différents oxydes. Leur nombre varie de 2 ou 3 dans un verre très simple à une trentaine, voire plus, dans les compositions les plus complexes.
Un point important concernant la viscosité du verre est la très grande variabilité de cette propriété, ce qui la rend très difficile à prédire. La viscosité du verre est également très sensible à sa composition, et des mécanismes comme la cristallisation influencent fortement la rhéologie du verre fondu.
Il existe une analogie intéressante avec le comportement de la lave en géologie pour illustrer la relation complexe entre cristallisation et viscosité. À haute température, la lave est un fluide visqueux et homogène, très semblable à un verre d'oxyde fondu. Lorsque sa température diminue, elle induit généralement une cristallisation rapide et massive, ce qui a un impact considérable sur la viscosité du fluide fondu.
Comme vous pouvez le constater sur ce graphique, l'augmentation de viscosité causée par cette cristallisation peut atteindre jusqu'à huit ordres de grandeur, modifiant également le comportement logique réel du fluide fondu et rendant la prédiction de la viscosité très difficile.
Notre objectif était de démontrer que la prédiction de la viscosité n'est pas chose aisée, même pour des verres de composition très simple. Nous avons sélectionné trois compositions de verre SBN, un verre très simple ne contenant que trois oxydes. Nous avons appliqué les modèles les plus connus de la littérature pour calculer la viscosité. Nous avons ensuite comparé les valeurs prédites aux valeurs expérimentales mesurées avec notre propre appareil (représentées en rouge sur ces graphiques). On constate ainsi que, même pour un verre très simple, il est difficile d'obtenir une valeur fiable pour la viscosité prédite.
Les techniques d'apprentissage automatique sont de plus en plus utilisées en science des matériaux verriers, notamment pour la prédiction de la viscosité du verre, mais avec une précision limitée. Nous avons déjà tenté d'appliquer des réseaux de neurones à la prédiction de la viscosité du verre, mais les résultats obtenus n'étaient pas pleinement satisfaisants.
Par exemple, nous observons des schémas inattendus ainsi que des écarts de plusieurs ordres de grandeur. C'était également le cas dans des publications récentes, utilisant aussi des réseaux de neurones, où l'on constate ces six ordres de grandeur de différence entre la prédiction et la mesure.
Au final, nous sommes arrivés à la conclusion qu'il y avait tellement de disparités dans les ensembles de données mondiaux et tellement de mécanismes physiques et chimiques non linéaires se produisant dans la fusion du verre et ayant une incidence sur sa viscosité que l'utilisation de l'apprentissage automatique traditionnel sur la base de données mondiale n'était pas la meilleure approche.
Voici une image illustrant notre base de données : chaque point représente un verre dans une vue multidimensionnelle de son domaine de composition. Les données peuvent provenir de différentes études isolées, de plans d'expériences ou d'études paramétriques avec variation d'un seul composant à la fois. Il en résulte une base de données à la fois très hétérogène et uniformément remplie.
Cette stratégie repose sur l'hypothèse qu'au lieu d'utiliser toutes les données, il est préférable d'entraîner les modèles prédictifs uniquement sur des données similaires. Par exemple, si l'on souhaite prédire la propriété située ici, des modèles seront créés à partir des données disponibles dans cette zone. Des modèles différents seront créés si l'on souhaite prédire la propriété située ici.
Nous avons expliqué que cette approche est dynamique car les modèles prédictifs dépendent de la composition et sont ajustés aux zones à prédire. Elle est automatique car aucune intervention manuelle n'est requise. Chaque étape est réalisée par des algorithmes intégrés à notre outil.
La stratégie employée pour créer les ensembles de données d'entraînement repose sur la méthodologie de la conception d'expériences. Pour chaque prédiction, un plan d'expériences optimal est généré autour de la composition d'intérêt, puis chaque itération de ce plan est remplacée par les données expérimentales les plus similaires présentes dans la base de données, ce qui permet d'obtenir l'ensemble de données d'entraînement final.
Pour la partie prédictive de l'outil, quatre algorithmes ont été implémentés : un modèle polynomial classique issu d'une régression multilinéaire, un modèle GENREG, un modèle de réseau de neurones et un modèle de régression à vecteurs de support, une nouveauté. Au final, nous obtenons non pas une seule valeur prédite, mais quatre. En calculant la médiane de ces quatre prédictions, nous obtenons une estimation très robuste de la réponse. Comme nous le verrons lors de la démonstration, plusieurs critères statistiques sont également calculés et analysés afin de comparer les performances des différents algorithmes prédictifs.
Voici quelques paramètres clés. Il était primordial de prendre en compte un maximum d'avis d'experts du verre. Un point essentiel concernait l'origine et la fiabilité des données. C'est pourquoi, dans le cadre de ce projet, une part importante du temps a été consacrée à la constitution d'une base de données fiable.
Nous avons également dû créer des algorithmes spécifiques pour prendre en compte la nature et le rôle des oxydes et de la viscosité. Nous avons dû implémenter et étudier différentes méthodes de calcul des distances entre les compositions similaires. L'ensemble de ces éléments a été intégré aux algorithmes de l'outil.
Avant de passer à la démonstration, voici un schéma de l'outil, illustrant les dernières améliorations. De nombreux algorithmes ont été mis à jour, tant pour l'échantillonnage que pour le modèle prédictif. Comme mentionné précédemment, la méthode SVR a été implémentée. Il est désormais possible de saisir une composition de verre unique ou une liste de compositions, ce qui permet d'évaluer les performances de l'outil avec un grand nombre de compositions.
En termes de temps de calcul, une production prend moins d'une minute. C'est acceptable, mais nous travaillons actuellement à optimiser légèrement le code. Comme indiqué précédemment, tout est codé en JSL et inclut un module complémentaire.
Merci pour la démo, Damien. Je vais partager mon écran. Le module complémentaire JMP a été développé depuis la version 16 de JMP Pro pour l'outil MS [inaudible 00:13:28] au CEA. Il est désormais intégré à la version 18 de JMP Pro. Il propose deux méthodes pour effectuer les prédictions concernant un verre. Le premier bouton du menu JMP ouvre une interface utilisateur permettant de prédire la viscosité ou la TG d'un seul verre à une ou plusieurs températures. Le second bouton est une version automatisée qui fournit la prédiction pour une liste de verres à une seule température.
Si je vais dans le dossier des modules complémentaires, vous pouvez voir les deux scripts principaux exécutés par les deux boutons, ainsi que les différentes fonctions ou expressions utilisées par ces scripts. Ce dossier contient les scripts correspondant aux étapes de prétraitement des données pour la construction des données d'apprentissage, des modèles de prédiction et, enfin, de la génération des résultats de l'analyse.
Commençons par exécuter le premier bouton, la version interactive. La première étape consiste à sélectionner le dossier contenant la base de données globale de la viscosité de tous les verres au format JMP. Ensuite, il faut sélectionner les éléments constitutifs, c'est-à-dire les oxydes du verre dont on souhaite prédire la viscosité. Enfin, il faut cliquer sur OK.
Je dois ici indiquer le pourcentage de chaque élément dans la composition globale de notre verre. Par exemple, le verre dont je souhaite prédire la viscosité contient 6,5 % de CaO. La dernière étape consiste à renseigner les températures. Je souhaite prédire la viscosité à deux températures : 1 100 °C et 1 200 °C. Les quatre modèles expliqués par Damien sont valables pour ces deux températures. L’objectif est de prédire la viscosité de mon verre. Le calcul pour ces deux températures prend environ une minute.
Au final, j'obtiens cette fenêtre de résultats. Nous pouvons choisir la température la plus pertinente pour approfondir l'analyse des prédictions. Ici, 1 200 degrés. Cliquer sur « Go » ouvrira la fenêtre de résultats finale, qui présente un zoom sur la viscosité à 1 200 degrés.
Tout d'abord, les contours indiquent la composition du verre à prédire et les éléments effectivement pris en compte dans les modèles. Ensuite, un autre contour décrit la qualité des modèles, avec par exemple l'erreur absolue moyenne ou le coefficient de détermination (R²). Des informations supplémentaires sont disponibles sur la méthode de plan d'expériences adaptatif (DOE), notamment le pourcentage de corrélation entre le DOE optimal et le DOE adaptatif : ici, 80 % d'éléments corrélés entre les deux DOE. C'est un excellent projet.
Les formules et les effets de prédiction sont également présentés. Ici, par exemple, pour le BIC, on constate que le SiO₂ est l'oxyde le plus significatif dans le modèle. Le résultat le plus important se trouve ici : il s'agit du graphique récapitulant les prédictions et présentant les valeurs de viscosité prédites en fonction des modèles. On peut observer les valeurs de viscosité prédites pour chaque point : 61 dPa·s pour le BIC F, 67 pour le GLM, 49 pour les réseaux de neurones et 64 pour le SVR.
Nous disposons également du verre le plus proche, représenté par la ligne horizontale verte en pointillés, dont la viscosité réelle mesurée est de 68 décipascals-seconde. Ce verre est présenté ici. Il est très proche de celui que nous souhaitons prédire. Pour rappel, nous avions 6,5 % de CaO, par exemple, tandis que le verre le plus proche en contient 6,4 %. Comme nous ne connaissons pas la viscosité réelle du verre à prédire, nous comparons la prédiction à la viscosité réelle du verre le plus proche.
Enfin, pour ce verre, la médiane de la prédiction est de 62,5. C'est un très bon résultat compte tenu de la viscosité mesurée du verre le plus proche. Les modèles GLM et SVR, ici et ici, sont les plus performants pour prédire la viscosité.
Damien va maintenant présenter l'analyse de la version automatisée et les résultats dans un tableau pour cet outil.
Les performances de l'outil ont été évaluées à l'aide d'un jeu de données de test contenant 7 500 points. La métrique étudiée est l'erreur absolue sur le logarithme de la viscosité, qui indique l'écart, en ordre de grandeur, entre la viscosité prédite et la valeur mesurée. On considère généralement qu'il est très efficace de prédire la viscosité de la classe avec une précision d'un ordre de grandeur sur l'ensemble des valeurs possibles.
Voici les résultats obtenus : la viscosité prédite correspond à la médiane des prédictions expliquées par les quatre algorithmes. Nous sommes très impressionnés par la précision de la prédiction, l’erreur étant inférieure à un ordre de grandeur, ce qui était notre objectif pour la grande majorité des données. De plus, seuls quelques rares échantillons présentent une erreur plus importante. Les erreurs maximales, de l’ordre de 3,3, sont bien inférieures à celles des modèles de viscosité proposés dans la littérature.
Autre point important : la précision des prédictions est bonne sur toute la plage de valeurs de viscosité, de 1 à 10 jusqu’à 6 décipascals par seconde. Enfin, la précision est encore meilleure pour les compositions de verre sur lesquelles nous nous concentrons principalement pour notre application.
Nous étudions actuellement les causes des données présentant la plus grande erreur de prédiction. En termes de composition, il apparaît que cette erreur est fortement corrélée à la présence d'éléments chimiques, connus pour avoir un impact considérable sur la viscosité du verre, mais présents seulement dans un petit nombre de compositions de la base de données. Nous avons également observé que la distance au plus proche voisin était significativement plus élevée pour ces valeurs aberrantes.
Enfin, nous avons également cherché à déterminer si l'année de publication des données avait une incidence, car on peut supposer que les appareils de mesure de la viscosité du verre étaient peut-être moins précis il y a 60 ou 80 ans. De fait, ces graphiques tendent à montrer que l'erreur de prédiction est plus faible pour les données les plus récentes.
Enfin, nous avons constaté que les quatre types de modèles fournissent des prédictions très proches en termes de quantiles de l'erreur absolue. L'erreur absolue maximale est significativement plus faible pour les réseaux de neurones et encore plus faible pour la SVR, ce qui se traduit au final par une erreur moyenne plus faible. L'efficacité des quatre modèles ayant été démontrée, nous avons décidé de retenir la médiane des quatre prédictions afin de garantir une grande robustesse.
En conclusion, nous avons présenté une approche prédictive basée sur le sous-échantillonnage dynamique des données. Nous avons implémenté quatre modèles différents, entraînés sur un sous-ensemble de données similaires issues d'un plan d'expériences optimal. Cette procédure est entièrement automatisée : toutes les étapes sont codées en JSL et implémentées comme module complémentaire dans JMP Pro 18.
La capacité prédictive de l'outil a été évaluée sur un ensemble de données contenant environ 7 500 compositions de verre, donnant des résultats très précis, notamment pour les compositions de verre qui nous intéressaient.
Nous souhaitons ensuite évaluer et éventuellement mettre en œuvre des techniques de prédiction supplémentaires qui nous semblent prometteuses pour cette application. Nous tenterons également de développer une interface Python afin d'intégrer cet outil aux autres codes de simulation par éléments finis que nous utilisons déjà pour le traitement de la vitrification.
Merci beaucoup pour votre attention.
Merci.
