El manejo de grandes conjuntos de datos sigue presentando desafíos únicos, incluso en una era donde los algoritmos avanzados de aprendizaje automático pueden procesar grandes cantidades de información. Confiar en técnicas de fuerza bruta para analizar conjuntos de datos masivos puede generar ineficiencias, sobreajuste del modelo, acumulación de ruido y rendimientos decrecientes al agregar más datos.
El submuestreo inteligente, que implica seleccionar una fracción representativa de los datos, suele ofrecer un enfoque más específico y perspicaz. El submuestreo fomenta modelos más interpretables, ya que el tamaño reducido del conjunto de datos simplifica las relaciones entre las variables. Por estas razones, el submuestreo inteligente debería ser el enfoque preferido para una amplia gama de aplicaciones, como la ciencia de los materiales, la investigación biomédica, la modelización ambiental, el análisis de marketing y las ciencias sociales.
Pero ¿por qué recurrir a la fuerza bruta cuando se puede ser inteligente? Mediante una demostración interactiva que utiliza las últimas capacidades de JMP Pro en el campo de la formulación de materiales complejos, esta presentación demuestra que un enfoque de submuestreo bien diseñado, combinado con técnicas de modelado tanto clásicas como avanzadas (regresión multilineal, redes neuronales, SVM, regresión generalizada), puede generar predicciones robustas.
Hola. Gracias por ver esta presentación de la edición 2025 de la conferencia Europe Discovery Summit. Me llamo Damien Perret. Soy científico de I+D en el CEA (Francia) y hoy presento junto a Carole Soual, estadística en Ippon Innovation. Nos complace mucho estar aquí con Carole y agradecemos al comité directivo que nos haya brindado la oportunidad de hablar sobre este trabajo, que trata sobre un enfoque de submuestreo inteligente aplicado al modelado predictivo.
Comencemos con unas palabras sobre el CEA. El CEA es una organización del gobierno francés dedicada a la investigación, el desarrollo y la innovación en cuatro áreas: energías bajas en carbono, tecnología digital, tecnologías médicas para el futuro, y defensa y seguridad.
El CEA cuenta con unas 21.000 personas en 9 sedes. Mantenemos sólidas relaciones con universidades a través de diversas unidades de investigación conjuntas, un elevado número de patentes y la creación de startups con un presupuesto aproximado de 6.000 millones de euros.
Ippon Innovation es una empresa de científicos de datos dedicada a proporcionar algoritmos avanzados a la industria. Nuestros objetivos son optimizar los costes de fabricación y los tiempos de prueba para mejorar la calidad de productos complejos y detectar pequeñas señales en big data. Ofrecemos servicios de consultoría, formación y estudios avanzados a demanda. Contamos con diversos proyectos, como soluciones estadísticas personalizadas o herramientas avanzadas, algunas de ellas patentadas.
La motivación de este trabajo reside en que, si bien los algoritmos de aprendizaje automático más recientes pueden procesar grandes cantidades de información, el manejo de grandes conjuntos de datos aún presenta desafíos. En lugar de utilizar técnicas de fuerza bruta con conjuntos de datos masivos, lo cual podría llevar a una degradación de la predicción por diversas razones, creemos que un submuestreo inteligente es un enfoque más perspicaz, que también genera modelos más interpretables. Aquí mostramos una aplicación en la ciencia de los materiales, pero creemos que este enfoque también podría aplicarse a nuevas aplicaciones, incluso más allá de los campos de la física y la química.
En 2021, asistimos al descubrimiento y se presentó un avance de este estudio para explicar el enfoque. Este ha mejorado considerablemente en los últimos cuatro años, y su capacidad predictiva ha mejorado significativamente. Por eso, queríamos mostrarles nuestros últimos resultados.
Nuestro principal objetivo en este trabajo es desarrollar un enfoque de submuestreo bien diseñado, que, como verán, combina técnicas de modelado tanto clásicas como avanzadas para obtener predicciones robustas. Para ello, queríamos que los algoritmos se codificaran en JSL y se implementaran en JMP Pro 18.
En el ejemplo de hoy, mostramos cómo se aplicó esta metodología a la predicción de la viscosidad del vidrio fundido. Por lo tanto, la respuesta del modelo es la viscosidad del vidrio. Los factores son el porcentaje en peso de los óxidos de vidrio, y nuestra base de datos contiene conjuntos de datos comerciales y propios.
En resumen, el vidrio es un material no cristalino obtenido mediante temple rápido y es una mezcla de diferentes óxidos. El número de óxidos varía desde 2 o 3 en un vidrio muy simple hasta aproximadamente 30, e incluso más en las composiciones más complejas.
Un punto importante sobre la viscosidad del vidrio es su amplio rango de variación, lo que dificulta su predicción. Además, la viscosidad del vidrio es muy sensible a la composición, y mecanismos como la cristalización suelen influir significativamente en la reología de la masa fundida.
Existe una analogía interesante con el comportamiento de la lava en geología para ilustrar la compleja relación entre la cristalización y la viscosidad. A altas temperaturas, la lava es un fluido viscoso y homogéneo, muy similar a una masa fundida de óxido vítreo. Cuando la temperatura de la lava disminuye, suele inducir una cristalización rápida y masiva, lo que tiene un gran impacto en la viscosidad de la masa fundida.
Como se puede ver en este gráfico, el aumento de la viscosidad causado por esta cristalización puede alcanzar hasta ocho órdenes de magnitud, cambiando también el comportamiento lógico real de la masa fundida haciendo muy difícil la predicción de la viscosidad.
Lo que queríamos demostrar aquí es que la predicción de la viscosidad no es fácil, incluso para composiciones de vidrio muy simples. Hemos seleccionado tres composiciones de vidrio SBN, un vidrio muy simple con solo tres óxidos. Aplicamos los modelos más conocidos de la literatura para calcular la viscosidad. Luego, comparamos los valores predichos con los valores experimentales medidos con nuestro propio dispositivo, que se muestran en rojo en estos gráficos. Se puede observar que, incluso para un vidrio muy simple, no es fácil obtener un valor fiable para la viscosidad predicha.
Las técnicas de aprendizaje automático se aplican cada vez más en la ciencia de los materiales de vidrio, y en particular en la predicción de la viscosidad del vidrio, pero su precisión es limitada. Anteriormente, intentamos aplicar redes neuronales para predecir la viscosidad del vidrio, pero los resultados no fueron muy satisfactorios.
Por ejemplo, observamos patrones inesperados y desviaciones de varios órdenes de magnitud. Esto también se observó en publicaciones recientes, utilizando redes neuronales, donde podemos observar estas diferencias de seis órdenes de magnitud entre la predicción y la medición.
Al final, llegamos a la conclusión de que había tanta disparidad en los conjuntos de datos globales y tantos mecanismos físicos y químicos no lineales que ocurrían en el vidrio fundido y afectaban su viscosidad que utilizar el aprendizaje automático tradicional en la base de datos global no era el mejor enfoque.
Aquí se muestra una buena imagen para visualizar nuestra base de datos, donde cada punto representa un vaso en una vista multidimensional del dominio de la composición. Los datos pueden provenir de diferentes estudios aislados, de diseños experimentales o de estudios paramétricos con variaciones de un componente a la vez. Esto da como resultado una base de datos muy heterogénea y uniforme.
La estrategia se basa en la hipótesis de que, en lugar de utilizar todos los datos, creemos que es mejor entrenar los modelos predictivos solo con datos similares. Por ejemplo, si queremos predecir aquí, se crearán modelos a partir de los datos disponibles en esta área. Se crearán diferentes modelos si queremos predecir la propiedad aquí.
Dijimos que el enfoque es dinámico porque los modelos predictivos dependen de la composición y se ajustan donde queremos predecir. Es automático porque no tenemos que hacerlo manualmente. Cada paso se realiza mediante algoritmos implementados en nuestra herramienta.
La estrategia que aplicamos para crear los conjuntos de datos de entrenamiento se basa en la metodología de diseño de experimentos. Para cada predicción, se genera un DOE óptimo en torno a la composición de interés y, posteriormente, cada ejecución del diseño se reemplaza con los datos experimentales más similares presentes en la base de datos, lo que da como resultado el conjunto de datos de entrenamiento final.
Para la parte predictiva de la herramienta, se implementaron cuatro algoritmos: un modelo polinomial clásico obtenido mediante regresión multilineal, un modelo GENREG, un modelo de red neuronal y un modelo de regresión de vectores de soporte (una nueva incorporación). Al final, no tenemos un único valor predicho, sino cuatro. Al tomar la mediana de estas cuatro predicciones, obtenemos una estimación muy robusta de la respuesta. Como veremos durante la demostración, también se calculan y analizan varios criterios estadísticos para comparar el rendimiento de los diferentes algoritmos predictivos.
Estos son algunos de los parámetros clave. Era fundamental tener en cuenta la mayor cantidad posible de aportaciones de los expertos en vidrio. Un punto crucial fue el origen y la fiabilidad de los datos. Por ello, en este proyecto se ha dedicado mucho tiempo a la creación de una base de datos fiable.
También tuvimos que crear algoritmos específicos para abordar la naturaleza y la función de los óxidos y la viscosidad. Tuvimos que implementar métodos y estudiar diferentes maneras de calcular las distancias entre composiciones similares. Todo esto se implementó en los algoritmos de la herramienta.
Antes de pasar a la demostración, se presenta un esquema de la herramienta, que muestra las evoluciones recientes. Se han actualizado numerosos algoritmos, tanto para el muestreo como para el modelo predictivo. Como ya se mencionó, se ha implementado la función SVR. Además, ahora es posible introducir una sola composición de vidrio o una lista de composiciones, lo que permite evaluar la capacidad de la herramienta utilizando un gran número de composiciones.
En cuanto al tiempo de cálculo, una producción tarda menos de un minuto. Esto está bien, pero estamos trabajando en ello para mejorar ligeramente la eficiencia del código. Como ya dijimos, todo está codificado en JSL e incluye un complemento.
La demo, gracias, Damien. Voy a compartir mi pantalla. El complemento JMP se desarrolló desde JMP Pro versión 16 para la herramienta MS [inaudible 00:13:28] en CEA. Ahora está disponible en JMP Pro versión 18. Ofrece dos maneras de ejecutar las predicciones para un vaso. El primer botón del menú JMP contiene una interfaz de usuario para predecir la viscosidad o la TG para un solo vaso a una o varias temperaturas. El segundo botón es una versión automatizada que proporciona la predicción para una lista de vasos a una sola temperatura.
Si accedo a la carpeta de complementos, se pueden ver los dos scripts principales que se ejecutan con los dos botones y las diferentes funciones o expresiones que utilizan. La carpeta contiene scripts para los pasos de preprocesamiento de datos para construir datos de muestra de aprendizaje, los modelos de predicción y, finalmente, la construcción del resultado del análisis.
Ejecutemos el primer botón, la versión interactiva. El primer paso es seleccionar la carpeta que contiene la base de datos global de viscosidades del vidrio en formato JMP. A continuación, se seleccionan los elementos de composición y los óxidos del vidrio cuya viscosidad se desea predecir. Se hace clic en "Aceptar".
Aquí debo ingresar el porcentaje de cada elemento en la composición global de nuestro vidrio. Por ejemplo, quiero predecir la viscosidad de mi vidrio, que contiene un 6,5 % de CaO. El último paso es ingresar las temperaturas. La característica que quiero predecir es la viscosidad a dos temperaturas: 1100 y 1200 grados. Los cuatro modelos explicados por Damien se aplican a ambas temperaturas. El objetivo es predecir la viscosidad de mi vidrio. Para dos temperaturas, los resultados tardan aproximadamente un minuto.
Finalmente, tengo esta ventana de resultados. Podemos elegir la temperatura más interesante para profundizar en el análisis de las predicciones. En este caso, 1200 grados. Al seleccionar "Ir", se abrirá la ventana de resultados final, que muestra el zoom de la viscosidad a 1200 grados.
Primero, los esquemas contienen la composición del vidrio que queremos predecir y los elementos que realmente se consideran en los modelos. Luego, tenemos un esquema que muestra la calidad de los modelos, por ejemplo, con el error absoluto medio o R-cuadrado. Hay más detalles disponibles sobre el método de DOE adaptativo, como, por ejemplo, el porcentaje de correlación entre el DOE óptimo y el DOE adaptativo, donde el 80 % de los elementos correlacionados entre ambos DOE. Es un proyecto muy bueno.
También se proporcionan fórmulas de predicción y sus efectos. Aquí, por ejemplo, para el BIC, podemos ver que SiO₂ es el óxido más significativo en el modelo. El resultado más importante se encuentra aquí: el resumen de las predicciones en el gráfico, que muestra los valores de viscosidad predichos en función de los modelos. Podemos ver los valores predichos de viscosidad para cada punto: 61 decipascales por segundo para el BIC F, 67 para el GLM, 49 para las redes neuronales y 64 para el SVR.
También tenemos el vaso más cercano, representado por la línea horizontal discontinua verde, con una viscosidad real medida de 68 decipascales por segundo. Este vaso más cercano está aquí. Es muy similar al que queremos predecir. Como recordatorio, teníamos un 6,5 % de CaO; por ejemplo, el vaso más cercano tiene un 6,4 % de CaO. Desconocemos la viscosidad real del vaso para predecir, así que comparamos la predicción con la viscosidad real del vaso más cercano.
Finalmente, para este vidrio, la mediana de predicción es 62,5. Es un resultado muy bueno en cuanto a la viscosidad medida del vidrio más cercano. GLM y SVR, aquí y aquí, son los mejores modelos para predecir la viscosidad.
Damien ahora presentará el análisis de la versión automatizada y la salida en una tabla para esta herramienta.
La capacidad de la herramienta se evaluó utilizando un conjunto de pruebas con 7500 datos. La métrica de interés es el error absoluto en el logaritmo de la viscosidad, que refleja la diferencia entre la viscosidad predicha y el valor reportado en términos de orden de magnitud. Generalmente consideramos muy eficaz predecir la viscosidad de clase con un orden de magnitud dentro de todo el rango de valores de viscosidad posibles.
Estos son los resultados obtenidos, donde la viscosidad predicha es la mediana de las predicciones explicadas por los cuatro algoritmos. Nos impresionó bastante la precisión de la predicción, ya que el error en la viscosidad predicha es inferior a un orden de magnitud, lo cual era nuestro objetivo para la gran mayoría de los datos. En segundo lugar, solo hay muy pocas muestras con un error mayor. El error más alto, de 3,3 órdenes de magnitud, es mucho menor que el de los modelos de viscosidad de la literatura.
Otro aspecto importante es que la precisión predictiva es buena en todo el rango de valores de viscosidad, desde 1-10 hasta 6 decipascales por segundo. Finalmente, la precisión es aún mejor para las composiciones de vidrio que utilizamos principalmente para nuestra aplicación.
Actualmente estamos investigando la causa de los datos que muestran el mayor error de predicción. En cuanto a la composición, parece que el error de predicción está altamente correlacionado con la presencia de elementos químicos, que se sabe que tienen un fuerte impacto en la viscosidad del vidrio, pero que solo están presentes en unas pocas composiciones en la base de datos. También observamos que la distancia al vecino más cercano fue significativamente mayor para estos valores atípicos.
Finalmente, también intentamos comprobar si el año de los datos reportados influía, ya que podemos suponer que los dispositivos experimentales para medir la viscosidad del vidrio eran quizás menos precisos hace 60 u 80 años. De hecho, estos gráficos tienden a mostrar que el error de predicción es menor para datos más recientes.
Finalmente, observamos que los cuatro tipos de modelos ofrecen predicciones muy precisas en términos de cuantiles del error absoluto. El máximo del error absoluto es significativamente menor para las redes neuronales e incluso menor para la SVR, lo que resulta en un error promedio menor. Dado que los cuatro modelos resultaron eficientes, decidimos mantener la mediana de las cuatro predicciones para garantizar predicciones altamente robustas.
En conclusión, presentamos un enfoque predictivo basado en el submuestreo dinámico de los datos. Implementamos cuatro modelos diferentes, entrenados con un subconjunto de datos similares generados a partir de un DOE óptimo. Este procedimiento es completamente automático, con todos los pasos codificados en JSL e implementado como complemento en JMP Pro 18.
La capacidad predictiva de la herramienta se ha evaluado en un conjunto de datos que contiene alrededor de 7.500 composiciones de vidrio, proporcionando resultados muy precisos, especialmente para las composiciones de vidrio de interés.
A continuación, nos gustaría evaluar y posiblemente implementar técnicas predictivas adicionales que consideramos prometedoras para esta aplicación. También intentaremos desarrollar una interfaz Python para integrar esta herramienta con otros códigos de simulación de elementos finitos que ya utilizamos para procesar la vitrificación.
Muchas gracias por su atención.
Gracias.
