La operación de semiconductores enfrenta desafíos para predecir el rendimiento de un dispositivo durante su fabricación integral. Esta falta de predictibilidad ha resultado en una disminución del rendimiento y un aumento de los costos. Este proyecto demostrará cómo establecer un modelo predictivo de datos de metrología en línea (tres variables de respuesta [Y] y más de 300 variables predictoras [X], con un conjunto de datos de aproximadamente 400 puntos de datos) para predecir el rendimiento del dispositivo.
Hemos utilizado la Plataforma Multivariante JMP para evaluar la complejidad del proyecto: (1) competencia YY relativamente débil, (2) fuerte causalidad YX y (3) severa dependencia de multicolinealidad XX. Tanto los algoritmos de mínimos cuadrados estándar como los algoritmos paso a paso han mostrado un riesgo de sobreajuste severo si se consideran los más de 300 predictores. Se han utilizado tres técnicas modernas de reducción de dimensión de minería de datos para seleccionar las pocas X vitales para continuar el modelado RSM: (1) Particiones, (2) Neural, (3) Cribado de Predictores. Limitado al software JMP regular, el Cribado de Predictores que utiliza el algoritmo Random Forest resuelve eficazmente los problemas de partición recursiva y proporciona un patrón de contribución más uniforme. Con base en la clasificación de predictores del Cribado de Predictores, ejecutamos un modelo híbrido para combinar el Modelo de Ajuste, Neural, de Partición y de Conjunto para predecir el rendimiento del dispositivo. También implementamos iteraciones de combinación recursivas y establecimos un criterio de parada para garantizar el desarrollo eficiente del modelo.
Este proyecto JMP nos ha permitido mejorar nuestras capacidades predictivas y extraer información valiosa para el diseño del dispositivo. El tiempo del ciclo de desarrollo de nuevos productos se puede reducir significativamente gracias a un modelo predictivo fiable.
Hola a todos. Soy Chen-Chih Hsu. Soy ingeniero de procesos en Applied Materials. Hoy presentaré un método híbrido de cribado de predictores y RSM de mínimos cuadrados. La presentación es una colaboración entre Charles y yo.
La industria de semiconductores enfrenta desafíos para predecir el rendimiento del dispositivo durante todo el proceso de fabricación. Esta falta de predictibilidad ha resultado en una disminución del rendimiento y un aumento de los costos. Para abordar este problema, la motivación es desarrollar un modelo estadístico para predecir el rendimiento del dispositivo (que es nuestra Y), basado en nuestros datos de metrología en línea (que es nuestra X). En el proceso de fabricación, realizamos mediciones de deposición, litografía, bordes y algunas mediciones de metrología en línea.
Si podemos construir un modelo para predecir nuestra Y, podemos proporcionar retroalimentación a los modelos anteriores para monitorear cualquier cambio en el proceso, lo que nos permitirá mejorar el control de calidad, aumentar el rendimiento e incluso optimizar todo el flujo del proceso. En nuestro conjunto de datos, tenemos tres respuestas y unos 300 predictores. Entre todos estos predictores, tenemos... Hay algunos... Para cada respuesta, tenemos unos 200 predictores. Entre todos estos predictores, hay algunos predictores independientes para cada Y, y también hay algunos predictores compartidos entre todos los Y. Como pueden ver, este es un modelo muy complejo.
A lo largo de este informe, queremos explorar varias preguntas clave. Por ejemplo, queremos comprender por qué Y1 e Y2 muestran correlaciones más altas. Además, queremos conocer la relación entre Y y X para saber cómo optimizar el rendimiento de nuestro dispositivo. Todas estas preguntas son fundamentales para comprender completamente este proyecto. Dado que se trata de un modelo complejo, primero utilizamos un enfoque multivariable para comprobar la relación entre YY, YX y XX.
Si observamos la relación entre las Y, con base en este gráfico multivariable, podemos observar que tienen una relación básicamente positiva. Estas Y no compiten entre sí, lo cual es razonable, ya que en nuestro diseño, el objetivo es aumentar las tres Y juntas. Además, dado que cada Y cuenta con predictores independientes que las controlan, es menos probable que interfieran entre sí. Este diseño es deseable porque nos brinda un mejor rendimiento del dispositivo.
A continuación, podemos observar la causalidad de YX. Si observan la columna de la izquierda, pueden ver que tenemos una relación YX muy fuerte, y que existe una relación lineal entre Y y X. Idealmente, debido a esta relación, deberíamos poder construir un modelo basado en todas las X para predecir nuestra Y.
Ahora, podemos investigar la dependencia de XX. Al comparar todos los valores de X, se observa que algunas relaciones entre XX son muy fuertes. Es muy lineal. Sin embargo, algunas no lo son tanto... En el caso de otras, no son tan significativas como la relación lineal aquí. Esto indica que nuestro XX presenta graves problemas de multicolinealidad. Será muy difícil determinar el efecto de cada predictor. Nuestra solución es realizar más investigaciones para comprender por qué algunos valores de X presentan problemas de multicolinealidad. Además, al construir un modelo, debemos eliminar los términos menos significativos y realizar una validación del modelo.
Al principio de mi enfoque, utilizo este modelo cuadrado para incorporar todos mis predictores al modelo de ajuste, y podemos observar cómo responderá mi YY. Sin embargo, nos encontramos con varios desafíos. Primero, si tomamos el Y1 como ejemplo, al ajustar el modelo con todos los predictores, observamos un problema de sobreajuste porque el R-cuadrado es mayor que el R-cuadrado ajustado en más del 10 %.
El segundo problema es la multicolinealidad. Como mencioné anteriormente, en la relación XX con algunos términos X, observamos una relación lineal muy marcada. Si observamos el término VIF en la tabla de Estimaciones de Parámetros, se puede observar que el VIF de algunos predictores es muy alto, por lo que esto no es deseable.
El siguiente punto es que también observamos una interacción muy fuerte en nuestro modelo, ya que si analizamos el informe de resumen, podemos sumar el efecto principal y el efecto total. Para ello, la diferencia entre el efecto principal y el efecto total será el efecto de interacción. Sin embargo, según este modelo, la interacción es superior al 36 %. Esto también demuestra que tenemos una interacción fuerte en este modelo. Debido a la interacción, intento incluir todos los predictores en el modelo R-cuadrado, considerando también todos los términos de interacción. Sin embargo, el JMP me genera un mensaje de error porque no tenemos suficiente disminución de libertad.
Aquí, enumero el número de predictores y la disminución de libertad que necesitamos para construir un modelo. Por ejemplo, considerando nuestra Y, tenemos alrededor de 200 predictores. Si queremos considerar la intersección, el efecto principal, los términos cuadráticos y los términos de interacción, necesitamos alrededor de 20 000 grados de libertad para considerar toda la interacción y construir un modelo RSM, lo cual no es factible con mi conjunto de datos.
Considerando el número total de datos y el predictor, parece razonable seleccionar aproximadamente 20 predictores para nuestro análisis, ya que si podemos reducir nuestros predictores a unos 20, solo necesitaremos unos 250 puntos de datos para construir un modelo. Debido a todos estos desafíos, necesitamos avanzar hacia la minería de datos e identificar los predictores clave para un mejor modelo. En el análisis JMP, mi enfoque se centrará principalmente en encontrar un modelo mejor con un conjunto de R-cuadrado ajustado, aunque RMSC, no queremos ningún problema de sobreajuste y queremos que este modelo sea estable. También necesitamos identificar los predictores clave para la simplificación del modelo. Probé tres análisis diferentes aquí.
Primero, usamos un método neuronal. Este es un método de aprendizaje automático porque puede considerar efectos no lineales y de interacción. El método neuronal me proporciona el modelo y los predictores clave. Segundo, también probé un método de partición, que utiliza un enfoque de árbol de decisión para clasificar los predictores y encontrar la mejor manera de predecir la respuesta. También puede proporcionarme modelos y predictores clave. Tercero, usé el cribado de predictores. Utilicé el enfoque de bosque aleatorio para identificar los predictores fuertes y sensibles. Sin embargo, con este método, solo podemos encontrar los predictores clave sin proporcionar un modelo.
El otro tema que quiero abordar es que aún podemos resolver el modelo complejo sin usar JMP Pro. Debido a que JMP Pro usa IA y ofrece análisis más avanzados, incluyendo modelado avanzado, comparación de modelos, selección y validación cruzada de modelos. Sin embargo, al usar JMP, no tenemos esta capacidad. Para superar esta limitación, podemos usar un enfoque diferente. Por ejemplo, podemos usar el modelo híbrido para combinar el cribado de predictores y diferentes métodos de modelado. También podemos comparar manualmente cada modelo por nosotros mismos, y también podemos usar el modelo de conjunto con nuestro modelo actual para construir un modelo mejor. Para la validación cruzada, también podemos intentar usar JMP, donde JSL Scripting es para la validación cruzada, pero esta parte no se cubrirá en este informe.
Bien, veamos mi primer análisis del modelo predictivo. Empezamos con el análisis de redes neuronales. En este análisis, también uso el Y1 como ejemplo. Aquí, usamos el KFold con K = 5 y nodos ocultos = 20, ya que incluye validación cruzada para mejorar la estabilidad y reducir el sobreajuste del modelo neuronal. Sin embargo, dado que el método neuronal es un modelo matemático muy complejo, lo realicé cinco veces y los resultados son muy diferentes.
Como se muestra en estos tres puntos destacados, se puede observar que las diferencias entre el conjunto de entrenamiento y el de validación son muy diferentes. Esto indica que este modelo no es estable y que podría existir un problema de sobreajuste. Incluso a veces, por ejemplo, este Y puede generar un R-cuadrado alto con un sobreajuste bajo. Al ejecutar el modelo neuronal varias veces, sabemos que la mayor parte del modelo neuronal presentará el problema de sobreajuste, lo que lo hace muy estable para aplicarlo a nuestro conjunto de datos.
Además, podemos usar el Prediction Profiler para clasificar la importancia de diferentes predictores. Este método muestra que el efecto de interacción representa aproximadamente el 85% del modelo, lo que indica una relación muy no lineal entre los predictores y la respuesta. Además, los cuatro predictores principales muestran un efecto total similar, lo que dificulta la optimización del modelo. Además, el efecto total es mayor que el efecto principal. Esto demuestra que la interacción es muy fuerte debido a la gran transformación matemática detrás del modelo. En conclusión, el método neuronal no es adecuado para identificar los predictores clave debido a su inestabilidad y sobreajuste.
Nuestro siguiente análisis consiste en utilizar particiones. Partition utiliza un enfoque de clasificación binaria tipo árbol para categorizar los predictores y encontrar el mejor modelo para las predicciones. En mi análisis, utilizo una porción de validación de 0,2. En comparación con el resultado del modelo neuronal, el R-cuadrado es similar, pero si se observa la clasificación de estos predictores, los seis principales contribuyen a aproximadamente el 80 % de la varianza, y también el primer predictor es el que más contribuye. Al utilizar este método de partición, la mayoría de los recursos se asignan al primero, por lo que la porción restante de los demás predictores disminuye.
Dada la inestabilidad que observamos en el modelo neuronal, también realizamos múltiples ejecuciones. Sigo observando un R-cuadrado muy diferente entre cada conjunto de entrenamiento y el de validación. Por lo tanto, este modelo aún no es adecuado para identificar los predictores clave debido a su inestabilidad y sobreajuste.
A partir de nuestros resultados anteriores, este es un breve resumen para comparar el modelo de mínimos cuadrados, la red neuronal y las particiones. Se puede observar que, para cada modelo, por ejemplo, el de mínimos cuadrados estándar, tienen un R-cuadrado más alto, pero aún existe el problema del sobreajuste y una fuerte multicolinealidad. Este método solo considera el efecto principal. Para el modelo neuronal y la partición, también existe el problema del sobreajuste, ya que no son estables y, además, ninguno de estos métodos puede encontrar los predictores clave. Necesitamos considerar otro modelo para encontrar los predictores clave.
Bien, del estudio anterior, sabemos que un nuevo rol en la partición no es adecuado para nuestro modelo. A continuación, utilizamos un cribado de predictores. Usamos el método de partición Bootstrap Random Forest. Este método utiliza árboles de decisión múltiples para mejorar la estabilidad seleccionando diferentes números de predictores y predictores aleatorios.
Al configurar este modelo, utilicé 5000 árboles porque esto puede generar un modelo más estable. Al ejecutar este análisis, el cálculo me tomó unos 15 minutos, lo cual sigue siendo aceptable para mi análisis. Una vez que tenemos la clasificación de estos predictores, también queremos saber cuál es el número óptimo de predictores que debemos usar. Por lo tanto, creamos un gráfico de porciones acumuladas para visualizar la contribución acumulada de los predictores.
Por ejemplo, si elegimos 23 predictores, podemos cubrir aproximadamente el 60% de la contribución; si elegimos 75, podemos cubrir aproximadamente el 80%. Esto concuerda con el principio de Pareto del 20% al 80%. Dado que el objetivo principal de mi proyecto es reducir significativamente la complejidad del modelo, elijo usar los 23 predictores para mi análisis. En JMP, la función de Cribado de Predictores solo nos ayuda a identificar los parámetros importantes sin proporcionar un modelo. Para abordar esta limitación, utilizamos un modelo híbrido que combina el Cribado de Predictores y el modelo de Ajuste para simular el algoritmo Random Forest en JMP Pro. Este resultado de este modelo híbrido demuestra que no existe riesgo de sobreajuste.
Además, si observamos el VIF, aunque todavía existen algunos con valores superiores a 10, podemos observar que la mayoría de los predictores que utilizamos son inferiores a 10. Para comprender mejor por qué algunos de nuestros términos aún muestran un VIF más alto, realizamos un análisis de variables de conglomerados para estos términos con un VIF alto. Tras el análisis, todos estos predictores se pueden dividir en dos grupos.
El primero está resaltado en naranja, y el segundo grupo, en azul. Al revisar nuestros datos [inaudible 00:21:10], todos los predictores del primer grupo tienen un CD similar. Estos tres tienen otro CD. Esto nos indica que, al crear el modelo, no necesitamos incluir todos estos predictores. Dado que este grupo está altamente correlacionado, solo necesitamos elegir uno para incluirlo en nuestro modelo.
Basándonos en el análisis previo de la variable de conglomerado, pudimos reducir los 23 predictores iniciales a aproximadamente 18. Después de eso, todos los términos VIF estarán por debajo de 10. Además, dado que hemos reducido significativamente el número total de predictores de aproximadamente 200 a 18, ahora podemos considerar la interacción bidireccional. Este resultado muestra que para nuestro modelo híbrido dos, con la interacción bidireccional considerada, se puede ver que el R-cuadrado se mejora en aproximadamente un 20% en comparación con el modelo de efecto principal únicamente. Además, este modelo híbrido para diseñar todo superó el método neuronal y de partición anterior. Al optimizar las variables predictoras y considerar la interacción bidireccional, hemos obtenido un modelo más refinado y mejorado.
A continuación, basándonos en el aprendizaje previo de la metodología, podemos aplicarlo a los años 2 y 3. En resumen, se puede observar que, al combinar el modelo híbrido con el modelo de cribado de predictores y el modelo de ajuste, para estas tres respuestas, podemos reducir los predictores en aproximadamente un 90 % con respecto al conjunto de datos original. Además, el R-cuadrado sigue siendo aceptable, situándose entre el 70 y el 80 %. Tras reducir los predictores, no se observan problemas de sobreajuste ni de VIF.
Mi siguiente paso es comparar los diferentes modelos, incluyendo el uso del Cribado de Predictores combinado con el modelo Neural, y el Cribado de Predictores combinado con el modelo de Partición. Como pueden ver, para el modelo Neural, considerando todos los predictores de nuestra diapositiva anterior, se observa un grave riesgo de sobreajuste. Sin embargo, si comparamos este modelo híbrido con el Cribado de Predictores y el Neural, aunque aún existe cierto riesgo de sobreajuste, al comparar el Neural con todos los predictores, el riesgo de sobreajuste es menor. En cambio, para la Partición con los demás predictores y este modelo híbrido con el Cribado de Predictores y el modelo de Partición, no se observa una mejora significativa con este método.
Mi siguiente paso es comparar todos estos modelos. Aquí, enumero todos los modelos disponibles. Tenemos el modelo de mínimos cuadrados y varios modelos híbridos: cribado de predictores combinado con neuronal, cribado de predictores combinado con particiones, y cribado de predictores combinado con mínimos cuadrados y su interacción. Como pueden ver, para este modelo híbrido, solo necesitamos unos 18 predictores y tenemos un R-cuadrado aceptable. En general, todos los modelos híbridos tienen un R-cuadrado mínimo alto y un R-cuadrado mínimo ajustado alto. ¿Significa esto que, al usar este modelo, siempre podemos obtener mejores resultados que los otros?
Aquí enumero dos ejemplos. En este ejemplo, comparo los modelos neuronal híbrido, de partición híbrida y de mínimos cuadrados híbridos con nuestros datos reales, que constituyen nuestra respuesta. En este ejemplo, si selecciono este punto de datos, se puede observar que, para la predicción correspondiente a estos tres modelos, el modelo neuronal híbrido ofrece un valor más cercano al resultado real. Pero, por otro lado, si selecciono este punto de datos y estas tres tasas corresponden a la predicción correspondiente para cada modelo, se puede observar que, para este caso, el modelo de mínimos cuadrados híbridos ofrece una mejor predicción.
Me pregunto si podemos combinar todos estos modelos para mejorar aún más nuestras predicciones. Esta es una función de JMP Pro que encontré en este enlace. Estas funciones introducen un concepto llamado modelado de conjunto, conocido como modelo de modelo. La idea es que podemos seleccionar múltiples modelos de alto rendimiento para construir un modelo de conjunto. Me inspira el potencial del modelo de conjunto y me interesa explorar su aplicación en mi conjunto de datos actual. Siguiendo la misma metodología, quiero saber si podemos crear un modelo combinado con JMP.
Actualmente, contamos con tres modelos híbridos diferentes, como ya he mostrado. Para aplicar la metodología del modelo de conjunto, utilizamos diferentes enfoques para combinarlos. Esto incluye el modelo cinco. Queremos usar el algoritmo de promedio, por lo que simplemente promediamos los tres modelos actuales. El modelo seis es el algoritmo ponderado. A cada modelo le asignaremos un peso diferente para ver si podemos obtener un modelo mejor. El modelo también utilizará el algoritmo neuronal para combinar estos tres modelos. El modelo ocho utilizará el algoritmo de partición para combinarlos.
Esta tabla resume la media de una respuesta, el RMSE, el R-cuadrado, el R-cuadrado ajustado y el riesgo potencial. Si utilizamos este gráfico para visualizar la tabla, podemos ver que, para estos datos, la media de la respuesta es el rango, y el RMSE es el rango. Clasifico los modelos de R-cuadrado ajustado del más alto al más bajo utilizando diferentes esquemas de colores. Como se puede observar, al usar el modelo siete, si combinamos estos tres modelos con un algoritmo neuronal, obtenemos el R-cuadrado ajustado base y el RMSE más bajo.
En conclusión, nuestra investigación sobre el enfoque híbrido de cribado de predictores y modelado de mínimos cuadrados nos permite construir un modelo con una reducción de predictores de aproximadamente el 90 %. Con base en este modelo, podemos comprender la combinación positiva de YY, así como cooptimizar YX y reducir la dependencia de XX. A lo largo del desarrollo de los diversos modelos híbridos y el modelo de conjunto, hemos construido varios modelos para predecir el rendimiento del dispositivo.
De cara al futuro, tenemos oportunidades para nuestro trabajo futuro. Podemos usar el Cribado de Predictores para comparar todas las diferencias de clasificación entre diferentes modelos. También podemos intentar usar iteraciones de combinación recursivas para determinar los criterios de parada. También queremos integrar el Panel de Control o el Script de Grupo para resumir y comparar todos los KPI críticos del modelo.
También quiero agradecer a mi mentor, Charles, por su mentoría y el gran apoyo técnico que me brindó en este proyecto. También quiero agradecer al equipo de PPB del CTO de Applied Materials por su gran apoyo en la recopilación de todos los datos. Con esto concluyo mi presentación de hoy. Gracias.
