Mensaje de advertencia para el proceso gaussiano: el algoritmo de estimación de verosimilitud no convergióEstimados expertos del JMP:
Recientemente realicé un análisis de densidad de error (DOE) de relleno espacial con un diseño de hipercubo latino de 700 ejecuciones. Luego utilicé el proceso gaussiano para ajustar los datos. El gráfico "Real vs. Predicho" se ve muy bien y la mayoría de los datos se ubican perfectamente a lo largo de la línea de 45 grados. Sin embargo, recibí un mensaje de advertencia que decía:
Advertencia: El algoritmo de estimación de verosimilitud no convergió.
Adjunto encontrará el informe del modelo del proceso gaussiano.
He buscado y no puedo encontrar ninguna documentación/discusión sobre este mensaje de advertencia.
¿Podrías por favor brindarme alguna orientación?
-¿Qué causa este mensaje?
-¿Qué significa este mensaje?
¿Puedo seguir confiando en el resultado? Si no, ¿qué debo hacer para corregir el modelo?
Gracias.
Atentamente,
Año
Modelado estadístico avanzadoOrganización del contenidoExploración y visualización de datosDiseño de experimentosRe: Mensaje de advertencia para el proceso gaussiano: el algoritmo de estimación de probabilidad no convergió¿Qué hay de eliminar airgap2? Después de eso, ¿cuánto cambia -2Loglikelihood, cuánto cambia la predicción?
El método de ajuste del modelo es el de máxima verosimilitud. Es una técnica de optimización que trata de encontrar el máximo en una superficie. Idealmente, las estimaciones son donde la superficie alcanza su parte superior. Cuando vea este mensaje de advertencia, generalmente significa que el algoritmo no está seguro de llegar a la cima. Sin embargo, no necesariamente significa que no. Aquí, sospecho que llega a la cima, pero no estoy seguro, debido a airgap2, que contribuye poco al modelo.
Re: Mensaje de advertencia para el proceso gaussiano: el algoritmo de estimación de probabilidad no convergióMuchas gracias por la pronta respuesta. ¿Puede explicar un poco más sobre los métodos de ajuste del modelo?
Hay 700 tratamientos en mi DOE. ¿Significa que, para cada tratamiento, el algoritmo intenta encontrar el máximo en una superficie?
¿Qué es esa superficie a la que te refieres?
Gracias.
Re: Mensaje de advertencia para el proceso gaussiano: el algoritmo de estimación de probabilidad no convergióCada tratamiento en su caso es una observación. Todos sus 700 tratamientos forman un dato. El modelo GP se basa en la definición de la probabilidad de observar los parámetros dados de datos. Esta probabilidad es una función de parámetros desconocidos. Esta función se llama función de verosimilitud. Esta función se puede visualizar como una superficie sobre el sistema de coordenadas definido por los parámetros. Así que solo hay una superficie. El método de máxima verosimilitud intentará identificar el lugar más alto de esta superficie.
Aquí hay un enlace al material que creo que es accesible y también riguroso: Estimación de máxima verosimilitud Y puede omitir el Ejemplo 1-1.
La definición del modelo GP se puede encontrar aquí: Detalles estadísticos para la plataforma de procesos gaussianos En términos generales, un modelo GP asume que los datos provienen de una distribución normal multivariante. Con tal información, se define una función de verosimilitud.
Re: Mensaje de advertencia para el proceso gaussiano: el algoritmo de estimación de probabilidad no convergió¡Gracias Peng por tu respuesta tan informativa!
Si no le importa, ¿puede explicar también la diferencia entre la fórmula de predicción y los valores predichos de jackknife?
¿Por qué la gráfica actual por predicha traza el valor real contra el valor predicho de jackknife en lugar del valor predicho por la fórmula de predicción?
Además, sin usar la pepita, ¿el valor predicho de la fórmula de predicción es exactamente el mismo que los datos reales de la simulación? ¿Como funciona esto?
¿Qué aspecto tiene el perfil de varianza de predicción (el que se encuentra en la pestaña 'evaluar diseño' en un DOE de diseño factorial) para una predicción GP? ¿Es aleatorio?
¿Hay alguna forma de validar el modelo GP? Normalmente ejecutaré unos cientos de puntos adicionales y haré una prueba y una prueba de varianza desigual del residual entre el conjunto de datos original (valor predicho - valor de simulación) y el conjunto de datos de validación (valor predicho - valor de simulación). ¿Sigue siendo válido este enfoque para el modelo GP?
Gracias.
Re: Mensaje de advertencia para el proceso gaussiano: el algoritmo de estimación de probabilidad no convergióUna predicción (sin ajuste nugget, usando todos los datos) debería ser igual a la observación correspondiente. Esta es la naturaleza del modelo GP. Si grafica los valores reales frente a este tipo de valores predichos, obtiene una línea recta, lo que no le brinda mucha información sobre el rendimiento del modelo en datos nuevos. navaja ( Remuestreo de navaja ) predicción predice para cada observación omitiendo esa observación. Un modelo Jackknife GP se ajustará perfectamente a todas las observaciones restantes, excepto a la que se dejó de lado. Este enfoque brinda una idea de cómo funciona el modelo con nuevos datos. Por lo tanto, son diferentes.
Sin pepita, volvemos al modelo vainilla GP. No estoy seguro de lo que quieres decir con "cómo funciona esto". Con nugget, es posible que desee analizar esta técnica: Regresión de cresta Como mencioné, el modelo asume una distribución normal multivariante, y la tarea es descubrir la estructura de covarianza, que a veces puede ser un desafío sin trucos como la técnica de la cresta.
No estoy familiarizado con las aplicaciones en las plataformas DOE. Si puede elaborar, por ejemplo, los pasos para obtener el informe específico que le interesa, tal vez pueda ayudarlo más. Es posible que desee ver si otros miembros de la comunidad pueden responder. Si no ve ninguna respuesta por un tiempo, considere abrir un hilo separado sobre esa pregunta específica.
No estoy seguro de validar un modelo GP. Pero ciertamente podemos evaluar su desempeño con nuevos datos. Una forma de hacerlo es ver si sus nuevas observaciones están dentro de sus intervalos de predicción. Para hacer eso, guarde las fórmulas de Predicción y Varianza, luego agregue sus nuevos datos al final de la tabla. Las fórmulas se evaluarán para producir predicciones y variaciones. Con la observación, su predicción, su varianza de predicción, el resto es un ejercicio de prueba z. Y no estoy seguro de si la varianza igual es relevante en este contexto.
Re: Mensaje de advertencia para el proceso gaussiano: el algoritmo de estimación de probabilidad no convergióMuchas gracias de nuevo por la respuesta muy informativa.
Todavía tengo algunas preguntas con respecto a la validación del modelo.
Adjunté el archivo JMP en la respuesta con el conjunto de datos original (primeros 700 puntos) y el conjunto de datos de validación (últimos 300 puntos).
Normalmente calculo la diferencia entre el valor predicho y los resultados reales de la simulación para ambos conjuntos de datos y hago una prueba para ver si la diferencia de dos conjuntos de datos tiene la misma media. Para este conjunto de datos en particular, la prueba t me dice que la diferencia entre los dos conjuntos de datos no es estadísticamente diferente.
Sin embargo, cuando probé su método para probar la varianza usando la fórmula de varianza predicha de los dos conjuntos de datos, me dice que la media de la varianza es estadísticamente diferente.
¿Qué enfoque es correcto para validar la capacidad de predicción del modelo?
Gracias.
Re: Mensaje de advertencia para el proceso gaussiano: el algoritmo de estimación de probabilidad no convergióNo deletreé los pasos de mi enfoque. Aquí uso sus datos para ilustrar.
Primero crea una nueva columna
Este es el error estándar predicho.
Ahora cree otra columna, a la que llamo "6sigma". Esta es una columna indicadora para ver si el valor absoluto de la diferencia está dentro de 6 sigma. Sí significa 1, no significa 0. Para filas de entrenamiento, asigne faltantes. Asegúrese de que el tipo de columna sea categórico.
Ahora anule la exclusión de las filas de validación. Y ejecute Distribución en él.
Veo aproximadamente el 95% Sí. Esto me dice que el modelo está haciendo un buen trabajo.
Re: Mensaje de advertencia para el proceso gaussiano: el algoritmo de estimación de probabilidad no convergióMuchas gracias por seguir elaborando su enfoque. Eso es genial.
No entiendo muy bien cómo interpretar la función if en JMP, ¿puede explicarme amablemente? Es una "." después de -> en la primera fila de la ecuación? ¿Qué significa eso?
¿Cómo asignar 'faltantes' a las filas de entrenamiento?
Dices que el 95% te dice que la modelo está haciendo un buen trabajo. ¿Cuál es el criterio para tal juicio?
¿Puede adjuntar el archivo con la evaluación del modelo en la respuesta?
Gracias.
Re: Mensaje de advertencia para el proceso gaussiano: el algoritmo de estimación de probabilidad no convergióPuede encontrar la sintaxis sobre la función IF aquí: si . O si está preparado para el desafío de aprender el lenguaje de secuencias de comandos JMP, puede comenzar aquí: Guía de secuencias de comandos .
La declaración If que mostré se puede leer como: si el número de fila es menor o igual a 700, asigne un valor faltante; de lo contrario, dependiendo de si el valor absoluto de la diferencia es menor a 3 errores estándar, asigne 1 o 0.
En otras palabras, la fórmula calcula si un error de predicción está dentro de los 6 errores estándar, o llámelo 6 sigma.
Lo que dije de que la modelo está haciendo un buen trabajo fue subjetivo. Pero voy a explicar lo que quise decir. Si el error de predicción tiene una distribución Normal, el 6 sigma pone entre paréntesis la parte media de la distribución, que contiene más del 99 % de la probabilidad. Deseamos ver que los errores de predicción caigan en este grupo con más del 99 % de probabilidad. Entonces decimos que el modelo está haciendo su trabajo.
Ahora, para estos datos en particular, el conjunto de validación es de aproximadamente 300 observaciones, y vemos que aproximadamente el 95 % cae en este grupo. ¿Malas noticias? No necesariamente. Mi declaración anterior sobre el 99 % de probabilidad suponía que hay muchos más datos de validación que se pueden probar, y deseamos ver una probabilidad del 99 % o más. Para apenas 300 observaciones, con un 95%, es un juicio subjetivo. Si veo el 80%, el 70%, el 60%, cada vez generaré más dudas.
Adjunto el archivo solicitado.
