Message d'avertissement concernant le processus gaussien : l'algorithme d'estimation de vraisemblance n'a pas convergé.Chers experts JMP,
J'ai récemment réalisé un plan d'expériences (DOE) de type hypercube latin avec remplissage d'espace, comprenant 700 essais. J'ai ensuite utilisé un processus gaussien pour ajuster les données. Le graphique « Valeurs réelles vs valeurs prédites » est très satisfaisant et la plupart des données se situent parfaitement sur la droite à 45 degrés. Cependant, j'ai reçu le message d'avertissement suivant :
Avertissement : L'algorithme d'estimation de vraisemblance n'a pas convergé.
Veuillez trouver ci-joint le rapport sur le modèle de processus gaussien.
J'ai cherché partout et je n'ai trouvé aucune documentation/discussion concernant ce message d'avertissement.
Pourriez-vous, s'il vous plaît, me donner quelques conseils ?
-Quelle est la cause de ce message ?
-Que signifie ce message ?
-Puis-je encore faire confiance à ce résultat ? Sinon, que dois-je faire pour corriger le modèle ?
Merci.
Cordialement,
Année
Modélisation statistique avancéeOrganisation du contenuExploration et visualisation des donnéesConception des expériencesRe : Message d'avertissement pour le processus gaussien : l'algorithme d'estimation de la probabilité n'a pas convergéQue diriez-vous de supprimer airgap2 ? Après cela, dans quelle mesure -2Loglikelihood change-t-il, dans quelle mesure la prédiction change-t-elle ?
La méthode d'ajustement du modèle est celle du maximum de vraisemblance. C'est une technique d'optimisation qui cherche à trouver le maximum sur une surface. Idéalement, les estimations sont là où la surface atteint son sommet. Lorsque vous voyez ce message d'avertissement, cela signifie généralement que l'algorithme n'est pas sûr d'atteindre le sommet. Pas nécessairement signifie que ce n'est pas le cas. Ici, je soupçonne qu'il atteint le sommet, mais pas sûr, à cause de l'entrefer2, qui contribue peu au modèle.
Re : Message d'avertissement pour le processus gaussien : l'algorithme d'estimation de la probabilité n'a pas convergéMerci beaucoup pour la réponse rapide. Pouvez-vous s'il vous plaît élaborer un peu plus sur les méthodes d'ajustement du modèle ?
Il y a 700 traitements dans mon DOE. Est-ce à dire que, pour chaque traitement, l'algorithme essaie de trouver le maximum sur une surface ?
Quelle est cette surface dont vous parlez ?
Merci.
Re : Message d'avertissement pour le processus gaussien : l'algorithme d'estimation de la probabilité n'a pas convergéChaque traitement dans votre cas est une observation. Tous vos 700 traitements forment une donnée. Le modèle GP s'appuie sur la définition de la probabilité d'observer les données données paramètres. Cette probabilité est fonction de paramètres inconnus. Cette fonction est appelée fonction de vraisemblance. Cette fonction peut être visualisée comme une surface sur le système de coordonnées défini par les paramètres. Il n'y a donc qu'une surface. La méthode du maximum de vraisemblance tentera d'identifier l'endroit le plus élevé sur cette surface.
Voici un lien vers le matériel qui me semble accessible et aussi rigoureux : Estimation de vraisemblance maximale Et vous pouvez ignorer l'exemple 1-1.
La définition du modèle GP peut être trouvée ici : Détails statistiques pour la plate-forme de processus gaussien En gros, un modèle GP suppose que les données proviennent d'une distribution normale multivariée. Avec ces informations, une fonction de vraisemblance est définie.
Re : Message d'avertissement pour le processus gaussien : l'algorithme d'estimation de la probabilité n'a pas convergéMerci Peng pour votre réponse très instructive!
Si cela ne vous dérange pas, pouvez-vous également expliquer la différence entre la formule de prédiction et les valeurs prédites jackknife ?
Pourquoi le graphique réel par prédit trace-t-il la valeur réelle par rapport à la valeur prédite jackknife au lieu de la valeur prédite par la formule de prédiction ?
De plus, sans utiliser la pépite, la valeur prédite de la formule de prédiction est exactement la même que les données de simulation réelles ? Comment cela marche-t-il?
À quoi ressemble le profil de variance de prédiction (celui de l'onglet "Évaluer la conception" dans un DOE de conception factorielle) pour une prédiction GP ? Est-ce aléatoire ?
Existe-t-il un moyen de valider le modèle GP ? Je vais normalement exécuter quelques centaines de points supplémentaires et faire au test et un test de variance inégale du résidu entre l'ensemble de données d'origine (valeur prédite - valeur de simulation) et l'ensemble de données de validation (valeur prédite - valeur de simulation). Cette approche est-elle toujours valable pour le modèle GP ?
Merci.
Re : Message d'avertissement pour le processus gaussien : l'algorithme d'estimation de la probabilité n'a pas convergéUne prédiction (sans ajustement de pépite, utilisant toutes les données) doit être égale à l'observation correspondante. C'est la nature du modèle GP. Si vous tracez les valeurs réelles par rapport à ce type de valeurs prédites, vous obtenez une ligne droite, ce qui ne vous donne pas beaucoup d'informations sur les performances du modèle sur de nouvelles données. couteau ( Rééchantillonnage jackknife ) la prédiction prédit pour chaque observation en omettant cette observation. Un modèle Jackknife GP s'adaptera parfaitement à toutes les observations restantes, à l'exception de celle qui a été omise. Cette approche donne un aperçu de la performance du modèle sur de nouvelles données. Par conséquent, ils sont différents.
Sans pépite, on revient au modèle vanille GP. Je ne sais pas ce que vous entendez par "comment ça marche". Avec nugget, vous voudrez peut-être vous pencher sur cette technique : Régression de crête Comme je l'ai mentionné, le modèle suppose une distribution normale multivariée et la tâche consiste à déterminer la structure de covariance, ce qui peut parfois être difficile sans astuces comme la technique de la crête.
Je ne connais pas les applications des plates-formes DOE. Si vous pouvez élaborer, par exemple, les étapes pour obtenir le rapport spécifique qui vous intéresse, je peux peut-être vous aider davantage. Vous voudrez peut-être voir si d'autres membres de la communauté peuvent répondre. Si vous ne voyez aucune réponse pendant un certain temps, veuillez envisager d'ouvrir un fil séparé sur cette question spécifique.
Je ne suis pas sûr de valider un modèle GP. Mais nous pouvons certainement évaluer ses performances sur de nouvelles données. Une façon de le faire est de voir si vos nouvelles observations se situent dans leurs intervalles de prédiction. Pour ce faire, enregistrez les formules de prédiction et de variance, puis ajoutez vos nouvelles données au bas du tableau. Les formules seront évaluées pour produire des prédictions et des variances. Avec l'observation, sa prédiction, sa variance de prédiction, le reste est un exercice de test z. Et je ne suis pas sûr que la variance égale soit pertinente dans ce contexte.
Re : Message d'avertissement pour le processus gaussien : l'algorithme d'estimation de la probabilité n'a pas convergéMerci encore pour la réponse très instructive.
J'ai encore quelques questions concernant la validation du modèle.
J'ai joint le fichier JMP dans la réponse avec l'ensemble de données d'origine (700 premiers points) et l'ensemble de données de validation (300 derniers points).
Je calculerai normalement la différence entre la valeur prédite et les résultats de simulation réels pour les deux ensembles de données et je ferai un test pour voir si la différence de deux ensembles de données a la même moyenne. Pour cet ensemble de données particulier, le test t me dit que la différence entre les deux ensembles de données n'est pas statistiquement différente.
Cependant, lorsque j'ai essayé votre méthode pour tester la variance en utilisant la formule de variance prédite des deux ensembles de données, cela m'indique que la moyenne de la variance est statistiquement différente.
Quelle approche est correcte pour valider la capacité de prédiction du modèle ?
Merci.
Re : Message d'avertissement pour le processus gaussien : l'algorithme d'estimation de la probabilité n'a pas convergéJe n'ai pas précisé les étapes de ma démarche. Ici, j'utilise vos données pour illustrer.
Créez d'abord une nouvelle colonne
Il s'agit de l'erreur standard prédite.
Créez maintenant une autre colonne, que je l'appelle "6sigma". Il s'agit d'une colonne d'indicateur pour voir si la valeur absolue de la différence est dans 6-sigma. Oui signifie 1, non signifie 0. Pour les lignes d'entraînement, attribuez manquant. Assurez-vous que le type de colonne est catégoriel.
Désexcluez maintenant les lignes de validation. Et lancez Distribution dessus.
Je vois environ 95% Oui. Cela me dit que le modèle fait du bon travail.
Re : Message d'avertissement pour le processus gaussien : l'algorithme d'estimation de la probabilité n'a pas convergéMerci beaucoup d'avoir développé votre approche. C'est génial.
Je ne comprends pas très bien comment interpréter la fonction if dans JMP, pouvez-vous m'expliquer s'il vous plaît ? Est-ce un "." après le -> dans la première ligne de l'équation ? Qu'est-ce que cela signifie?
Comment attribuer 'manquant' aux lignes d'entraînement ?
Vous dites que 95% vous dit que le modèle fait du bon travail. Quels sont les critères d'un tel jugement?
Pouvez-vous s'il vous plaît joindre le fichier avec l'évaluation du modèle dans la réponse ?
Merci.
Re : Message d'avertissement pour le processus gaussien : l'algorithme d'estimation de la probabilité n'a pas convergéVous pouvez trouver la syntaxe de la fonction IF ici : si . Ou si vous êtes prêt à relever le défi d'apprendre le langage de script JMP, vous pouvez commencer ici : Guide de script .
L'instruction If que j'ai montrée peut être lue comme suit : si le numéro de ligne est inférieur ou égal à 700, attribuez une valeur manquante, sinon, selon que la valeur absolue de la différence est inférieure à 3 erreurs standard, attribuez 1 ou 0.
En d'autres termes, la formule calcule si une erreur de prédiction se situe dans les 6 erreurs standard, ou appelez-la 6 sigma.
Ce que j'ai dit que le modèle fait du bon travail était subjectif. Mais je vais expliquer ce que je voulais dire. Si l'erreur de prédiction a une distribution normale, le 6 sigma encadre la partie médiane de la distribution, qui contient plus de 99 % de la probabilité. Nous souhaitons voir les erreurs de prédiction tomber dans ce seau avec plus de 99 % de chances. On dit alors que le modèle fait son travail.
Maintenant, pour ces données particulières, l'ensemble de validation est d'environ 300 observations, et nous voyons environ 95 % tomber dans ce seau. Mauvaises nouvelles? Pas nécessairement. Ma déclaration précédente à propos de 99% de chance supposait qu'il y avait beaucoup plus de données de validation pouvant être testées, et nous souhaitons voir la chance de 99% +. Pour seulement 300 observations, avec 95%, c'est un jugement subjectif. Si je vois 80%, 70%, 60%, je soulèverai de plus en plus le doute.
Je joins le fichier comme demandé.
