543819_de-DE

liliconcom

Warnmeldung für den Gaußprozess: Der Likelihood-Schätzalgorithmus konvergierte nicht.

Liebe JMP-Experten,

Ich habe kürzlich ein raumfüllendes Versuchsdesign mit lateinischem Hyperwürfel und 700 Durchläufen durchgeführt. Anschließend habe ich die Daten mit einem Gaußprozess angepasst. Das Diagramm „Ist-Werte vs. Vorhersagewerte“ sieht sehr gut aus, und die meisten Datenpunkte liegen perfekt auf der 45°-Linie. Ich erhielt jedoch folgende Warnmeldung:

Warnung: Der Likelihood-Schätzalgorithmus konvergierte nicht.

Im Anhang finden Sie den Bericht zum Gaußprozessmodell.

Ich habe mich umgesehen und konnte keine Dokumentation/Diskussion zu dieser Warnmeldung finden.

Könnten Sie mir bitte freundlicherweise einige Hinweise geben?

-Was verursacht diese Meldung?

Was bedeutet diese Nachricht?

Kann ich dem Ergebnis noch vertrauen? Wenn nicht, was muss ich tun, um das Modell zu korrigieren?

Danke schön.

Beste grüße,

Jahr

Fortgeschrittene statistische ModellierungInhaltsorganisationDatenexploration und -visualisierungVersuchsplanungBetreff: Warnmeldung für den Gaußschen Prozess: Wahrscheinlichkeitsschätzungsalgorithmus konvergierte nicht

Wie wäre es mit dem Entfernen von airgap2? Wie stark ändert sich danach -2Loglikelihood, wie stark ändert sich die Vorhersage?

Die Modellanpassungsmethode ist die Maximum-Likelihood-Methode. Es ist eine Optimierungstechnik, die versucht, das Maximum auf einer Oberfläche zu finden. Idealerweise liegen die Schätzungen dort, wo die Oberfläche ihre Spitze erreicht. Wenn Sie diese Warnmeldung sehen, bedeutet dies normalerweise, dass der Algorithmus nicht sicher ist, ob er die Spitze erreicht. Nicht unbedingt bedeutet es aber nicht. Hier vermute ich, dass es die Spitze erreicht, bin mir aber nicht sicher, aufgrund von airgap2, das wenig zum Modell beiträgt.

Betreff: Warnmeldung für den Gaußschen Prozess: Wahrscheinlichkeitsschätzungsalgorithmus konvergierte nicht

Vielen Dank für die prompte Antwort. Können Sie bitte etwas mehr über die Methoden der Modellanpassung erläutern?

Es gibt 700 Behandlungen in meinem DOE. Bedeutet das, dass der Algorithmus bei jeder Behandlung versucht, das Maximum auf einer Fläche zu finden?

Was ist diese Oberfläche, auf die Sie sich beziehen?

Vielen Dank.

Betreff: Warnmeldung für den Gaußschen Prozess: Wahrscheinlichkeitsschätzungsalgorithmus konvergierte nicht

Jede Behandlung in Ihrem Fall ist eine Beobachtung. Alle Ihre 700 Behandlungen bilden Daten. Das GP-Modell baut auf der Definition der Beobachtungswahrscheinlichkeit der Daten bei gegebenen Parametern auf. Diese Wahrscheinlichkeit ist eine Funktion unbekannter Parameter. Diese Funktion wird Wahrscheinlichkeitsfunktion genannt. Diese Funktion kann als Fläche über dem durch die Parameter definierten Koordinatensystem visualisiert werden. Es gibt also nur eine Oberfläche. Die Maximum-Likelihood-Methode versucht, den höchsten Ort auf dieser Oberfläche zu identifizieren.

Hier ist ein Link zu dem Material, das ich für zugänglich und auch streng halte: Maximum-Likelihood-Schätzung Und Sie können Beispiel 1-1 überspringen.

Die Definition des GP-Modells finden Sie hier: Statistische Details für die Gaussian Process Platform Grob gesagt geht ein GP-Modell davon aus, dass die Daten aus einer multivariaten Normalverteilung stammen. Mit solchen Informationen wird eine Wahrscheinlichkeitsfunktion definiert.

Betreff: Warnmeldung für den Gaußschen Prozess: Wahrscheinlichkeitsschätzungsalgorithmus konvergierte nicht

Danke Peng für deine sehr informative Antwort!

Wenn es Ihnen nichts ausmacht, können Sie bitte auch den Unterschied zwischen der Vorhersageformel und den vorhergesagten Werten des Klappmessers erklären?

Warum hat das Diagramm „Ist durch Vorhersage“ den tatsächlichen Wert gegen den vorhergesagten Wert des Klappmessers aufgetragen, anstatt den Wert, der durch die Vorhersageformel vorhergesagt wurde?

Darüber hinaus ist der vorhergesagte Wert der Vorhersageformel ohne Verwendung des Nuggets genau derselbe wie die tatsächlichen Simulationsdaten? Wie funktioniert das?

Wie sieht das Vorhersagevarianzprofil (das Profil auf der Registerkarte „Design bewerten“ in einem DOE mit faktoriellem Design) für eine GP-Vorhersage aus? Ist es zufällig?

Gibt es eine Möglichkeit, das GP-Modell zu validieren? Normalerweise werde ich ein paar hundert zusätzliche Punkte ausführen und einen Test und einen ungleichen Varianztest des Residuums zwischen dem ursprünglichen Datensatz (vorhergesagter Wert - Simulationswert) und dem Validierungsdatensatz (vorhergesagter Wert - Simulationswert) durchführen. Gilt dieser Ansatz noch für das GP-Modell?

Vielen Dank.

 

 

 

Betreff: Warnmeldung für den Gaußschen Prozess: Wahrscheinlichkeitsschätzungsalgorithmus konvergierte nicht

Eine Vorhersage (ohne Nugget-Anpassung, unter Verwendung aller Daten) sollte der entsprechenden Beobachtung entsprechen. Dies ist die Natur des GP-Modells. Wenn Sie die tatsächlichen Werte im Vergleich zu dieser Art von vorhergesagten Werten darstellen, erhalten Sie eine gerade Linie, die Ihnen nicht viel Aufschluss über die Leistung des Modells bei neuen Daten gibt. Klappmesser ( Jackknife-Resampling ) Vorhersage prognostiziert für jede Beobachtung, indem diese Beobachtung weggelassen wird. Ein Jackknife GP-Modell passt perfekt zu allen verbleibenden Beobachtungen mit Ausnahme der ausgelassenen. Dieser Ansatz gibt einen Einblick in die Leistung des Modells bei neuen Daten. Daher sind sie unterschiedlich.

Ohne Nugget sind wir wieder beim Vanilla-GP-Modell. Ich bin mir nicht sicher, was Sie mit "wie funktioniert das" meinen. Mit Nugget möchten Sie sich vielleicht diese Technik ansehen: Ridge-Regression Wie ich bereits erwähnt habe, geht das Modell von einer multivariaten Normalverteilung aus, und die Aufgabe besteht darin, die Kovarianzstruktur herauszufinden, was manchmal ohne Tricks wie die Ridge-Technik eine Herausforderung sein kann.

Ich bin mit den Anwendungen in DOE-Plattformen nicht vertraut. Wenn Sie näher darauf eingehen können, z. B. Schritte, um den spezifischen Bericht zu erhalten, an dem Sie interessiert sind, kann ich Ihnen vielleicht weiterhelfen. Vielleicht möchten Sie sehen, ob andere Community-Mitglieder antworten können. Wenn Sie für eine Weile keine Antworten sehen, ziehen Sie bitte in Betracht, einen separaten Thread zu dieser speziellen Frage zu eröffnen.

Ich bin mir nicht sicher, ob ich ein GP-Modell validieren soll. Aber sicherlich können wir seine Leistung anhand neuer Daten bewerten. Eine Möglichkeit, dies zu tun, besteht darin, zu prüfen, ob Ihre neuen Beobachtungen innerhalb ihrer Vorhersageintervalle liegen. Speichern Sie dazu Vorhersage- und Abweichungsformeln und hängen Sie dann Ihre neuen Daten an das Ende der Tabelle an. Die Formeln werden ausgewertet, um Vorhersagen und Abweichungen zu erzeugen. Mit der Beobachtung, ihrer Vorhersage, ihrer Vorhersagevarianz ist der Rest eine Z-Test-Übung. Und ich bin mir nicht sicher, ob gleiche Varianz in diesem Zusammenhang relevant ist.

Betreff: Warnmeldung für den Gaußschen Prozess: Wahrscheinlichkeitsschätzungsalgorithmus konvergierte nicht

Nochmals vielen Dank für die sehr informative Antwort.

Ich habe noch einige Fragen zur Modellvalidierung.

Ich habe die JMP-Datei in der Antwort mit dem Originaldatensatz (erste 700 Punkte) und dem Validierungsdatensatz (letzte 300 Punkte) angehängt.

Normalerweise berechne ich die Differenz zwischen dem vorhergesagten Wert und den tatsächlichen Simulationsergebnissen für beide Datensätze und mache einen Test, um zu sehen, ob die Differenz zweier Datensätze denselben Mittelwert hat. Für diesen speziellen Datensatz sagt mir der t-Test, dass der Unterschied für die beiden Datensätze statistisch nicht unterschiedlich ist.

Als ich jedoch Ihre Methode zum Testen der Varianz mit der vorhergesagten Varianzformel der beiden Datensätze ausprobierte, sagte sie mir, dass der Mittelwert der Varianz statistisch unterschiedlich ist.

Welcher Ansatz ist richtig, um die Vorhersagefähigkeit des Modells zu validieren?

Vielen Dank.

 

Betreff: Warnmeldung für den Gaußschen Prozess: Wahrscheinlichkeitsschätzungsalgorithmus konvergierte nicht

Ich habe die Schritte meines Ansatzes nicht buchstabiert. Hier verwende ich Ihre Daten zur Veranschaulichung.

Erstellen Sie zunächst eine neue Spalte

Dies ist der vorhergesagte Standardfehler.

Erstellen Sie nun eine weitere Spalte, die ich "6sigma" nenne. Dies ist eine Indikatorspalte, um zu sehen, ob der absolute Wert der Differenz innerhalb von 6 Sigma liegt. Ja bedeutet 1, nein bedeutet 0. Weisen Sie für Trainingsreihen fehlende zu. Stellen Sie sicher, dass der Spaltentyp kategorial ist.

Heben Sie nun die Validierungszeilen auf. Und führen Sie Distribution darauf aus.

Ich sehe ungefähr 95% Ja. Das sagt mir, dass das Modell gute Arbeit leistet.

 

Betreff: Warnmeldung für den Gaußschen Prozess: Wahrscheinlichkeitsschätzungsalgorithmus konvergierte nicht

Vielen Dank für die weitere Ausarbeitung Ihres Ansatzes. Das ist großartig.

Ich verstehe nicht ganz, wie ich die if-Funktion in JMP interpretieren soll, können Sie das bitte erklären? Ist es ein "." nach dem -> in der ersten Zeile der Gleichung? Was bedeutet das?

Wie kann man den Trainingsreihen 'fehlend' zuweisen?

Sie sagen, 95 % sagen Ihnen, dass das Model einen guten Job macht. Was sind die Kriterien für ein solches Urteil?

Können Sie bitte die Datei mit der Modellbewertung in der Antwort anhängen?

Vielen Dank.

 

 

Betreff: Warnmeldung für den Gaußschen Prozess: Wahrscheinlichkeitsschätzungsalgorithmus konvergierte nicht

Die Syntax zur IF-Funktion finden Sie hier: wenn . Oder wenn Sie der Herausforderung gewachsen sind, die JMP-Skriptsprache zu lernen, können Sie hier beginnen: Skriptleitfaden .

Die If-Anweisung, die ich gezeigt habe, kann folgendermaßen gelesen werden: Wenn die Zeilennummer kleiner oder gleich 700 ist, weisen Sie einen fehlenden Wert zu, andernfalls weisen Sie 1 oder 0 zu, je nachdem, ob der absolute Wert der Differenz kleiner als 3 Standardfehler ist.

Mit anderen Worten, die Formel berechnet, ob ein Vorhersagefehler innerhalb von 6 Standardfehlern liegt, oder nennt es 6 Sigma.

Was ich gesagt habe, dass das Model einen guten Job macht, war subjektiv. Aber ich werde erklären, was ich meinte. Wenn der Vorhersagefehler eine Normalverteilung hat, klammert das 6-Sigma das Mittelstück der Verteilung ein, das über 99 % der Wahrscheinlichkeit enthält. Wir möchten, dass die Vorhersagefehler mit einer Wahrscheinlichkeit von über 99 % in diesen Eimer fallen. Dann sagen wir, dass das Modell seinen Job macht.

Für diese speziellen Daten umfasst der Validierungssatz nun etwa 300 Beobachtungen, und wir sehen, dass etwa 95 % in diesen Bereich fallen. Schlechte Nachrichten? Nicht unbedingt. Meine vorherige Aussage über eine Wahrscheinlichkeit von 99 % ging davon aus, dass noch viel mehr Validierungsdaten getestet werden können, und wir möchten die Wahrscheinlichkeit von über 99 % sehen. Bei lediglich 300 Beobachtungen handelt es sich bei 95% um eine subjektive Beurteilung. Wenn ich 80 %, 70 %, 60 % sehe, werde ich zunehmend Zweifel aufkommen lassen.

Ich hänge die Datei wie gewünscht an.