543819_it-IT

liliconcom

Messaggio di avviso per il processo gaussiano: l'algoritmo di stima della verosimiglianza non ha convergenza

Cari esperti JMP,

Di recente ho condotto un DOE a riempimento spaziale con un ipercubo latino di 700 esecuzioni. Ho poi utilizzato il processo gaussiano per adattare i dati. Il "grafico effettivo per previsto" è molto bello e la maggior parte dei dati si trova perfettamente lungo la linea a 45 gradi. Tuttavia, ho ricevuto un messaggio di avviso che diceva:

Attenzione: l'algoritmo di stima della verosimiglianza non ha convergenza.

In allegato troverete il rapporto sul modello del processo gaussiano.

Ho cercato in giro ma non riesco a trovare alcuna documentazione/discussione riguardante questo messaggio di avviso.

Potresti gentilmente darmi qualche dritta?

-Cosa causa questo messaggio?

-Cosa significa questo messaggio?

-Posso ancora fidarmi del risultato? In caso contrario, cosa dovrei fare per correggere il modello?

Grazie.

Distinti saluti,

Anno

Modellazione statistica avanzataOrganizzazione dei contenutiEsplorazione e visualizzazione dei datiProgettazione degli esperimentiRe: Messaggio di avviso per il processo gaussiano: l'algoritmo di stima della probabilità non converge

Che ne dici di rimuovere airgap2? Dopodiché, quanto cambia -2Loglikelihood, quanto cambia la previsione?

Il metodo di adattamento del modello è la massima verosimiglianza. È una tecnica di ottimizzazione che cerca di trovare il massimo su una superficie. Idealmente, le stime sono dove la superficie raggiunge la sua sommità. Quando viene visualizzato questo messaggio di avviso, in genere significa che l'algoritmo non è sicuro di raggiungere la parte superiore. Non significa necessariamente che non lo sia però. Qui, sospetto che raggiunga la vetta, ma non sono sicuro, a causa dell'airgap2, che contribuisce poco al modello.

Re: Messaggio di avviso per il processo gaussiano: l'algoritmo di stima della probabilità non converge

Molte grazie per la pronta risposta. Puoi per favore approfondire un po 'di più sui metodi di adattamento del modello?

Ci sono 700 trattamenti nel mio DOE. Significa che, per ogni trattamento, l'algoritmo cerca di trovare il massimo su una superficie?

Qual è questa superficie a cui ti riferisci?

Grazie.

Re: Messaggio di avviso per il processo gaussiano: l'algoritmo di stima della probabilità non converge

Ogni trattamento nel tuo caso è un'osservazione. Tutti i tuoi 700 trattamenti formano un dato. Il modello GP si basa sulla definizione della probabilità di osservare i parametri dati dati. Questa probabilità è una funzione di parametri sconosciuti. Questa funzione è chiamata funzione di verosimiglianza. Questa funzione può essere visualizzata come una superficie sopra il sistema di coordinate definito dai parametri. Quindi c'è solo una superficie. Il metodo della massima verosimiglianza cercherà di identificare il punto più alto su questa superficie.

Ecco un link al materiale che ritengo accessibile e anche rigoroso: Stima della massima verosimiglianza E puoi saltare l'Esempio 1-1.

La definizione del modello GP può essere trovata qui: Dettagli statistici per la piattaforma del processo gaussiano In parole povere, un modello GP presuppone che i dati provengano da una distribuzione normale multivariata. Con tali informazioni, viene definita una funzione di verosimiglianza.

Re: Messaggio di avviso per il processo gaussiano: l'algoritmo di stima della probabilità non converge

Grazie Peng per la tua risposta molto istruttiva!

Se non ti dispiace, puoi spiegare anche la differenza tra la formula di previsione e i valori previsti dal coltello a serramanico?

Perché il grafico effettivo per previsto traccia il valore effettivo rispetto al valore previsto del coltello a serramanico invece del valore previsto dalla formula di previsione?

Inoltre, senza utilizzare il nugget, il valore previsto della formula di previsione è esattamente lo stesso dei dati di simulazione effettivi? Come funziona?

Che aspetto ha il profilo di varianza della previsione (quello nella scheda "valuta progetto" in un DOE di progettazione fattoriale) per una previsione GP? È casuale?

C'è un modo per convalidare il modello GP? Normalmente eseguirò alcune centinaia di punti extra e farò un test e un test di varianza disuguale del residuo tra il set di dati originale (valore previsto - valore di simulazione) e il set di dati di convalida (valore previsto - valore di simulazione). Questo approccio è ancora valido per il modello GP?

Grazie.

 

 

 

Re: Messaggio di avviso per il processo gaussiano: l'algoritmo di stima della probabilità non converge

Una previsione (senza adattamento del nugget, utilizzando tutti i dati) dovrebbe essere uguale all'osservazione corrispondente. Questa è la natura del modello GP. Se si tracciano i valori effettivi rispetto a questo tipo di valori previsti, si ottiene una linea retta, che non fornisce informazioni dettagliate sulle prestazioni del modello sui nuovi dati. Coltello a serramanico ( Ricampionamento del coltello a serramanico ) la previsione prevede per ciascuna osservazione escludendo tale osservazione. Un modello Jackknife GP si adatterà perfettamente a tutte le osservazioni rimanenti tranne quella tralasciata. Questo approccio fornisce alcune informazioni sulle prestazioni del modello sui nuovi dati. Pertanto, sono diversi.

Senza pepita, torniamo al modello GP vaniglia. Non sono sicuro di cosa intendi con "come funziona". Con nugget, potresti voler esaminare questa tecnica: Regressione della cresta Come ho detto, il modello assume una distribuzione normale multivariata e il compito è capire la struttura della covarianza, che a volte può essere difficile senza trucchi come la tecnica della cresta.

Non ho familiarità con le applicazioni nelle piattaforme DOE. Se puoi elaborare, ad esempio, i passaggi per ottenere il rapporto specifico che ti interessa, forse posso aiutarti ulteriormente. Potresti voler vedere se altri membri della comunità possono rispondere. Se non vedi risposte per un po ', considera di aprire un thread separato su quella domanda specifica.

Non sono sicuro di convalidare un modello GP. Ma certamente possiamo valutarne le prestazioni su nuovi dati. Un modo per farlo è vedere se le nuove osservazioni rientrano nei loro intervalli di previsione. Per fare ciò, salva le formule di previsione e varianza, quindi aggiungi i tuoi nuovi dati in fondo alla tabella. Le formule valuteranno per produrre previsioni e varianze. Con l'osservazione, la sua previsione, la sua varianza di previsione, il resto è un esercizio di z-test. E non sono sicuro che la varianza uguale sia rilevante in questo contesto.

Re: Messaggio di avviso per il processo gaussiano: l'algoritmo di stima della probabilità non converge

Molte grazie ancora per la risposta molto istruttiva.

Ho ancora alcune domande sulla convalida del modello.

Ho allegato il file JMP nella risposta con il set di dati originale (primi 700 punti) e il set di dati di convalida (ultimi 300 punti).

Normalmente calcolerò la differenza tra il valore previsto e i risultati effettivi della simulazione per entrambi i set di dati e farò un test per vedere se la differenza di due set di dati ha la stessa media. Per questo particolare set di dati, il test t mi dice che la differenza per i due set di dati non è statisticamente diversa.

Tuttavia, quando ho provato il tuo metodo per testare la varianza utilizzando la formula della varianza prevista dei due set di dati, mi dice che la media della varianza è statisticamente diversa.

Quale approccio è corretto per convalidare la capacità di previsione del modello?

Grazie.

 

Re: Messaggio di avviso per il processo gaussiano: l'algoritmo di stima della probabilità non converge

Non ho spiegato i passaggi del mio approccio. Qui uso i tuoi dati per illustrare.

Per prima cosa crea una nuova colonna

Questo è l'errore standard previsto.

Ora crea un'altra colonna, che io chiamo "6sigma". Questa è una colonna di indicatore per vedere se il valore assoluto della differenza è entro 6-sigma. Sì significa 1, no significa 0. Per le righe di addestramento, assegna mancante. Assicurati che il tipo di colonna sia categoriale.

Ora annulla l'esclusione delle righe di convalida. Ed esegui Distribuzione su di esso.

Vedo circa il 95% Sì. Questo mi dice che il modello sta facendo un buon lavoro.

 

Re: Messaggio di avviso per il processo gaussiano: l'algoritmo di stima della probabilità non converge

Molte grazie per l'ulteriore elaborazione del tuo approccio. È fantastico.

Non capisco come interpretare la funzione if in JMP, puoi spiegarmi gentilmente? E 'un "." dopo il -> nella prima riga dell'equazione? Che cosa significa?

Come assegnare 'mancante' alle righe di formazione?

Dici che il 95% ti dice che il modello sta facendo un buon lavoro. Quali sono i criteri per tale giudizio?

Puoi allegare il file con la valutazione del modello nella risposta?

Grazie.

 

 

Re: Messaggio di avviso per il processo gaussiano: l'algoritmo di stima della probabilità non converge

Puoi trovare la sintassi sulla funzione SE qui: Se . Oppure, se sei all'altezza della sfida per imparare il linguaggio di scripting JMP, puoi iniziare da qui: Guida agli script .

L'istruzione If che ho mostrato può essere letta come: se il numero di riga è minore o uguale a 700, assegna un valore mancante, altrimenti a seconda che il valore assoluto della differenza sia inferiore a 3 errori standard, assegna 1 o 0.

In un'altra parola, la formula calcola se un errore di previsione è compreso tra 6 errori standard o chiamalo 6 sigma.

Quello che ho detto che il modello sta facendo un buon lavoro era soggettivo. Ma spiegherò cosa intendevo. Se l'errore di previsione ha una distribuzione Normale, il 6 sigma tra parentesi il pezzo centrale della distribuzione, che detiene oltre il 99% della probabilità. Ci auguriamo che gli errori di previsione cadano in questo secchio con oltre il 99% di probabilità. Quindi diciamo che il modello sta facendo il suo lavoro.

Ora, per questi dati particolari, il set di convalida è di circa 300 osservazioni e vediamo circa il 95% cadere in questo secchio. Cattive notizie? Non necessariamente. La mia precedente affermazione sulla probabilità del 99% presumeva che ci fossero molti più dati di convalida che possono essere testati e desideriamo vedere la probabilità del 99% +. Per sole 300 osservazioni, con il 95%, è un giudizio soggettivo. Se vedo 80%, 70%, 60%, solleverò sempre più dubbi.

Allego il file come richiesto.