920431_it-IT

liliconcom

Adattamento RSM efficiente e regressione graduale su grandi set di dati DoE con clic minimi in JMP Pro

Ciao a tutti,

Sto lavorando con un set di dati DoE molto ampio in JMP Pro e vorrei valutarlo rapidamente con il minor numero possibile di clic manuali. Sono ancora relativamente nuovo a JMP Pro e fino a poco tempo fa ho analizzato principalmente studi DoE utilizzando i metodi standard dei minimi quadrati. Pertanto, anche dopo aver letto la documentazione e i tutorial, non sono ancora sicuro del flusso di lavoro più efficiente per il mio compito attuale.

Il mio progetto include tre fattori e circa 20 risposte, raggruppate in base a diversi trattamenti. Vorrei riadattare un modello di superficie di risposta (RSM) per ogni risposta e analizzarle in modo coerente.

Le mie domande principali sono:

1. Esiste un modo per eseguire la regressione graduale o l'adattamento RSM in modo più efficiente senza dover cliccare ripetutamente su "Vai" per ogni passaggio?

2. Esistono strumenti o opzioni in JMP che consentono flussi di lavoro semi-automatici o con un solo clic per più risposte (ad esempio, preset di Fit Definitive Screening/Adattamento modello, finestre di dialogo del modello o altre scorciatoie)?

3. Un'ulteriore domanda: se fosse necessaria un'automazione completa, lo scripting (JSL) o l'elaborazione batch sarebbero il modo migliore per scalare il progetto? In tal caso, ci sono punti di partenza o modelli consigliati per i principianti?

Il mio obiettivo è quello di accelerare il più possibile le fasi di valutazione e riadattamento del modello, idealmente senza dover ricorrere a script pesanti.

Grazie in anticipo per il vostro aiuto e i vostri suggerimenti.

Modellazione statistica avanzataAutomazione e scriptingEsplorazione e visualizzazione dei datiProgettazione degli esperimentiPersonalizzazione di massaModellazione predittiva e apprendimento automaticoRe: Adattamento RSM efficiente e regressione graduale su grandi set di dati DoE con clic minimi in JMP Pro

È praticamente impossibile fornire consigli specifici sulle informazioni fornite. Puoi allegare l'esperimento? O almeno il codice dell'esperimento?

Mi dispiace, la tua domanda mi confonde un po'. Il tuo post suggerisce che tu abbia un ampio set di dati DOE. Non sono sicuro di aver capito bene, dato che hai solo 3 fattori. Perché dovresti impostare un flusso di lavoro? In ogni caso, il primo passo per qualsiasi esperimento è determinare se hai creato una variazione sufficiente da un punto di vista pratico. Le variabili di risposta sono variate abbastanza da essere interessanti per l'analisi dell'esperimento? In tal caso, il passo successivo è eseguire la correlazione multivariata delle numerose Y. Allo stesso tempo, controlla eventuali valori anomali utilizzando il test di Mahalanobis. A seconda del numero di Y correlate (se sono correlate, l'analisi sarà la stessa), potresti dover adattare le Y separatamente. Stepwise non è una procedura per l'analisi del DOE. È adatta per dati storici o osservazionali quando si cerca un modello. Nel DOE, hai un modello in mente (o dovresti averne uno), quindi Fit Model è la tua piattaforma.

Re: Adattamento RSM efficiente e regressione graduale su grandi set di dati DoE con clic minimi in JMP Pro

Ciao Statman,

Grazie per il chiarimento. Lascia che ti spieghi la mia configurazione più in dettaglio:

Sto lavorando con un disegno RSM a tre fattori, ma per questi tre fattori ho misurato 25 risposte diverse. Queste risposte sono raggruppate in cinque gruppi di trattamento (utilizzando il ruolo "Per"). Quindi, sebbene lo spazio fattoriale sia ridotto, il numero totale di combinazioni risposta/trattamento è elevato. Inoltre, dispongo di più set di dati di questo tipo (cinque DoE in totale), quindi i passaggi di analisi ripetitivi si sommano in modo significativo.

Capisco perfettamente che il set di dati sarebbe utile e mi piacerebbe condividerlo, ma non posso condividerli qui a causa dei CDA e, purtroppo, l'anonimizzazione non è un'opzione.

Ho generato i design utilizzando Custom Designer di JMP e sto utilizzando la piattaforma Fit Model per l'analisi. La mia intenzione era di selezionare la personalità Gradualmente anziché i minimi quadrati standard per introdurre una maggiore oggettività utilizzando criteri AIC/BIC anziché una selezione basata sul valore p, con meno clic poiché devo solo cliccare sul pulsante GO. La personalità Stepwise adatta comunque un modello polinomiale ai miei dati, ma in modo più automatizzato, con meno distorsioni e non guidato solo dal valore p.

Tuttavia, il problema pratico è che per ogni risposta in ciascun gruppo di trattamento, devo comunque cliccare ripetutamente sul pulsante "Vai". Con molte risposte e più set di dati, questo diventa molto dispendioso in termini di tempo. La mia domanda è semplicemente se questa parte del flusso di lavoro possa essere automatizzata o accelerata.

Il mio obiettivo finale è adattare tutte le risposte, valutarle e generare profiler di previsione utilizzando la piattaforma di fitting del DOE. Preferisco non rimuovere preventivamente i valori anomali perché voglio valutarli dopo l'adattamento ed evitare di distorcere l'analisi in anticipo.

Quindi la domanda fondamentale rimane:
Esiste un modo per eseguire Stepwise (o Fit Model) su più risposte e gruppi di trattamento senza dover cliccare manualmente su "Vai" per ogni risposta, tramite scorciatoie dell'interfaccia utente esistenti o tramite script/esecuzione in batch?

Ciò ridurrebbe notevolmente il numero di clic manuali richiesti.

Questo contesto aggiuntivo mi aiuta a rispondere alla mia domanda sul flusso di lavoro?

Inoltre, analizzo i DoE da diversi anni con JMP, usando sempre il metodo tradizionale con i minimi quadrati standard. Ora ho la versione JMP Pro e spero ancora di avere qualche opzione in più, che mi faccia risparmiare tempo.

Re: Adattamento RSM efficiente e regressione graduale su grandi set di dati DoE con clic minimi in JMP Pro

Hai provato a usare CTRL+clic su "VAI"?
L'utilizzo di CTRL prima di un'azione aiuta a trasmettere l'azione a tutti i pulsanti/caselle simili. Può anche essere utilizzato per modificare le impostazioni nella stima Stepwise per tutte le risposte contemporaneamente.

Tuttavia, le osservazioni di Bill sulla selezione graduale rimangono valide. Se avete creato un DoE con una piattaforma di progettazione personalizzata, significa che avete un modello a priori per questo scenario sperimentale. Dovreste usarlo per primo e utilizzare altri metodi di modellazione (con cautela) come modelli concorrenti per confrontare le prestazioni e i pro e i contro di ciascuno.

Re: Adattamento RSM efficiente e regressione graduale su grandi set di dati DoE con clic minimi in JMP Pro

Ciao Victor,

Innanzitutto grazie per il tuo aiuto, come sempre!!

grazie, questa piccola combinazione è davvero utile.
Per quanto riguarda il tuo commento sulla restrizione del modello di adattamento, sono un po' confuso.
Da quanto ho capito, sia la regressione standard dei minimi quadrati con selezione manuale del valore p sia la regressione graduale adattano un modello polinomiale ai miei dati; i termini del modello polinomiale sono specificati nella finestra di dialogo del modello (nel mio caso si tratta di un RSM con).
Ho trovato questo video molto interessante: (Mastering JMP) Distribuzione di metodi di regressione graduale in JMP e JMP Pro - YouTube.
e questa spiegazione: 11.2 - Regressione graduale | STAT 462

Qui le differenze tra la regressione standard dei minimi quadrati e quella stepwise sono ben spiegate e, dalla mia ingenua conclusione, è più o meno la stessa cosa + non solo la selezione del valore p viene utilizzata per la regressione stepwise, ma viene utilizzato anche il criterio BIC (o AIC), il che ha senso, poiché la domanda, quali variabili sono importanti per il modello senza aumentarne la complessità (semplicemente concluso :-)), evita la distorsione soggettiva del valore p e automatizza l'intero processo di costruzione del modello, garantendo maggiore oggettività. Sei d'accordo?

La mia domanda non ha ancora ricevuto risposta e la ripubblicherò qui aggiungendone altre:

1) Esiste un modo pratico e veloce per automatizzare la creazione di modelli DoE in JMP Pro per enormi set di dati con tonnellate di risposte (progettazione semplice realizzata con un progettista personalizzato, ad esempio RSM, progettazione personalizzata, ecc.)?
2) La regressione graduale è un'opzione in questo caso?
3) Poiché mi serve solo il profiler di previsione finale con tutte le mie risposte insieme, mi trovo di fronte a un altro problema: come salvare il profiler di previsione finale senza rifare l'intera analisi? Se attualmente lo salvo come script, devo rifare tutto, il profiler di previsione dopo la creazione del modello non è salvato.
4) In JMP Pro ho automaticamente nella finestra dello script l'opzione di regressione generale, che posso utilizzare (e la spiegazione al passaggio del mouse indica che questo è il metodo di scelta per tutte le opzioni di regressione lineare). Qual è il vantaggio rispetto alla regressione standard dei minimi quadrati o a quella stepwise? Come posso automatizzare l'analisi nel generatore di modelli di regressione generale (l'opzione Ctrl+clic non funziona qui)?

Grazie mille in anticipo per il vostro aiuto e suppongo che la questione dell'automazione dell'analisi DoE e della creazione di modelli di enormi set di dati non sia un problema che affronto solo io e che potrebbe aiutare molte persone!

Re: Adattamento RSM efficiente e regressione graduale su grandi set di dati DoE con clic minimi in JMP Pro

Il modo migliore per analizzare un RSM è utilizzare grafici di contorno. Se ci si trova nella fase di ottimizzazione, che è lo scopo per cui è stato concepito l'RSM, si dovrebbe già conoscere il significato degli effetti del modello di primo e secondo ordine.

Quando si esegue un Fit Model e si valuta l'adeguatezza del modello, il p-value è solo una delle statistiche da utilizzare (e utilizzarlo solo quando si ha un'idea di cosa viene utilizzato per valutare l'MSE e quando quella parte è rappresentativa). Ancora una volta, prima di fare qualsiasi cosa, valutare l'integrità dei dati (diversi metodi per farlo). Quindi, il significato pratico. È inoltre necessario valutare l'R-quadrato corretto (un valore maggiore è meglio), il delta tra R-quadrato e R-quadrato corretto (un valore minore è meglio, altrimenti si ha un modello sovraspecificato), l'RMSE (un valore minore è meglio). E valutare sempre le implicazioni pratiche. Il modello è utilizzabile?

A dire il vero, la tua situazione non è molto complessa. Gestire l'analisi non dovrebbe richiedere molto tempo (una volta ho fatto un esperimento con 3281 risposte).

È possibile creare un flusso di lavoro, ma i passaggi potrebbero variare a seconda di ciò che si scopre strada facendo.

https://www.jmp.com/support/help/it/19.0/?os=mac&source=application#page/jmp/workflow-builder.shtml

Re: Adattamento RSM efficiente e regressione graduale su grandi set di dati DoE con clic minimi in JMP Pro

Ciao Statman,

Grazie ancora per le spiegazioni. Capisco la prospettiva classica del DOE: in un RSM a tre fattori il modello è predefinito, l'attenzione è rivolta all'ottimizzazione piuttosto che alla ricerca del modello, e fattori come R-quadrato corretto, RMSE e rilevanza pratica sono importanti per l'adeguatezza. Sono d'accordo.

Il mio problema non sono le statistiche. È il carico di lavoro pratico. Nel mio campo (lavoro sulla stabilità delle proteine), spesso ho circa 25 risposte per set di dati (livelli di aggregazione, varianti di carica, dimensione idrodinamica, Tm, ecc.) raggruppate per trattamento. La configurazione DOE rimane la stessa (tre fattori), ma il comportamento effettivo della risposta cambia con ogni proteina. Quindi non posso semplicemente riutilizzare un modello di Workflow Builder; ogni set di dati proteico deve essere valutato individualmente, anche se la struttura del modello quadratico è identica.

Conosco anche i grafici di contorno o di superficie per RSM. Sono utili per l'intuizione. Ma sono essenzialmente qualitativi, perché mostrano la superficie prevista in 2D:

y_hat(x1, x2 | x3 = costante)

Dove

• y_hat è la risposta prevista dal modello,

• x1, x2, x3 sono i tre fattori,

• e “| x3 = costante” significa semplicemente che x3 è mantenuto fisso.

Questo va bene per una singola risposta, ma con 20-25 risposte diventa difficile basare le decisioni solo sui grafici dei contorni.

In pratica, mi affido maggiormente al Prediction Profiler (e alla desiderabilità) perché mi offre un metodo quantitativo per valutare e ottimizzare più risposte contemporaneamente. Ad esempio, per k risposte ho previsto i valori y1_hat, y2_hat, …, yk_hat, ognuno con la propria funzione di desiderabilità d1(y1_hat), d2(y2_hat), …, dk(yk_hat). La desiderabilità complessiva che cerco di ottimizzare è:

D(x) = (d1 * d2 * … * dk)^(1/k)

con x = (x1, x2, x3).
Questo mi permette di ottimizzare numericamente le impostazioni dei fattori per più letture di stabilità contemporaneamente. È qualcosa che le superfici di contorno/errore non possono fare facilmente quando il numero di risposte è elevato.

Quindi il problema principale non è la metodologia. È il tempo impiegato a cliccare. Per passare dai dati grezzi al profiler e alle decisioni basate sulla desiderabilità, attualmente mi serve più di un'ora per set di dati solo per eseguire lo stesso modello quadratico per ogni risposta. Su diversi set di dati, si tratta di quattro o cinque ore di clic per lo più ripetitivi, anche se la definizione del modello non cambia.

Workflow Builder non risolve questo problema per me, perché anche se i fattori rimangono identici, ogni set di dati proteici produce risposte diverse e devo comunque verificare individualmente l'adeguatezza del modello.

Ecco perché sto cercando un modo più efficiente, idealmente tramite JSL, per:

• scorrere un elenco di colonne di risposta,

• applicare lo stesso modello RSM quadratico nel modello di adattamento e ottimizzare minimizzando ad esempio p o massimizzando R2 aggiustato,

• e generare automaticamente profiler (e desiderabilità)

senza dover premere ripetutamente "Escludi".

Quindi la mia domanda è semplicemente: esiste un modo in JMP Pro per elaborare questo processo in batch? Se conoscete un pattern JSL o uno script di esempio che si adatti a questo scenario, mi sarebbe di grande aiuto. Voglio rimanere in linea con le best practice del DOE, voglio solo ridurre i clic manuali nel processo.

Re: Adattamento RSM efficiente e regressione graduale su grandi set di dati DoE con clic minimi in JMP Pro

Qualcuna delle variabili di risposta è correlata? In tal caso, questo potrebbe alleggerire il carico. Se le variabili Y non sono correlate, sarà necessario scendere a compromessi sulle priorità. I ​​modelli saranno diversi. Non so come scrivere uno script che integri il pensiero logico e razionale nel processo decisionale relativo al perfezionamento del modello. Potrebbe esserci del codice che ti rende più efficiente, ma non lo so.

Se fossi in te, cercherei di capire cosa rende diversa ogni proteina e perché/come i fattori dovrebbero essere impostati in modo diverso per ogni proteina (forse le proteine ​​possono essere categorizzate?), ma non sono un esperto in materia.

Re: Adattamento RSM efficiente e regressione graduale su grandi set di dati DoE con clic minimi in JMP Pro

Ciao, puoi risparmiare tempo registrando uno script Fit Model e ripetendolo per tutte le risposte. In questo modo, non dovrai cliccare "Vai" più e più volte. A proposito, sono Al Salman, responsabile marketing di Premium Crystal. Se stai cercando un noleggio auto a Dubai con deposito cauzionale pari a zero , abbiamo la soluzione perfetta per te. Offriamo noleggi auto a Dubai senza deposito cauzionale, rendendo il processo di prenotazione più comodo e conveniente.

Re: Adattamento RSM efficiente e regressione graduale su grandi set di dati DoE con clic minimi in JMP Pro

Ciao @DualARIMACougar ,

Come ha evidenziato @statman nelle sue risposte, esistono numerose metriche per valutare e confrontare i modelli, a seconda degli obiettivi e dell'enfasi della modellazione (esplicativa, predittiva, un mix di entrambe, ecc.). Puoi leggere alcune discussioni precedenti su questo ampio argomento: Analisi del disegno a plot diviso con fattoriale completo vs RSM / miglior modello / Significatività statistica / ... Per obiettivi di ottimizzazione, potresti dare maggiore importanza alle prestazioni predittive rispetto alle prestazioni di altre metriche, quindi RMSE e criteri informativi (AICc, BIC, ... per evitare di utilizzare modelli troppo complessi per l'attività predittiva) potrebbero essere indicatori sensati.
Penso anche che, invece di creare diversi design, ognuno per una proteina diversa, queste diverse proteine ​​potrebbero essere utilizzate come fattore categoriale nel design, con altri fattori annidati all'interno della natura/tipologia della proteina. Se si dispone di caratterizzazioni/misurazioni numeriche di queste proteine, o se è possibile utilizzare strutture chimiche per differenziarle e calcolare descrittori molecolari, è possibile raggruppare le proteine ​​in base a questi valori (per comprendere meglio le differenze e le somiglianze nei loro risultati), oppure utilizzare questi valori come covariata per creare il design (per assicurarsi di avere un campione di proteine ​​che copra e sia rappresentativo della diversità della popolazione proteica in studio). L'utilizzo di fattori continui invece di fattori categoriali aiuta ad aumentare lo spazio di inferenza. Potete consultare queste due presentazioni per trarre ispirazione: Aumentare l'efficienza e il dominio di applicabilità del modello quando si testano opzioni che a prima vista sono fattori categoriali multilivello.
Codifica con variabili continue e miste per esplorare più a fondo lo spazio di input (2022-US-45MP-1103)

Maggiore è l'"automazione" implementata nella fase di modellazione, maggiore sarà il rischio/errore a cui l'analisi sarà soggetta (e maggiore sarà il controllo sui risultati di modellazione/previsione e sulla convalida che potresti dover effettuare). Ad esempio, potresti essere in grado di adattare diverse decine di modelli in JMP per le tue risposte, ma dovrai comunque valutare la validità di ciascun modello, in particolare per quanto riguarda la validità delle ipotesi di regressione .

Tuttavia, per quanto riguarda gli altri punti, posso suggerirti altre opzioni:

• Se si dispone di JMP Pro, consiglio di utilizzare la piattaforma Regressione generalizzata , con i metodi di stima Normal Pruned Forward e Two Stage Forward , con criterio AICc (è possibile utilizzare CTRL+clic per adattare lo stesso tipo di modello a tutte le risposte). I modelli che ho ottenuto tramite questo tipo di modellazione sono spesso molto soddisfacenti, e ho bisogno di approfondire quando alcune metriche del modello sembrano deboli, o se i residui mostrano un andamento anomalo (non casuale/non normale). Se si adattano più risposte, è possibile attivare il Profiler per tutte le risposte nel triangolo rosso una volta che i modelli sono stati adattati, così come altri tipi di Profiler. È inoltre possibile salvare queste formule di previsione nella tabella o nel Formula Depot e, in caso di diversi modelli concorrenti, utilizzare la piattaforma Confronto tra modelli (direttamente dal Formula Depot o nel menu Predictive Modeling) per valutare e confrontare meglio i modelli concorrenti.
• Se diverse risposte sono correlate, puoi anche utilizzare la modellazione di regressione dei minimi quadrati parziali , che può sfruttare le correlazioni tra le Y per modellare meglio il collegamento tra le X e le Y.
• Poiché l'enfasi potrebbe essere sulle prestazioni predittive, è anche possibile provare ad adattare un modello flessibile utilizzando diverse opzioni di modellazione di Machine Learning, come Processo Gaussiano , Macchine a Vettori di Supporto o Foresta Casuale . Questi modelli di Machine Learning sono più facili da avviare, si basano su ipotesi meno numerose o più deboli, ma richiedono un certo impegno per una strategia di convalida adeguata, per evitare il sovraadattamento. La piattaforma Screening del modello può anche essere utile per esaminare, confrontare e selezionare rapidamente diversi modelli di Machine Learning. Tuttavia, se i progetti sono basati su modelli per la risposta superficiale del 2° ordine, queste opzioni di modellazione potrebbero non funzionare bene.
• Infine, poiché si utilizza un progetto di ottimizzazione, si è interessati a ottimizzare diverse risposte grazie ai fattori identificati. Si potrebbe provare, come primo tentativo, a ridurre e visualizzare lo spazio delle risposte, con PCA, altre proiezioni multivariate (non lineari) (come UMAP) o Scalabilità multidimensionale , per comprendere meglio le somiglianze e i compromessi dei propri esperimenti. Se si dispone di benchmark, è possibile aggiungerli alla tabella prima di avviare questo tipo di analisi, per visualizzare ed estrarre le distanze tra gli esperimenti e questi benchmark. Una volta ridotto lo spazio delle risposte, è possibile adattare alcuni modelli a queste risposte "aggregate" trasformate.

Una volta adattati i modelli alle risposte, puoi usare il simulatore per generare punti dati sintetici nel tuo spazio sperimentale e usare la formula di previsione dei tuoi modelli per prevedere i valori di risposta (per vedere quanto corrispondono ai tuoi obiettivi), o anche salvare e usare le colonne della formula di desiderabilità per ogni risposta per calcolare le desiderabilità su questo set di dati sintetici e mettere meglio in evidenza il fronte Pareto-ottimale dei migliori candidati (dati sintetici o esperimenti reali): punti dati che mostrano il miglior valore di desiderabilità complessivo per diversi compromessi/importanze delle risposte.

Spero che questi suggerimenti possano aiutarti,
Godetevi le feste di fine anno!