Analisi di una miscela DOE con regressione gradualeNei case study di Mixture (webcast e libreria di documentazione JMP) noto che la regressione all'indietro viene utilizzata per analizzare i risultati. Perché la regressione graduale non viene utilizzata con la regressione in avanti o tutti i modelli possibili in JMP regolare (non Pro)? Stepwise non è possibile a causa della natura speciale dei modelli di miscela?
Progettazione di esperimentiRe: Analisi di una miscela DOE con regressione gradualeEcco i miei pensieri, per lo più di natura filosofica:
Il mio primo pensiero è di NON procedere per gradi per il design sperimentale, mai.L'esperimento è progettato per indagare su fattori e un modello previsto per tali fattori (ad esempio, primo ordine, primo ordine più secondo ordine, ecc.). Il modello dovrebbe essere previsto a priori.Stepwise è una procedura per scoprire relazioni che potrebbero non essere conosciute o previste.
I progetti di miscele, per la maggior parte, sono progetti di ottimizzazione.Cioè, i componenti della miscela sono già noti per essere importanti e ora stai cercando di trovare la migliore "area" della superficie su cui operare.Dovresti già conoscere i termini del modello e stai ottimizzando quei termini.Ci può anche essere una discreta quantità di collinearità nei progetti di miscela che rende gradualmente impegnativo.
Re: Analisi di una miscela DOE con regressione gradualeCome trovare quindi il modello migliore, la regressione all'indietro? Tutti i modelli possibili in stewise?...
Re: Analisi di una miscela DOE con regressione gradualeL'approccio dipende in gran parte da dove ti trovi nel continuum della conoscenza (ad esempio, screening, ottimizzazione, se stai spiegando o prevedendo). Quando si sperimenta nella fase di screening, in effetti consiglio di iniziare con il modello completo (saturato se possibile) e di rimuovere i termini insignificanti da lì (costruzione del modello all'indietro o sottrattiva).Quando si ottimizza, le domande sono un po' diverse (come, in generale, i design delle miscele).Dovresti già avere una buona idea del 1° e 2° ordine lineare e non lineare.La significatività statistica è meno importante (è già stata stabilita).Stai "mettendo a punto" l'impostazione del livello.
Re: Analisi di una miscela DOE con regressione gradualeCIAO @frankderuyck ,
Sono d'accordo con il punto di vista "filosofico" da @statman riguardante la regressione Stepwise, più orientata per set di dati "non progettati" al fine di scoprire alcuni fattori ed effetti in assenza di un modello a priori.Le tradizionali tecniche di selezione del modello che utilizzano i valori p non sono utili per le miscele: a causa della multicollinearità tra gli effetti stimati (alias tra gli effetti), gli errori standard delle stime sono piuttosto grandi, risultando in valori p fuorvianti e distorti.
Per i progetti di miscele (basati su modello), la regressione Forward Stepwise può essere possibile, ma con precauzioni e cautela (ad esempio, forza gli effetti principali nel modello e nessuna intercettazione). Due opzioni possono essere interessanti da considerare per i progetti Mixture, ed evidenziate dal Dr. Philip J. Ramsey in una delle sue presentazioni, " Strategie di analisi per esperimenti con miscele vincolate e processi di miscelazione utilizzando JMP Pro 14 ":
- Selezione in avanti tradizionale utilizzando il metodo dello pseudo fattore di Miller
- Selezione in avanti tradizionale mediante bootstrap ponderato frazionario e convalida automatica: SVEM in JMP Pro, piattaforma di regressione generalizzata (Gotwalt e Ramsey)
Il dottor Ramsey sconsiglia l'uso di "Tutti i modelli possibili" per le miscele, in parte a causa della necessità di forzare i termini dei componenti puri in ogni modello. Da una prospettiva pragmatica e pratica, il metodo "Tutti i possibili modelli" può essere molto impegnativo in termini di calcoli (e poco efficace), poiché vengono costruiti tutti i possibili modelli con un numero diverso di effetti, indipendentemente dalla gerarchia e dall'ereditarietà tra gli effetti. Quindi c'è una parte piuttosto ampia dei modelli creati che potrebbero non essere molto interessanti (e rilevanti) da considerare, ma che vengono comunque creati e valutati in modo agnostico e "a forza bruta".
Poiché esiste un modello a priori assunto per i progetti di miscele basati su modello, la regressione all'indietro è più sicura da utilizzare con un metodo di convalida basato su criteri di informazione come AICc (piattaforma di regressione generalizzata in JMP Pro o Backward Stepwise in JMP).
Poiché sei più interessato alle prestazioni predittive che allo screening dei fattori, puoi anche eseguire "manualmente" la regressione all'indietro, partendo dal modello completo con tutti i presunti effetti del modello (JMP, Standard Least Squares) e rimuovere i termini fintanto che aiuta a diminuire l'RMSE (errori di previsione) del modello.
Per i progetti di miscele indipendenti dal modello (come i progetti di riempimento dello spazio), l'uso di metodi di Machine Learning, efficienti ed efficaci nell'interpolazione, può essere molto utile per costruire un modello predittivo sui punti distribuiti omogeneamente (ma l'overfitting può avvenire rapidamente): SVM , reti neurali, k-vicini più vicini, processo gaussiano, ...
Alla fine, possono essere necessarie esecuzioni di validazione per validare e stimare le prestazioni predittive del modello.
Spero che questa risposta aggiuntiva ti possa aiutare,
Re: Analisi di una miscela DOE con regressione gradualeHo visto nei webinar che il grafico di pareto -logworth(p-value) viene utilizzato per la regressione all'indietro; se i valori p non sono adatti per le miscele, è corretto? Nota: devo fornire una formazione agli utenti non jmp pro, quindi non posso utilizzare l'apprendimento automatico generalizzato.
Re: Analisi di una miscela DOE con regressione gradualeSto analizzando una miscela DOE a tre fattori FLA 1, FLA 2 e FLA 3 basata su un modello di Scheffé cubico completo. Spingendo il buttallon dei minimi quadrati standard e provando a rimuovere i parametri a basso effetto usando la regressione all'indietro basata sul logwort pareto (valori P per l'analisi della miscela?) ottengo il risultato seguente: devo rimuovere anche tutti gli effetti selezionati o solo gli effetti non contenuti?
Ho anche fatto l'analisi con "Tutti i modelli possibili" in Stepwise e ho ottenuto un modello molto carino basato sulla classifica AICC, forse un modello sbagliato (la regressione all'indietro basata sul valore P genererà un modello giusto...?) comunque molto utile da specificare impostazioni di output Y ottimali!
Sono decisamente d'accordo sul fatto che, a causa della forte collinearità nell'analisi della miscela, sia necessaria una colonna di convalida e l'utilizzo della regressione generalizzata e degli strumenti di apprendimento automatico reali sia l'approccio giusto; Darò un'occhiata da vicino a SVEM. Per quanto riguarda la formazione DOE dei miei utenti non professionisti, devo affidarmi a metodi classici; "Tutti i possibili modelli" non sembra troppo male come mostrato sopra? Naturalmente per casi più complessi, con effetti di processo > 3 componenti della miscela che producono troppi modelli, è assolutamente necessario un approccio sequenziale; tuttavia, a causa della forte collinearità, sarà piuttosto difficile effettuare una buona selezione dei parametri per procedere alla successiva fase sequenziale.
Re: Analisi di una miscela DOE con regressione gradualeCIAO @frankderuyck ,
Non importa se la tua DoE è fattoriale o mista, se esiste un modello assunto a priori, dovresti rispettare i tre principi alla base del Design of Experiments:
- Effetto scarsità : Il principio di scarsità degli effetti si riferisce in realtà all'idea che solo pochi effetti in un esperimento saranno statisticamente significativi. La maggior parte della variazione nella risposta è spiegata da un piccolo numero di effetti, quindi è molto probabile che gli effetti principali (singolo fattore) e le interazioni a due fattori siano le risposte più significative in un esperimento fattoriale. È anche chiamato principio di Pareto.
- Gerarchia degli effetti : Il principio della gerarchia afferma che maggiore è il grado di interazione, minore è la probabilità che l'interazione spieghi la variazione nella risposta. Pertanto, gli effetti principali spiegano più variazioni rispetto alle interazioni di 2 fattori, i 2FI spiegano più variazioni rispetto ai 3FI, … quindi la priorità dovrebbe essere data alla stima degli effetti di ordine inferiore.
- Effetto ereditarietà : Simile all'ereditarietà genetica, il principio di ereditarietà dell'effetto postula che i termini di interazione possono essere considerati solo se i termini ordinati che precedono l'interazione sono significativi. Questo principio ha due possibili implementazioni: forte O Debole eredità. Eredità forte implica che un termine di interazione può essere incluso nel modello solo se sono presenti entrambi gli effetti principali corrispondenti. Ereditarietà debole implica che un termine di interazione sia incluso nel modello se è presente almeno uno dei corrispondenti effetti principali.
Nel tuo caso, quando provi a rimuovere questi effetti, sei in conflitto con il principio di ereditarietà dell'effetto: non puoi rimuovere l'effetto principale FLA1 e l'interazione FLA2xFLA3 a meno che tu non abbia già rimosso tutti gli altri termini dell'effetto che contengono questi termini. Quindi qui dovresti tenerli.
Come affermato in precedenza, la creazione di modelli basati esclusivamente sul valore p per i progetti di miscele può essere molto fuorviante.
La seconda opzione che hai provato con il criterio AICc (o BIC?) Sembra più ragionevole, poiché AICc (o BIC) è un criterio informativo che cerca di "bilanciare" la complessità del modello con la sua accuratezza (minore è, meglio è).
Per quanto riguarda i tuoi screenshot, sembra che i modelli con un numero maggiore di termini possano essere utili nel tuo caso, poiché il modello numero 9 ha un RMSE inferiore e un BIC inferiore. Potrebbe anche correggere il grafico dei residui che sembra mostrare una sorta di eteroschedasticità (residui più grandi per un punteggio di sapore più alto).
Spero che questo commento supplementare ti possa aiutare,
Re: Analisi di una miscela DOE con regressione gradualeCiao Victor, sono decisamente d'accordo sui tuoi principi di ereditarietà ed è per questo che in questo caso la regressione all'indietro basata sui valori p non funziona qui.Quindi ho usato Tutti i modelli possibili con la selezione AICC in avanti con risultati molto buoni. Ora sto lavorando su un altro caso di miscela con una variabile di processo e un nuovo metodo di tutti i possibili modelli genera un modello - forse sbagliato - ma molto utile! Per gli utenti JMP non professionisti, consiglio di utilizzare gradualmente tutti i possibili metodi di modello per l'analisi DOE della miscela.
Re: Analisi di una miscela DOE con regressione gradualeHmmm, hai uno o due esperimenti di miscela e concludi " Raccomando di utilizzare gradualmente tutto il metodo del modello possibile per l'analisi DOE della miscela".Ti suggerisco di usare cautela con questa raccomandazione o, come dice Danial, avrai il fallimento della "generalizzazione prematura".
Re: Analisi di una miscela DOE con regressione gradualeAlmeno i modelli che ottengo soddisfano l'affermazione pragmatica di Cox "Sbagliato ma utile per raggiungere il mio obiettivo" Qual è un'alternativa migliore nel normale, non JMP pro? Questi modelli saranno migliori?
Re: Analisi di una miscela DOE con regressione gradualePer gli utenti professionisti consiglio vivamente metodi di apprendimento automatico con convalida
Re: Analisi di una miscela DOE con regressione gradualeLa mia idea potrebbe essere stata espressa in precedenza in questa discussione, ma voglio dichiararla esplicitamente. Prima di tutto, non testeremo le stime dei parametri dell'effetto principale. Perché no? Il vincolo secondo cui le proporzioni dei componenti si sommano a uno ha ramificazioni oltre la matematica del modello lineare. Un effetto è un cambiamento nella risposta quando un fattore cambia il suo livello. I cambiamenti nei livelli dei fattori sono indipendenti in un esperimento senza miscela, quindi l'effetto della modifica di un fattore è determinato in modo univoco in un esperimento progettato correttamente. Non è possibile modificare un componente della miscela indipendentemente da tutti gli altri componenti. Quindi non possiamo assegnare in modo univoco l'effetto a un componente in un esperimento di miscela.
In secondo luogo, non possiamo testare le stime dei parametri dell'effetto principale. JMP testa erroneamente la stima del parametro per gli effetti principali rispetto all'ipotesi nulla che il parametro sia zero. Il parametro dell'effetto principale è la risposta media più la variazione media nella risposta di una miscela pura, quindi l'ipotesi nulla è la risposta media, non zero. Inoltre, i test articolari sono impossibili perché la risposta media fa parte di tutti i principali parametri di effetto.
La vera risposta media in questo set di dati simulato è 20. I veri parametri dell'effetto principale, che includono la risposta media, sono 10, 20 e 30 rispettivamente per X1, X2 e X3. I parametri sono significativamente diversi da 0, ma questa è l'ipotesi nulla errata. Ciascuna delle stime dell'effetto principale è contrassegnata con la nota che i test sono confusi.
Non chiediamo gli effetti principali, ma possiamo e dobbiamo chiedere i termini di ordine superiore perché ci parlano della forma della superficie e sono verificabili.
Re: Analisi di una miscela DOE con regressione gradualeMolto interessante Marc, quale metodo di analisi dei risultati DOE della miscela consigli per gli utenti non professionisti di JMP? Nel mio esempio sopra la regressione all'indietro con il logworth pareto non ha funzionato; AICc forward con stewise tutti i modelli possibili hanno funzionato bene.
Re: Analisi di una miscela DOE con regressione gradualeNon consiglio un metodo particolare per selezionare il modello lineare per un esperimento misto. ripeto @statman Il consiglio di considerare tutto a priori conoscenza durante la progettazione dell'esperimento e di nuovo durante l'analisi dell'esperimento.
Re: Analisi di una miscela DOE con regressione gradualeCiò significa che dovremmo concentrarci sui punti interni nel grafico ternario cercando di stimare i termini di ordine superiore? Quindi un DOE che riempie lo spazio è un'opzione migliore rispetto al tentativo di stimare un modello di interazione a due vie?
Re: Analisi di una miscela DOE con regressione gradualeSono pienamente d'accordo ed è quello che ho fatto nel mio esempio sopra, ho usato l'approccio giusto?
Re: Analisi di una miscela DOE con regressione gradualeSolo per chiarire come vengono generati i punti quando si utilizza un design ottimale della miscela (con il caso di 3 fattori di miscela):
- I punti ai vertici aiutano a stimare i principali parametri degli effetti,
- I punti al centro dei bordi aiutano a stimare le interazioni a 2 fattori.
- Il punto al centro viene utilizzato per l'interazione di 3° grado.
Il design che riempie lo spazio crea punti distribuiti in modo casuale e omogeneo nello spazio sperimentale, in assenza di qualsiasi modello a priori.
Se hai già un'idea del tipo di modello che utilizzerai (come un modello di interazione a due vie), un design ottimale può essere più utile ed efficace, poiché la generazione di punti sarà ottimizzata per la stima dei parametri dei termini dell'effetto hai specificato nel tuo presunto modello (a differenza della "casualità" della generazione di punti di progettazione che riempiono lo spazio).
I progetti space-filling sono utili in assenza di qualsiasi conoscenza a priori su un possibile modello, con una probabilità di superficie di risposta non lineare, e hanno maggiore flessibilità riguardo alle possibilità di modellazione nel caso di punti non misurabili (problemi di stabilità , valori molto alti o bassi, ...).
Spero che questo chiarisca la differenza tra l'uso di questi due tipi di metodologie.Re: Analisi di una miscela DOE con regressione gradualeSupponiamo che tu stia testando una miscela con 5 componenti e desideri sapere quali componenti hanno un effetto sulla risposta, come escludere questi ingredienti efficaci? È possibile a causa del confondimento?
Re: Analisi di una miscela DOE con regressione gradualeSuppongo che anche con i progetti che riempiono lo spazio lo screening sarà molto difficile?
Nota: ho una vasta esperienza nel DOE non misto, quindi le mie domande sopra potrebbero sembrare ingenue per gli esperti di miscele.Finora la mia conclusione è che la miscela DOE richiede esperienza e poiché i metodi di analisi sono meno chiari rispetto alla non miscela, per gli scienziati sembra poco artificiale. Mi sto preparando per molte domande in un prossimo corso di formazione DOE in cui le formulazioni sono importanti. Grazie a tutti per i vostri contributi, è di grande aiuto!
Re: Analisi di una miscela DOE con regressione gradualeI progetti di riempimento dello spazio tendono a concentrarsi un po' più sull'interno che sui bordi dello spazio sperimentale e sull'ottimizzazione (adattandosi al miglior modello predittivo grazie ai punti di progettazione distribuiti uniformemente e a un'ampia varietà di opzioni di modellazione/algoritmi).
I progetti di miscela sono più utilizzati in una strategia di ottimizzazione per trovare i migliori rapporti di formulazione per prestazioni/risposte specifiche, ma ci sono progetti che possono aiutarti a "selezionare" i fattori di miscela (o almeno valutare l'importanza relativa dei fattori di miscela tra loro, poiché la significatività statistica non è appropriata per schermare gli effetti in questo caso, a causa della multicollinearità).
- In JMP, i progetti ABCD possono essere utili per confrontare l'influenza dei fattori di miscela (e l'esempio è abbastanza vicino al caso suty che hai citato con 5 fattori di miscela): JMP-Esempio di un progetto ABCD
- È inoltre possibile utilizzare il design Simplex Centroïd con un grado baricentrico relativamente basso (2 o 3 per esempio): JMP-Esempio di progettazione Simplex Centroid
In generale, se non hai familiarità con i design di Mixture, ci sono molte risorse disponibili su Internet. Ecco alcuni esempi per aiutarti:
https://reliawiki.org/index.php/Mixture_Design
https://online.stat.psu.edu/stat503/lesson/11/11.3
https://www.lexjansen.com/sugi/sugi21/iv/138-21.pdf
Spero che questa risposta ti possa aiutare,
Re: Analisi di una miscela DOE con regressione gradualeGrazie Vittorio!
Re: Analisi di una miscela DOE con regressione gradualeSe il modello di ordine superiore è "corretto", allora il design che riempie lo spazio non è necessariamente "migliore". Pensa a una situazione più semplice: un effetto di primo ordine solo di un singolo fattore continuo. Qual è il miglior design a 10 tirature? Cinque corse con l'impostazione bassa e cinque corse con l'impostazione alta. Un progetto che "riempie lo spazio" distribuirebbe le corse su più di due livelli, il che non è statisticamente efficiente.
Un progetto che riempie lo spazio per le miscele è vantaggioso quando la risposta cambia rapidamente in una regione ristretta del simplesso e la regione è sconosciuta. È un design di screening con una svolta per esperimenti di miscelazione.
Re: Analisi di una miscela DOE con regressione gradualeIMHO, prima di addestrare gli altri in una metodologia, dovresti essere esperto con molte applicazioni al tuo attivo. Ti suggerisco di leggere Cornell (Cornell è uno dei massimi esperti di miscele) per iniziare il tuo viaggio nella comprensione delle miscele.
Cornell, John (1990)” Esperimenti con miscele, disegni, modelli e analisi ”, Wiley (SBN: 047152221X)
Alcuni giornali preferiti:
Snee, Ronald D., Progettazione e analisi di esperimenti di miscela , Rivista di tecnologia di qualità, vol. 3, n. 4, ottobre 1971
Cornell, John, Incorporamento di esperimenti di miscele all'interno di esperimenti fattoriali , Giornale di tecnologia di qualità , vol. 22, n. 4, ottobre 1990
Snee, Ronald D., Donald Marquard, Screening Concepts and Designs for Experiments with Mixture S, Tecnometria , vol. 18, n. 1, febbraio 1976
e il nostro Dan Obermiller: Tips on JMPing into Mixture Experiments
Re: Analisi di una miscela DOE con regressione gradualeIL Modello misto di Cox è un tentativo di aiutare uno sperimentatore a rispondere a questa domanda. Richiede di specificare una miscela di riferimento. Il modello viene utilizzato per determinare gli effetti unici di ciascun componente.
Re: Analisi di una miscela DOE con regressione gradualeSinceramente grazie per questi refefence-mix! Andrò a scavare in questo argomento stimolante
Re: Analisi di una miscela DOE con regressione gradualeHo visto in una presentazione di Louis Valente un ottimo modo per etichettare e colorare i punti del design della miscela con una colonna Tipo di punto, vedi sotto. Come si crea questa colonna tipo punto?
Re: Analisi di una miscela DOE con regressione gradualeC'è uno script nella cartella Sample Scripts (nella cartella JMP in \Samples\Scripts) che esegue questa operazione.Il nome dello script è "LabelMixturePoints.jsl".
Ri: Analisi di una miscela DOE con regressione gradualegrazie per le tue risposte dettagliate, che mi hanno ispirato a pensare al lavoro di formulazione.
come suggerisci di comportarti se c'è un termine sconosciuto del modello, ad esempio: voglio scoprire gli effetti, in particolare l'interazione a due vie dovuta al nuovo ingrediente nella formulazione.Lo scopo dello studio è più simile allo screening piuttosto che all'ottimizzazione, sarebbe opportuno procedere in modo graduale in questo caso?
Ri: Analisi di una miscela DOE con regressione gradualeSono confuso dalla tua domanda. Dici "termine sconosciuto del modello" e poi dici che il termine è un nuovo ingrediente noto. Sperimenterei il nuovo ingrediente con un progetto di miscela e utilizzerei l'analisi dei progetti di miscela per valutare l'effetto del nuovo ingrediente e le possibili interazioni. Non utilizzerei il metodo graduale in questo caso. Mi spiace essere ridondante, IMHO, il metodo graduale viene utilizzato per esporre fattori che non sono stati identificati (ad esempio, data mining), non per l'analisi di esperimenti in cui i fattori dello studio sono noti.
