Una delle caratteristiche più frequentemente citate dell'ottimizzazione bayesiana è la sua capacità di raggiungere la soluzione ottimale con un numero ridotto di esperimenti .
Questa caratteristica diventa un vantaggio significativo quando ogni esperimento è lungo e costoso.
La versione "JMP Pro 19", rilasciata lo scorso settembre, ha introdotto una piattaforma di ottimizzazione bayesiana . Molti, infatti, stanno valutando di adottarla o ne sono interessati perché trovano allettante la possibilità di "ridurre il numero di esperimenti".
1. Altre caratteristiche importanti oltre al "richiedere meno esperimenti"
L'ottimizzazione bayesiana possiede un'altra caratteristica importante: è in grado di cogliere complesse non linearità senza dover preassegnare una specifica forma funzionale (come un modello di superficie di risposta con un polinomio quadratico) alla relazione tra la risposta e i fattori.
Pertanto, presenta il vantaggio di semplificare la ricerca delle condizioni ottimali anche in assenza di una conoscenza approfondita dei modelli statistici, quali i modelli di interazione e di superficie di risposta, necessari per la progettazione degli esperimenti (DOE).
Pertanto, in questo articolo confronteremo l'ottimizzazione bayesiana e la progettazione sperimentale per la ricerca delle condizioni ottimali utilizzando dati di simulazione per i quali è nota la formula teorica (risposta reale), e ne spiegheremo le caratteristiche.
2. Esempi di verifica
In questo caso, useremo come esempio l'ottimizzazione della resa della seguente reazione catalizzata da enzimi.
Obiettivo : Esplorare le condizioni ottimali per massimizzare la resa della sintesi di esteri combinando tre tipi di enzimi lipasi con le condizioni di reazione (concentrazione dei reagenti, quantità di catalizzatore).
risposta
fattore
Il fattore ha la condizione di vincolo "0,5 × concentrazione dei reagenti + 5 × quantità di catalizzatore ≤ 110".
Questa volta, stiamo eseguendo una simulazione in cui il vero valore ottimale (formula teorica) è noto.
Il diagramma sottostante mostra la distribuzione e i valori ottimali della formula teorica, con tipo di enzima = "CALB", concentrazione del reagente = 109,7 e quantità di catalizzatore = 6,98.
Il profilo di contorno mostra la distribuzione della risposta quando il tipo di enzima è "CALB". Il rosso più scuro indica una resa maggiore e, in questo esempio, si può notare che presenta una struttura non lineare complessa con due picchi (multimodale).
3. Come confrontare l'ottimizzazione bayesiana e la progettazione sperimentale.
Per la stessa formula teorica*, effettueremo la progettazione sperimentale utilizzando due approcci diversi: l'ottimizzazione bayesiana e la progettazione sperimentale.
Ottimizzazione bayesiana
Il piano di riempimento dello spazio genera tre esperimenti iniziali che soddisfano i vincoli e inserisce in input le risposte a tali esperimenti.
Utilizzando la piattaforma [Ottimizzazione Bayesiana], gli esperimenti vengono aggiunti in sequenza, uno alla volta. I punti sperimentali vengono aggiunti utilizzando i candidati sperimentali visualizzati nella selezione batch (in modalità automatica).
L'esperimento viene interrotto sequenzialmente quando il sistema entra nella fase di ricerca del valore ottimale in modalità automatica, oppure quando il valore di risposta supera significativamente il valore target (70% o più), e l'ultima condizione sperimentale viene considerata la condizione ottimale.
Progettazione degli esperimenti
Utilizzando la funzione "Progettazione personalizzata", adattare il modello di superficie di risposta (polinomio quadratico) con le seguenti impostazioni.
Le differenze tra i due possono essere riassunte come segue:
L'ottimizzazione bayesiana è un metodo che determina sequenzialmente "cosa provare dopo" sulla base dei risultati sperimentali precedenti, senza predeterminare una funzione specifica, e utilizza un modello flessibile (modello di processo gaussiano) per l'esplorazione.
Progettazione sperimentale : viene determinata in anticipo una combinazione di fattori e viene creato un modello ipotizzando un modello di superficie di risposta quadratica.
*In realtà, alla formula teorica viene aggiunto un piccolo errore (rumore).
4. Confronto e discussione dei risultati sperimentali
Sono stati ottenuti i seguenti risultati. Si può notare che i risultati sono nettamente migliori con l'ottimizzazione bayesiana, nonostante il numero di esperimenti fosse inferiore.
| Tecnica |
Numero di esperimenti |
Resa ottimale trovata |
| Ottimizzazione bayesiana |
14 volte |
Oltre il 90% (superando significativamente le specifiche) |
| Progettazione degli esperimenti |
18 volte |
Circa il 15% |
Utilizzando l'ottimizzazione bayesiana, dopo tre esperimenti iniziali, siamo stati in grado di trovare le condizioni che hanno prodotto oltre il 90% dei risultati in 11 esperimenti aggiuntivi.
D'altra parte, abbiamo condotto esperimenti preliminari per costruire un modello di superficie di risposta per l'intero dominio sperimentale e abbiamo stimato le condizioni ottimali a partire dai risultati.
Utilizzeremo i "profili di contorno" per confrontare i valori ottimali ottenuti con ciascun metodo.
L'ottimizzazione bayesiana raggiunge la regione rossa ad alto rendimento (il picco), mentre la progettazione sperimentale stima una condizione ottimale in una posizione lontana dalla regione rossa.
Si ritiene che i seguenti motivi siano la causa di questi risultati:
- I metodi di progettazione sperimentale (superfici di risposta) si basano su modelli derivati da polinomi quadratici (picchi singoli) e pertanto non sono in grado di catturare forme complesse come quella in questo caso, che presenta picchi multipli (proprietà multimodali).
- Nell'ottimizzazione bayesiana, non si assume a priori una specifica forma funzionale, ma si utilizza un modello surrogato flessibile per l'esplorazione sequenziale. Si ritiene che questo approccio consenta di esplorare regioni con rendimenti elevati anche in presenza di picchi multipli nel processo.
5. Riepilogo
L'ottimizzazione bayesiana presenta due caratteristiche principali. Questo articolo si concentra in particolare sulla seconda: la sua capacità di cogliere relazioni non lineari complesse .
1. La soluzione ottimale può essere raggiunta con un numero ridotto di esperimenti.
- Imparando dai risultati sperimentali passati e selezionando in modo intelligente il punto di sperimentazione successivo, è possibile ridurre gli esperimenti non necessari e contenere i costi.
2. In grado di cogliere relazioni non lineari complesse.
- Una forma di funzione specificaPoiché non si basa su determinate ipotesi, è in grado di cogliere complesse non linearità e interazioni tra le variabili senza trascurarle.
Nelle fasi iniziali di un esperimento, la relazione tra la variabile di risposta e i fattori in gioco spesso non è del tutto chiara. In tali situazioni, l'analisi della superficie di risposta da sola potrebbe non essere sufficiente a individuare le condizioni ottimali, come in questo esempio.
In casi come questo, si può considerare l'ottimizzazione bayesiana come un'opzione valida.
*Incluso questo esempio, abbiamo preparato dei video che ti permettono di apprendere in modo sistematico le funzionalità e gli esempi di utilizzo dell'ottimizzazione bayesiana di JMP Pro.
Fondamenti e applicazioni dell'ottimizzazione bayesiana: ricerca efficiente delle condizioni ottimali con un minor numero di esperimenti (versione on-demand, giapponese)
di Naohiro Masukawa (JMP Giappone)
Naohiro Masukawa - Comunità degli utenti JMP
