Zur Untersuchung der Bildung eines unerwünschten Nebenprodukts in einer Veresterungsreaktion wurde ein Versuchsdesign entwickelt. Vier Faktoren der Mischungskomponenten sowie ein prozessbezogener Faktor dienten zur Erstellung einer raumfüllenden Versuchsmatrix mit 26 Läufen, die speziell für die Analyse mittels selbstvalidierter Ensemble-Modellierung (SVEM) konzipiert wurde. Dieser Ansatz wurde einem traditionellen Mischungsdesign für ein polynomiales Scheffé-Modell vorgezogen. Das resultierende Vorhersagemodell passte hervorragend zu den Daten und identifizierte klar den Einfluss jedes Faktors auf die Menge des gebildeten Nebenprodukts. Diese Informationen wurden genutzt, um die Entwicklung eines kinetischen Modells zu beschleunigen und den Prozess zu skalieren.
Hallo, ich bin Andrew Fish. Ich bin leitender Wissenschaftler bei Johnson Matthey und Chemiker. Seit 2016 arbeite ich für JMP. Mein heutiges Poster behandelt die Versuchsplanung und SVEM-Analyse einer Veresterungsreaktion.
Zur Einführung: Im Geschäftsbereich Katalysatortechnologien von Johnson Matthey vertreiben wir Katalysatoren und Bodenplatten für verschiedene Technologien. Dies ermöglicht uns die Versuchsplanung und die Durchführung fortschrittlicher Datenanalysen. Wir entwickeln Katalysatorformulierungen und optimieren Prozessbedingungen für chemische Reaktionen. Unsere Arbeit beginnt im Labormaßstab und wird anschließend auf Reaktoren im kommerziellen Maßstab übertragen.
Die Reaktion, auf die wir uns in diesem Poster konzentrieren, ist eine Anwendung der Fish-Veresterung. Ich möchte nicht zu sehr auf die chemischen Details eingehen, da dies nicht der Schwerpunkt dieses Posters ist. Zur Erklärung: Es handelt sich um eine Reaktion, bei der eine Säure mit einem Alkohol in Gegenwart eines Säurekatalysators umgesetzt wird, wobei ein Ester und Wasser entstehen. Diese Reaktion ist reversibel und kann in beide Richtungen ablaufen. Sind die Reaktionsbedingungen nicht optimal, lässt sich die Ausbeute an Ester nicht maximieren.
Die zusätzliche Komplikation besteht darin, dass eine Nebenreaktion auftritt. Dies ist Reaktion 2, bei der der Alkohol mit demselben Säurekatalysator zu einem Ether reagiert. Diese Reaktion ist irreversibel, das heißt, wenn der Ether entsteht, kann der Alkohol nicht zurückgewonnen werden. Die Ausgangsstoffe sind verbraucht, und die Reaktion verläuft daher nicht so effizient wie möglich.
Ziel dieses Prozesses ist es, die Menge dieses Nebenprodukts Ether zu minimieren und die Menge des unter diesen Bedingungen gebildeten Vesta zu maximieren.
Dazu verwendeten wir ein Versuchsdesign. Normalerweise würden wir ein generisches Mischungsdesign mit einem Prozessfaktor verwenden. Wir verfolgen hier einen etwas anderen Ansatz und nutzen ein räumliches und dreidimensionales Design. Zusammenfassend haben wir als kontinuierlichen Faktor die Temperatur. Hinzu kommen vier traditionelle Mischungskomponenten: die Menge an Alkohol, die Menge an Säurekatalysator, die Menge an … und die Menge an Wasser. Die letzte Komponente ist die ursprüngliche Säure, deren Anteil wir auf 25 % der Mischung festlegen. Das bedeutet, dass die verbleibenden vier Mischungskomponenten zusammen 75 % ergeben müssen.
Wir bestimmen die Menge des entstehenden Ethers und versuchen, diese zu minimieren. Da es sich um eine homogene Gleichgewichtsreaktion handelt, sind alle Komponenten gleichzeitig vorhanden. Wir erhitzen die Mischung auf die gewünschte Temperatur und messen nach 30 Minuten die Menge des gebildeten Ethers.
Wir werden in einem normalen, traditionellen Setup vorgehen. Ich werde einfach aus JMP herauskommen und ein normales Mischungsdesign verwenden, das ich zuvor vorbereitet habe. Ich werde es einfach neu laden.
In einem traditionellen Versuchsaufbau würden wir die Temperatur als kontinuierlichen Faktor einführen. Wir würden unsere vier Mischungskomponenten als Mischungskomponenten einführen. Anschließend würden wir ein kubisches Modell verwenden und alle Terme hinzufügen, um dies zu realisieren. Dies deutet darauf hin, dass wir etwa 40 Versuchsreihen benötigen, um einen ausreichend großen Datensatz zu erstellen und diesen analysieren zu können.
Wenn wir uns ansehen, wie das in einem traditionellen ternären Diagramm aussieht, können wir hier die Faktorkombinationen der verschiedenen Mischungsfaktoren und die Experimente sehen, die wir mit diesen 40 durchführen würden. Man kann sehen, dass der Raum ziemlich gut abgedeckt wird.
Das potenzielle Problem besteht darin, dass wir bei der Temperaturmessung lediglich hohe und niedrige Temperaturen betrachten und uns noch an den Extrempunkten der Mischungsfaktoreinstellungen befinden. Daher werden wir für dieses Experiment ein raumfüllendes Versuchsdesign verwenden und die Ergebnisse mithilfe der SVEM-Methode analysieren.
Um das raumfüllende Design zu erstellen, gehe ich zu DoE, Spezialanwendung und raumfüllendem Design. Ich lade meine zuvor vorbereiteten Faktoren und die Zielgröße. Ich habe Äther als Zielgröße, die ich minimieren möchte, und die Temperatur als kontinuierlichen Faktor. Der Unterschied besteht darin, dass ich die vier Mischungskomponenten nicht als Mischungsfaktoren, sondern als kontinuierliche Faktoren einführe. Den Bereich gebe ich weiterhin an. Diesmal definiere ich außerdem Randbedingungen und lade sie daher.
Das bedeutet, dass die Summe der vier Mischungskomponenten weniger als 75 % bzw. 0,75 Molenbruch betragen muss. Ich füge zusätzlich eine entsprechende negative Bedingung hinzu, um die Berechnung im Hintergrund zu vereinfachen. Danach bin ich hinsichtlich des Versuchsraums und dessen Umsetzung nicht an ein Polynommodell gebunden. Ich kann die Anzahl der gewünschten Versuche festlegen.
In diesem Fall habe ich nur Zeit für 25 Durchläufe. Ich werde 25 Durchläufe auswählen und dann das Design erstellen. Wir haben hier ein Design für 25 Durchläufe mit vielen Nachkommastellen, was so nicht realisierbar ist, aber wir werden diese Werte in unseren Experimenten berücksichtigen.
Vergleicht man die Ergebnisse dieses Versuchs mit denen des vorherigen Versuchs im ternären Diagramm, so zeigen sich große Ähnlichkeiten. Wir decken einen Großteil des Raums ab, konzentrieren uns aber nicht mehr nur auf die Ränder, sondern vor allem auf die Mitte. Auch im multivariaten Diagramm ist zu erkennen, dass die Temperaturverteilung nun deutlich mehr Bereiche in der Mitte des Raums abdeckt als die Ränder, im Gegensatz zum ursprünglichen traditionellen Mischversuch mit kubischem Scheffé-Design. Zudem benötigen wir dafür 15 Versuche weniger.
Das Ziel ist, dass wir, sobald wir diese Daten gesammelt haben, einen Algorithmus für maschinelles Lernen mit neuronalen Netzen anstelle eines herkömmlichen Polynommodells anwenden können, um so hoffentlich die Auflösung und das Verständnis dieses Systems zu verbessern. Ich komme nun zurück zum Poster.
Wie bereits erwähnt, waren 25 Experimente geplant. Wir haben nun 26 durchgeführt, um eine Wiederholung einzufügen. Der rote Punkt in den Diagrammen markiert diesen Wiederholungstest, der die Reproduzierbarkeit unserer Äthermessung sicherstellen sollte.
Wie bereits erwähnt, wurden die Mischungsfaktoren als kontinuierlich behandelt. Die Mischungssumme beträgt 75 %. Wir führen diese Experimente in Mini-Klavieren durch. Wir werden sie 30 Minuten lang auf die gewünschte Temperatur bringen, sie dann 30 Minuten lang ruhen lassen und anschließend die Ethermenge mittels Gaschromatographie messen. Dies ist unser Ergebnis für diese 26 Experimente.
Wir machten weiter und führten die Experimente durch. Es dauerte nicht lange. Anschließend nahmen wir einige kleine Anpassungen am Datensatz vor. Bisher hatte ich diese Faktoren in Prozent angegeben. Die spätere Arbeit damit ist einfacher, wenn wir sie in Molenbrüche umrechnen. Im Prinzip habe ich den Prozentsatz einfach durch 100 geteilt, sodass wir eine Zahl erhalten, die sich zu 0,75 summiert, anstatt zu 75 %.
Das zweite Problem – und ich komme hier noch einmal auf meine Ergebnisse zurück – ist, dass die Summe unserer Komponenten in einigen Fällen größer als eins oder größer als 0,75 ist, also größer als eins, wenn die vorgegebene Säurekonzentration konstant ist. Der Grund dafür ist, dass diese Faktoren im Rahmen des Experiments gemessen wurden. Wir können unser Ziel daher nicht vollständig erreichen.
In diesem Fall habe ich eine kleine manuelle Anpassung vorgenommen. Ich habe die Hauptkomponente der Mischung, den Ester, genommen und diese angepasst, wie Sie hier sehen können. Ich habe um 0,01 korrigiert, damit die Summe aller Werte eins ergibt. Das erleichtert die Berechnung im Hintergrund. Für die 26 Experimente im Datensatz war das kein Problem.
Nach einigen kleineren Anpassungen konnten wir bestätigen, dass der Wiederholungslauf hinsichtlich der Etherkonzentration ein Ergebnis innerhalb der experimentellen Fehlertoleranz lieferte. Alles in Ordnung, wir können also weitermachen. Anschließend begannen wir mit der Modellierung des Datensatzes.
Wie ich bereits erwähnt habe, verwenden wir ein Spaceful-Design anstelle eines traditionellen Scheffé-Polynoms mit kubischer Formel, weil wir potenziell weniger Ergebnisse im Test erhalten und mehr neuronale Netze anwenden können, um die Auflösung zu erhöhen und nicht durch quadratische oder kubische Terme eingeschränkt zu sein, die sehr begrenzte Funktionen darstellen.
Diese neuronalen Netze werden im Allgemeinen eher für sehr große Datensätze verwendet. Man benötigt also eine große Datenmenge. Für kleine Datensätze, wie sie beispielsweise in Versuchsreihen (DoE) vorkommen, sind sie nicht geeignet. Denn jeder Durchlauf in einer DoE ist wichtig. Man kann es sich nicht leisten, bestimmte Durchläufe als Teil eines Validierungs- oder Testdatensatzes zu vernachlässigen, da jeder Durchlauf in der DoE zählt und man damit die Versuchsplanung verletzen würde. Wenn man hingegen SVEM verwendet – und ich habe leider keine Zeit, auf die Hintergründe von SVEM einzugehen –, zeige ich Ihnen einfach, wie man es anwendet.
Zur Erklärung: Es basiert auf SVEM, einem selbstvalidierenden Ensemble-Modell. Bei der Selbstvalidierung teilt man die Daten beim Training eines neuronalen Netzes üblicherweise in einen Trainings-, einen Validierungs- und einen Testdatensatz auf.
Bei der Selbstvalidierung replizieren wir den Datensatz und verwenden ein Verfahren namens gepaartes fraktioniertes Bootstrapping mit Gammaverteilung. Dadurch erhalten wir für jeden Datenpunkt antikorrelierte Paare: einen mit hohem und einen mit niedrigem Gewicht. Diese Paare werden im Trainings- bzw. Validierungsdatensatz verwendet und dienen als Grundlage für den Aufbau des neuronalen Netzes.
Die Ensemble-Modellierung besteht darin, viele solcher Modelle mit unterschiedlichen Gewichtungen in der Gammaverteilung zu erstellen und anschließend das finale Modell zu mitteln. So funktioniert SVEM im Prinzip. Theoretisch liefert es ein besseres Modell mit höherer Auflösung als eine herkömmliche Polynomanpassung. Es eignet sich besonders für Mischungsdesigns. Genau das haben wir getan.
Dies ist unser resultierendes SVEM-Modell. Es handelte sich um einen neuronalen Netzwerkalgorithmus. Ich habe 50 Modelle verwendet, die per Bootstrapping generiert und gemittelt wurden. Es war ein recht einfaches neuronales Netzwerk. Es bestand nur aus einer Schicht mit drei hyperbolischen Tangensfunktionen. Ich werde die Präsentation nun beenden und Ihnen in JMP die Funktionsweise demonstrieren.
Das gesamte SVEM-Verfahren wurde mithilfe eines Add-ons der Firma Predictum durchgeführt. Es handelt sich um ein lizenziertes Add-on. Wir werden ein neuronales Netzwerk erstellen. Dazu wähle ich die Faktoren aus: Temperatur, Säurekatalysator, Alkohol, Wasser und Ester. Letzteren habe ich mit 0,01 transformiert, um eine korrekte Summe zu erzielen. Als Zielgröße wähle ich Ether. Nach dem Klick auf „Ausführen“ öffnet sich ein Dialogfeld zum Starten des SVEM-Verfahrens.
Ich kann auswählen, wie viele Modelle gemittelt und wie viele Bootstrap-Modelle verwendet werden. Ich belasse es bei 50. Ich halte es relativ einfach und verwende drei 10-stufige Ebenen… drei 10-stufige Funktionen in der ersten Ebene.
Sie können diese Einstellungen nach Belieben anpassen und lineare sowie Gaußsche Funktionen einbeziehen. Ich lasse sie jetzt aber unverändert. Das Programm führt nun die SVEM-Methode aus, und das Ergebnis wird sich jedes Mal unterscheiden, da der fraktionale Bootstrapping-Algorithmus jedes Mal anders ist. Wir sollten ein ähnliches Ergebnis wie zuvor erhalten.
Hier ist mein Vergleich von Ist- und Sollwert. Dies ist der tatsächliche Wert meiner Ätherreaktion und dies der vom SVEM vorhergesagte Wert. Sie sehen, dass ich ein hervorragendes R² von 0,99 mit einem sehr geringen Fehler erziele. Anschließend würde ich meine Spalten in der Tabelle speichern, was ich bereits getan habe. Hier sehen Sie, wie diese Formel im Vergleich zu einer Standardformel aussieht.
Die Etherkonzentration bzw. -reaktion ist im Prinzip eine Kombination dieser tan h-Funktionen, multipliziert mit Koeffizienten und verschiedenen Mischungs- und Prozessfaktoren. Dies ist ein Modell, dies das zweite, dies das dritte usw. Insgesamt ergeben sich so 50 Modelle, deren Mittelwert wir bilden. Das Ergebnis ist unsere Vorhersageformel. So funktioniert SVEM und liefert uns präzise Vorhersagen.
Ich bin wieder beim ursprünglichen Thema. Zum Vergleich: Obwohl es nicht speziell dafür gedacht war, habe ich ein Regressionsmodell mit kleinsten Quadraten erstellt, das die kubischen Scheffé-Terme des Modells verwendet. Anschließend habe ich die Parameter schrittweise ausgewählt, um die Terme im Modell einzugrenzen. Dieses Modell habe ich dann direkt mit dem SVEM-Modell verglichen.
Hier sehen Sie den Modellvergleich. Die SVEM-Vorhersagen sind rot, die der Regressionsanalyse blau dargestellt. Das SVEM-Modell weist einen höheren R²-Wert und einen deutlich geringeren Fehler auf. Auch im Residuenplot (ebenfalls in den gleichen Farben) zeigt sich, dass die Regressionsanalyse für bestimmte Datenpunkte deutlich höhere Residuen aufweist. Das SVEM-Modell liefert mit einem Datensatz von 25 Durchläufen effektiv ein besseres Modell. Normalerweise ist es sehr schwierig, neuronale Netze auf Versuchsplanungen anzuwenden. Ich gehe jetzt zurück.
Wir betrachten nun, wie sich dies auf das Gesamtziel dieser Arbeit auswirkt, nämlich die Minimierung der Etherbildung. Dies lässt sich mithilfe des Vorhersageprofilers untersuchen. Die Vorhersageformel wurde in den Vorhersageprofiler exportiert. Ich vergleiche hier das SVEM-Modell mit dem Regressionsmodell der kleinsten Quadrate (SVEM, rot markiert oben).
Wie Sie hier sehen, bestehen Unterschiede zwischen den beiden Modellen. Das SVEM-Modell bietet eine deutlich höhere Auflösung, während die Methode der kleinsten Quadrate durch Polynomkurven begrenzt ist. Um geringe Mengen an Ether als Nebenprodukt zu erhalten, benötigen wir im Wesentlichen eine Reaktion bei niedriger Temperatur, einen schwach sauren Katalysator im Reaktionsgemisch, einen Alkoholgehalt im mittleren Bereich, einen hohen Wassergehalt und einen niedrigen Estergehalt.
Es gibt einige überraschende Ergebnisse für uns, aber nach Betrachtung der tatsächlichen biovorhersagenden Grafik sind wir recht zuversichtlich, dass wir das System gut modelliert haben. Man kann Unterschiede zwischen den beiden Modellen erkennen. Beispielsweise wurde der Säurekatalysator hier im Regressionsmodell der kleinsten Quadrate nicht als wichtiger Faktor identifiziert, und die Richtung des Trends in Abhängigkeit vom Ester ist völlig anders. Das erklärt die Unterschiede im R²-Wert und den Vorhersagen der Regression der kleinsten Quadrate.
Man kann hier auch einige schöne Merkmale erkennen, zum Beispiel beim Alkohol, wo wir in der Mitte einen Einbruch haben, im Gegensatz zu einem einfachen Polynom, das dies bei der Regression der kleinsten Quadrate nicht so gut erfasst.
Zusammenfassend lässt sich sagen, dass wir anstelle eines traditionellen Mischungsdesigns ein raumfüllendes Versuchsdesign verwendet haben. Wir haben die Mischungskomponenten bzw. Mischungsfaktoren als kontinuierliche Faktoren mit integrierten Nebenbedingungen behandelt und so die Gesamtwirkung der Mischung berücksichtigt.
Wir haben SVEM als Modellierungstechnik eingesetzt, um die Informationsausbeute aus einem sehr kleinen Datensatz zu maximieren. Im Vergleich zu einem herkömmlichen Polynommodell konnten wir die Auflösung unserer Vorhersage verbessern, was uns wesentlich geholfen hat, die Bedingungen zur Minimierung der Etherbildung in dieser chemischen Reaktion zu verstehen. Zudem konnten wir so schneller mit der Entwicklung eines kinetischen Modells für das Gesamtsystem beginnen.
Für zukünftige Arbeiten stehen uns auch Zeitreihendaten aus diesen Experimenten zur Verfügung. Anstatt nur einen Datenpunkt nach 30 Minuten zu haben, liegen uns auch Datenpunkte nach 5, 10, 15 und 20 Minuten vor. Wir können diese Daten weiterverarbeiten und integrieren, um die tatsächlichen chemischen Reaktionsgeschwindigkeiten zu berechnen und ein weiterentwickeltes kinetisches Modell zu erstellen. Darauf werden wir uns zukünftig konzentrieren.
Ein herzliches Dankeschön geht auch an die zahlreichen Wissenschaftler und Ingenieure des Technologie-Teams von Johnson Matthey, die zu dieser Arbeit beigetragen haben. Ebenso danken wir Predictum für die Schulung in der Anwendung von SVEM und die Lizenzierung des Add-ins. Vielen Dank für Ihre Aufmerksamkeit bei dieser Posterpräsentation.
