エステル化反応における望ましくない副生成物の生成を研究するための実験設計が作成された。4つの混合成分因子と1つのプロセスベース因子を用いて、自己検証アンサンブルモデリング（SVEM）を用いた解析に特化した26回の空間充填実験マトリックスを作成した。このアプローチは、多項式シェッフェモデルを対象とする従来の混合設計よりも優れていることが示された。結果として得られた予測モデルはデータに非常によく適合し、各因子が副生成物の生成レベルに与える影響を明確に示していた。この情報は、反応速度論モデルの開発を加速し、プロセスをスケールアップするために活用された。
こんにちは、アンドリュー・フィッシュです。ジョンソン・マッセイのシニアプリンシパル研究員です。化学のバックグラウンドを持ち、2016年からJMPを使用しています。本日のポスターは、エステル化反応におけるプロセス実験計画とSVEM解析を組み合わせたものです。
はじめに、ジョンソン・マッセイの触媒技術事業についてご説明します。当社は様々な技術に対応した触媒や床シートを販売しており、実験計画法や高度なデータ分析に非常に役立ちます。触媒配合の開発や、化学反応のプロセス条件の最適化を行っています。私たちは、実験室で小規模な実験を行い、それを商用規模の反応器へと応用しています。
このポスターで取り上げる反応は、魚のエステル化反応の応用です。化学的な詳細はこのポスターの主題ではないので省略します。背景を説明すると、酸を触媒の存在下でアルコールと反応させ、エステルと水を生成する反応です。これは可逆反応なので、どちらの方向にも進む可能性があります。適切な条件が整わなければ、エステル生成物の量を最大化することはできません。
ここでさらに複雑なのは、副反応があることです。これは反応2で、アルコールが同じ酸触媒と反応してエーテルを生成します。この反応は不可逆反応であり、エーテルが生成されるとアルコールを回復できません。反応物質が消費されてしまったため、反応は本来の効率では進行しません。
このプロセスで私たちがやろうとしているのは、副産物であるエーテルの量を最小限に抑え、これらの条件下で形成されるベスタの量を最大化することです。
そのために、実験計画法を用いました。通常は、プロセス因子を1つだけ含む一般的な混合計画を用いる傾向があります。ここでは、空間的因子と空間的因子を組み合わせた計画という、少し斬新なアプローチを採用します。因子をまとめると、連続因子として温度があります。次に、従来の混合成分であるアルコール量、酸触媒量、および水量があります。最後の成分は元の酸ですが、この値は混合物の25%に固定します。つまり、残りの4つの混合成分の合計は75%になる必要があります。
次に、生成するエーテルの量を調べ、それを最小限に抑える方法を探ります。これは均一平衡反応なので、全ての成分が同時に存在する状態を作ります。設定温度まで加熱し、30分後に生成されるエーテルの量を測定します。
私たちがこれからやろうとしているのは、通常の従来の設定で、JMP から出てきて、以前準備した通常の混合設計で、これをリロードするだけです。
従来の設計では、温度を連続因子として導入します。4つの混合物成分を混合成分として導入します。そして、シェフキュービック型モデルを用いて、すべての項を追加することで、この現象が実現します。つまり、十分な大きさのデータセットを作成し、そのデータを分析するには、約40回の実験実行が必要になると考えられます。
これを従来の三元図で見ると、さまざまな混合因子の因子の組み合わせと、それら 40 に対して実行する実験が表示され、空間を非常によく探索していることがわかります。
潜在的な問題は、温度に関しては実際には高温と低温しか考慮しておらず、混合係数の設定が依然として極端な状態にあることです。そこで、この実験の設計方法として、代わりに空間充填設計を採用し、その結果をSVEMで分析することにします。
空間充填設計を構築するために、「DoE」と「Special Purpose」の「Space-filling Design」に進みます。先ほど準備した因子を読み込みます。また、応答も読み込みます。応答としてエーテルを導入し、最小化を目指します。温度は連続因子です。ここでの違いは、これら4つの混合成分を混合因子として導入するのではなく、連続因子としてそのままにしておくことです。範囲は引き続き指定します。今回は制約条件をいくつか指定するため、制約条件を読み込みます。
これは、4つの混合物成分の合計が75%未満、つまりモル分率で0.75未満でなければならないことを意味します。バックグラウンドで計算が機能するように、等価負制約も設定します。これが完了すると、設計空間とその実行方法に関して、多項式モデルに制約されなくなります。必要な実行回数を指定できます。
この場合、25回の実行時間しかありません。25回の実行を選択し、計画を作成します。25回の実行計画は小数点以下の桁数が多く、実際には不可能ですが、実験ではこれらをターゲットにしていきます。
この結果を、以前三角プロットで行った結果と比較すると、非常によく似ていることがわかります。空間の広い範囲をカバーしていますが、端ではなく中央に多くのデータが含まれています。繰り返しますが、多変量プロットでは、温度が空間の端ではなく中央に多く含まれていることがわかります。これは、元の従来の混合実験であるシェッフェ立方体型計画と比較して、より広範囲に及んでいます。また、実験回数も15回少なくなっています。
この研究の真の目的は、データを収集した後、従来の多項式モデルの代わりに機械学習型のニューラルネットワークアルゴリズムを適用し、解像度とシステムから得られる理解度を向上させることです。ポスターに戻ります。
実験は25回行う予定だと既に申し上げました。実際には26回実施し、繰り返し実験も含めました。グラフに表示されている赤い点は繰り返し実験で、エーテルの測定において良好な再現性があることを確認するためのものです。
先ほど申し上げたように、混合係数は連続値として扱われています。混合率は75%です。これらの実験はミニオーダーのクラベスで行っています。30分間放置します…温度まで昇温し、30分間放置した後、ガスクロマトグラフィーと呼ばれる分析技術を用いて30分後のエーテル量を測定し、これが26回の実験に対する結果となります。
私たちは実験を続けました。それほど時間はかかりませんでした。その後、データセットに少し手を加えました。これまで、これらの因子をパーセンテージで説明してきました。これをモル分率に変換すると、後で扱いやすくなります。基本的には、パーセンテージを100で割っただけです。つまり、合計が75%ではなく0.75になる数字です。
2つ目の問題は、ここでもう一度ジャンプから抜け出しますが、結果を見てみると、これらは私たちの構成要素であり、場合によっては合計が1以上、あるいは0.75以上、酸の濃度が固定されている場合でも1以上になることがあります。その理由は、これらの要素が実験の一環として測定されているためです。私たちは、達成したいと思っていたことを完全に達成することができません。
この場合、少し手作業で調整しました。混合物の中で最も大きな成分であるエステルを取り上げ、それを調整するだけです。ご覧のとおりです。0.01ずつ調整したのは、全ての合計が1になるようにするためで、これはバックグラウンドで計算がスムーズに進むようにするためです。データセット内の26の実験では、これは大きな問題ではありませんでした。
いくつかの小さな調整を行い、エーテル濃度に関して、再実験で実験誤差の範囲内の結果が得られたことも確認しました。これで準備は完了し、次のステップに進みます。次に、データセットのモデリングの検討を開始しました。
前にも述べたように、従来の Scheffe Cubic 多項式ではなく Spaceful 設計を使用する理由は、テストで結果が少なくなる可能性があるためです。また、これにさらにニューラル ネットワークを適用して解像度を向上できるため、非常に制限された関数である 2 次または 3 次項に制限されることはありません。
これを実現する方法は、ニューラルネットワークが一般的に非常に大規模なデータセットに適用されることです。大量のデータが必要であり、小規模なDoEタイプのデータセットには適用できません。DoEではすべての実行が重要だからです。DoEのすべての実行が重要となるため、検証セットやテストセットの一部として特定の実行を無視することはできません。そうすると、設計構造に違反することになります。一方、SVEMを使用する場合、残念ながらSVEMの背景を説明する時間はありません。ここではSVEMの適用方法のみを説明します。
少し背景を説明すると、これはSVEM（自己検証アンサンブルモデリング）を用いて動作します。自己検証の部分では通常、ニューラルネットワークを適合させる際に、データをトレーニングセット、検証セット、テストセットに分割します。つまり、データを分割するということです。
自己検証では、データセットを複製し、ガンマ分布を用いた「ペアド・フラクショナル・ウェイト・ブートストラッピング」と呼ばれる手法を用います。つまり、各データポイントの逆相関ペア（重みの高いものと低いもの）を取得し、1つをトレーニングセット、もう1つを検証セットで使用して、これを用いてニューラルネットワークを構築します。
アンサンブルモデリングの出番は、ガンマ分布の異なる重み付けを用いて多数のモデルを構築することです。そして、最終的なモデルを平均化します。これがSVEMの実際の動作です。理論的には、従来の多項式近似よりも高解像度の優れたモデルが得られます。特に混合設計に非常に有効です。私たちが行ったのはまさにこれです。
これが最終的に得られたSVEMモデルです。ニューラルネットワークアルゴリズムです。ブートストラップされた50個のモデルを使用し、それらを平均化しました。非常にシンプルなニューラルネットワークです。3つの双曲正接関数を持つ層は1つだけです。ここでも、プレゼンテーションを終えてJMPを開き、これがどのように動作するかをお見せします。
SVEMは、Predictumという会社が作成したアドインを使って作成しました。これはライセンスされたアドインです。ニューラルネットワークを構築します。まず、温度、酸触媒、アルコール、水、エステルという因子を選択します。これらの因子は、全てが一致するように0.01の調整で変換されています。応答としてエーテルを選択します。「実行」をクリックすると、SVEMを起動するためのダイアログが表示されます。
平均化されるモデルの数とブートストラップモデルの数を選択できます。今回は50のままにしておきます。かなりシンプルに、10年齢層を3つ、つまり最初の層に10年齢関数を3つ配置します。
これらは好きなように修正して、線形関数やガウス関数を導入できます。今回はそのままにしておきます。SVEMを実行しますが、分数ブートストラップは毎回異なるため、結果は毎回異なります。前回と似たような結果が得られるはずです。
これが実際の予測値プロットです。こちらがエーテル応答の実際の値で、こちらがSVEMによる予測値です。R²が0.99と非常に高く、誤差も非常に低いことがわかります。次に、列をテーブルに保存します。これは既に行っています。これは、この式と標準的な式を比較して、どのように見えるかを示すために示したものです。
実質的に、エーテル濃度、つまり応答は、これらのtan h 関数に係数を掛け、さらに様々な混合要因やプロセス要因を掛け合わせたものです。これが1つ目のモデル、これが2つ目のモデル、これが3つ目のモデル、というように、合計50個のモデルを作成し、それらを平均化することで予測式が得られます。これがSVEMの実際の動作であり、非常に優れた予測値が得られます。
ポスターに戻りました。比較のために、特にそのために設計されたわけではありませんが、Scheffe Cubic項を使った最小二乗回帰モデルを構築し、段階的なパラメータ選択を用いてそれらの項をモデルに絞り込みました。そのモデルを構築し、SVEMモデルと直接比較しました。
ここではモデルの比較が示されています。SVEMの予測値は赤で、最小二乗回帰の予測値は青で示されています。SVEMモデルのR²値が高く、それに伴う誤差も大幅に小さくなっています。また、残差プロットでは、同じ色で示されていますが、最小二乗回帰モデルは特定のデータポイントで残差がはるかに高くなっています。SVEMは25回の実行データセットで効果的に優れたモデルを生成しています。通常、ニューラルネットワークをDoEに適用するのは非常に困難です。少し戻ってみましょう。
これがこの研究の全体的な目的であるエーテル生成の最小化にどのような影響を与えるかを見てみましょう。予測プロファイラーを見ることでそれがわかります。先ほど予測式を予測プロファイラーにエクスポートしました。ここでも、SVEMモデルと最小二乗回帰モデルSVEMを比較しています。SVEMモデルは上部に赤で表示されています。
ここでわかるのは、両者の間に違いがあることです。SVEMモデルでは解像度がはるかに高いのに対し、最小二乗回帰は多項式曲線によって制限されます。基本的に、エーテル副産物の量が少ない場合、反応温度を低くし、混合物中の酸触媒を少なくし、アルコール濃度を中程度にし、水分を多くし、エステル濃度を低くする必要があります。
私たちにとっては意外な結果もありましたが、実際の生物学的予測プロットを見ると、システムをかなりうまくモデル化できていると確信しています。2つのモデルの違いも確認できます。例えば、ここでは酸触媒が最小二乗回帰モデルにおいて重要な因子として選択されておらず、エステルと比較して傾向の方向が全く異なります。これが、R²値と最小二乗回帰の予測値の違いを説明しています。
ここでは、たとえばアルコールの場合、中央に低下が見られますが、最小二乗回帰ではそれほど顕著にならない標準的な多項式と比較すると、いくつかの優れた特徴が見られます。
要約すると、従来の混合型実験計画法ではなく、空間充填実験計画法を採用しました。混合成分または混合因子を、制約条件が組み込まれた連続因子として扱い、混合の総和を計算しました。
非常に小規模なデータセットから得られる情報を最大化するために、SVEMをモデリング手法として適用しました。従来の多項式型モデルと比較して予測解像度が向上し、この化学反応におけるエーテル生成を最小限に抑える条件を理解するのに非常に役立ちました。また、システム全体の速度論モデルの構築開始までの時間も短縮されました。
今後の課題としては、これらの実験から時系列データも取得しています。30分時点のデータだけでなく、5分、10分、15分、20分時点のデータも取得しています。これらのデータをさらに処理し、統合することで実際の化学反応速度を計算し、より高度な反応速度論モデルを構築することができます。今後は、この点に注力していきます。
また、この研究に貢献してくださったジョンソン・マッセイの技術チームの多くの科学者やエンジニアの方々にも深く感謝いたします。最後に、SVEMの使用に関するトレーニングとアドインのライセンス提供をしてくださったPredictumにも感謝いたします。このポスター発表をお聞きいただきありがとうございました。
