本次報告將介紹一種我們自主研發的新型實驗設計（DOE）方法，名為「動態DOE」。此方法專為利用動力學反應數據進行化學開發中的時間依賴性DOE而設計。這項創新方法的發展旨在解決傳統DOE方法在處理時間敏感型化學過程時所面臨的挑戰。
此外，我們也展示了勃林格殷格翰後期化學開發中的實際應用案例。這些案例研究表明，動態DOE技術與高通量自動化實驗室反應器相結合，取得了成功，突顯了其實際優勢和在行業中廣泛應用的潛力。
歡迎各位參加我們JMP Discovery Summit的演講，本次演講的主題是「化學開發中的時間依賴性實驗設計」。在正式開始之前，我想先簡單介紹一下我們的公司—勃林格殷格翰。我們是一家全球性製藥公司，由勃林格家族於1885年創立，至今仍是家族企業，因此沒有上市。
我們的業務主要集中在三個領域：首先是人用藥品，這是我們最大的業務；其次是動物保健；此外，我們還涉足生物製藥領域。我們在全球擁有超過5萬名員工，分佈在16個不同的地點。 2022年，我們的營業收入接近250億歐元。我和Jonas目前的工作是化學研發，我們致力於開髮用於臨床研究以及後續上市的化學製程。
更具體地說，這意味著我們開發新的化學合成路線來合成活性藥物成分。我們首先在實驗室開發穩健、可擴展且可持續的工藝，然後將其放大到中試規模，最終達到工廠規模。透過這種方式，我們為一期至三期臨床試驗提供原料藥，並產生後續上市申報所需的所有數據。
為了盡快滿足患者的需求，我們始終致力於加速研發進程，並積極開發新的技術和數位化解決方案。接下來，讓我們來談談我們的主要目標——化學。化學本質上是一門科學或藝術，它將分子片段組合或改變，建構出更大、更複雜的分子片段，而這些分子片段最終就是我們的活性成分。
為此，我們需要研究化學過程，其中包含大量可改變的參數，例如試劑、溶劑、所有這些物質的化學計量比，以及溫度、時間等物理參數。您可以看到這是一個多因素問題，需要影響的目標變數範圍相當廣泛。
最重要的始終是製程收率，因此我們希望盡可能提高製程收率。同時，我們也希望獲得良好的純度，因此我們希望減少可能產生的雜質。此外，我們非常重視降低製程對環境的影響。因此，我們希望減少溶劑和試劑的使用。我們希望使用綠色溶劑和試劑等等。
最後但同樣重要的是，我們希望（或者說我們必須）開發穩健的流程，這意味著我們必須確保我們知道在不影響產品品質的情況下，我們可以在多大範圍內改變參數，並且我們希望能夠建立一個設計空間。
從統計學角度來看，這可以被視為一個多因素多響應黑箱最佳化問題，我們希望在確保找到全局最優解的同時，盡可能高效地優化問題。顯然，這是實驗設計（DOE）的理想應用場景。我們已在多種場景中積極應用了實驗設計。
在早期篩選階段，我們使用篩選實驗設計（DOE）來有效地從大量參數中找出影響因素和可能的最佳參數點。之後，我們進入最佳化階段，利用響應曲面設計（RESD）來真正找到最佳參數點和全域最優解。最後，在產品上市申報階段，我們再次使用高效的實驗設計（DOE）來表徵我們的工藝，篩選所有可能影響原料藥品質的參數。
DOE（實驗設計）是一種很棒的方法論。我們非常喜歡它，但它也存在一些挑戰。首先是設計穩健性，尤其是在篩選DOE時。我們經常發現，實驗室專家對影響參數的高低設定不正確，也就是說，低值設定得太低，或高值設定得太高。這意味著在這些設定下，我們的校正完全失效，或者我們處於不穩定區域，無法獲得穩定的反應。
其次，DOE（實驗設計）效率很高。然而，如果需要優化大量參數，往往需要進行相當多的實驗，尤其是在後期研發階段，因為實驗室規模龐大，無法同時進行多個反應，而且反應成本也相當高昂。這有時會成為一個問題。
我們想要解決這些問題，並且希望透過多種方式來解決。首先是設計穩健性的問題。顯而易見的解決方案是，如果所有實驗都只在低或高設定下進行，那麼為了避免50%的反應失敗，只需將實驗更均勻地分佈在整個參數範圍內即可。也就是說，不僅要在低和高設定下進行實驗，還要在設計空間的中間位置進行實驗。
為了最大限度地提高效率，我們從文獻中汲取了靈感。化學過程受化學速率定律（即物理微分方程）所支配。這意味著反應的時間進程中蘊含著大量訊息，我們的想法是將這些時間資訊更好地融入實驗設計中，例如對同一反應進行多個時間點的採樣，從而充分利用單一反應的全部信息，並最大化每個反應的效率。
最後，也是非常重要的一點，自動化。實驗設計（DOE）具有高度重複性，因此非常適合高度自動化。我們希望盡可能優化實驗室中實驗設計的實施過程。
接下來，我們來看看專案範圍。在這個專案中，我們想要探究：能否利用不同的實驗設計類型來解決設計穩健性問題？此外，在使用新的動力學數據時，不同的實驗設計類型是否更有效？
其次，是迴歸分析方法。顯然，我們希望納入一種新型數據，並想看看不同的迴歸分析方法是否比其他方法更有效。
第三，需要多少數據？我們能否減少進行一次實驗設計所需的實驗次數？最後，也是非常重要的一點，如何將這種方法自動化地應用到我們的實驗室中。
當我們想要評估所有可能的組合時，很快就遇到了基準數據的問題。顯然，我們需要數據來嘗試不同的組合。如果只考慮一個實驗設計（DOE），假設要考慮九種不同的設計類型，每種類型包含18個反應，每個反應有10個時間點，那麼就需要進行大量的實驗設計，反應數量還會更多。最終，我們計算出了25000個反應。
顯然，這對我們來說不可行。我們無法進行那麼多實驗。因此，我們必須另闢蹊徑。我們最終還是回到了化學反應受基本速率定律支配這一事實，也就是可以用微分方程來大致精確地描述化學過程。而我們就利用了這一點。
我們選取了一個化學反應，測量了其動力學，並求解了該反應的速率定律。我們大致建立了一個特定反應的電腦模擬模型。現在，利用這個速率定律，我們能夠模擬不同實驗設計（DOE）的結果。我們進行了大量的實驗設計，篩選了不同類型的實驗設計，並利用該速率定律以時間依賴的方式模擬了反應結果。
我們針對相同反應在多個時間點計算了許多反應值，結果如圖所示。我們得到了漂亮的動力學曲線。這些曲線變化非常顯著，從反應進行得非常順利到完全沒有反應，差異很大。然後，我們將這些資料匯入到標準的 JMP 表格中，您可以大致了解一下這些表格的樣子。我們只是將所有實驗數據堆疊在一起。
實驗一包含三個時間點。我們的影響參數相同，僅時間不同，因此本例中的反應值也不同。透過這種方法，我們現在可以進行電腦模擬。顯然，我們需要一些實驗反應作為基礎。我們選擇了兩種不同的反應類型，如圖所示。
第一步反應是試劑介導的偶合反應。這在實驗設計上意味著什麼？圖中以綠色標示了兩種底物。底物 A 被試劑活化，形成活化絡合物。此絡合物隨後與起始原料反應，生成產物。圖中灰色部分標示了雜質的生成。
在這個反應中，我們研究了五個不同的參數：溫度、化學計量比濃度、反應時間。第二個例子是酵素反應，其中我們同樣將兩種底物偶聯起來。底物A被酵素激活，形成活化複合物。底物2被化學試劑激活，生成產物和雜質。
總共生成了四種不同的反應，其中兩種反應生成產物，兩種反應生成產率。總共得到四組不同的數據。
然後我們在JSL中設定了一個工作流程。此工作流程包含兩個部分。第一部分是選擇不同的實驗設計（DOE），並將這些DOE組合成不同反應數量。我們篩選了每個DOE包含6個反應到24個反應的所有組合。我們也研究了每個反應的不同採樣時間點數量。我們嘗試了每個反應3個採樣點到12個採樣點的所有組合。
我們建構了這些實驗設計（DOE）。我們使用預先擬合的動力學速率定律模擬了反應，然後將所有數據與JMP Pro中提供的不同迴歸方法進行迴歸分析。我們不僅嘗試了不同的回歸方法，而且還向響應中添加了不同程度的常態噪聲，以檢驗噪聲是否會對回歸方法與實驗設計類型的組合產生影響。
然後，我們使用包含 10,000 個樣本的外部驗證集對所得模型進行驗證。我們計算了每個模型的均方根誤差 (RMSE)。為了比較四個不同資料集之間的 RMSE，我們首先將 RMSE 歸一化到平均預測模型的 RMSE 上。然後，我們計算了所有四個不同資料集的平均 RMSE。這就是我們在接下來的幻燈片中展示的內容。
首先，我們研究了哪種迴歸方法最適合哪種類型的實驗設計（DOE），以及哪種方法在預測效能方面表現最佳。在本實驗中，我們始終考慮每個實驗設計包含 18 個反應，每個反應 12 個樣本，且不考慮雜訊。結果如圖所示。你能從這張熱圖中看出什麼？
圖中繪製的是均方根誤差（RMSE）範數均值。 RMSE範數是四種不同反應的平均值。 Y軸代表我們研究的不同實驗設計類型，X軸代表迴歸技術。
我們先來看DOE設計。可以看到，在底部展示的是比較經典的設計類型，例如D-最優設計和I-最優設計。圖中有很多灰色或深橙色區域，這意味著最終模型的性能並不理想。
然而，對於點分佈更均勻、參數空間更完整的空間填充設計，我們看到性能更好、更穩定。特別是快速靈活設計、均勻設計以及拉丁超立方設計，都呈現大量的綠色或淺黃色。
說到迴歸分析技術，我們看到三種效果不錯的技術。首先是函數式資料分析，這並不令人意外，因為這種分析方法就是專門為分析動態資料而設計的。這也在我們的預料之中。
其次，增強神經網路與IMSE最優設計結合使用效果相當不錯。然而，在所有四個數據集上表現最佳且始終名列前茅的是高斯過程回歸。我們研究了兩種不同類型的高斯過程回歸，包括快速版本和普通版本。它們的性能顯著優於所有其他回歸技術。這讓我們頗感意外，但另一方面，考慮到高斯過程在JMP Pro中非常容易擬合，這也令人欣喜。
可以看出，它們在快速靈活設計、拉丁超立方設計或均勻設計中效果最佳。我們找到了一種迴歸技術和設計類型的組合，這種組合似乎效果最佳，現在我們想對其進行更詳細的分析。
首先，我們想知道建立預測模型究竟需要多少個反應，以及對每個反應進行多個時間點取樣會產生什麼影響。我們先來探討一下需要多少個反應的問題。
在此圖中，您可以再次看到均方根誤差 (RMSE) 範數平均值與每個實驗設計 (DOE) 的實驗次數之間的關係。結果並不令人意外。進行的反應越多，或是實驗設計越大，模型效能就越好。然而，值得注意的是，對於圖中黃色所示的高斯過程 (GP)，這四個反應在 20 次反應後出現了一個平台期，這與我們實際觀察到的現像一致。
通常情況下，待研究參數數量的四倍可以很好地指示需要進行多少次實驗才能獲得表現良好的模型。對於圖中灰色所示的函數型數據分析和綠色所示的增強神經網絡，我們沒有看到任何平台期，因此我們應該進行比圖中所示的更多的實驗。
下一個問題是：DOE 的時間點取樣真的能提升模型效能嗎？如果你看圖中粗體顯示的黃線（代表高斯過程），它顯示了每個反應採樣 12 個樣本的情況，而虛線則展示了每個反應只採樣 3 個樣本的情況，你會發現兩者之間沒有任何區別，這意味著時間點採樣並沒有提升模型的性能。這讓我們非常失望。
然而，進入函數資料分析和神經網路部分後，你會發現差異。這裡，12個樣本就提升了模型效能。但是，在第二步驟中，我們想看看雜訊是否會影響分析結果。先前，我們一直使用無雜訊數據，但這對於我們的實驗室應用場景來說並不現實，因此我們想看看實驗設計（DOE）是否會影響結果。結果表明，實驗設計確實會影響結果。
現在我們可以清楚地看到，每個反應採集12個樣本與每個反應僅採集3個樣本之間存在顯著差異（圖中以虛線表示）。這意味著，增加每個反應的時間點樣本量，可以提升模型的效能，或是降低雜訊對模型最終效能的影響。這對我們來說無疑是個好消息，因為增加每個反應的樣本量並不需要任何代價。
我們幾乎可以免費獲得這些。這是一種無需任何費用即可提升模型性能的簡單方法。增強神經網路和函數型資料分析也是如此。然而，在所有分析中，高斯過程始終遠優於任何其他組合。好的，因此我們可以在第一次分析中證明，高斯過程與空間填充設計相結合似乎效果很好。
然而，問題是，它們真的比傳統方法更有效嗎？因此，我們也模擬了這些方法。我們設計了幾種不同的方法。首先是“無採樣但時間預測”，這是一種經典的實驗設計方法，將時間視為一個常規影響因素，也就是說，每個反應我們只採集一個時間點的樣本。
第二種方法是無取樣和固定時間預測，即完全不考慮時間因素來建立實驗設計（DOE）。我們針對反應過程中的一個特定時間點建立了一個DOE模型。同樣，我們模擬了所有迴歸方法與設計類型的組合。同樣，在這種情況下，我們繪製了18個反應的12個樣本圖，且不考慮雜訊。
最左邊展示的是什麼？我們展示了新的動態DOE方法，沒錯，GP與空間填充設計結合效果最佳。第二種方法，將時間作為常規因素，每個反應只取一個樣本，效果也相當不錯。有趣的是，GP和空間填充設計在這裡同樣效果最佳。最後，我們來看看完全不進行時間預測的方法。針對特定時間點的DOE模型效果最佳。這並不令人意外。
令人驚訝的是，GPs 與空間填充設計相結合似乎效果最佳，這很出乎意料，因為這是一種標準的 DOE 方法。第二步，我們再次研究了噪音的影響，因為這是我們最終想要達到的目標。我們觀察到的結果相當不錯。現在，與其他所有方法相比，我們的動態 DOE 方法效果最佳。
如果將時間作為常規因素，DOE（實驗設計）完全不起作用。我們無法獲得任何優於平均模型的預測模型。即使是專門針對單一時間點建立的DOE模型，其效能也遜於我們的動態DOE方法，這清楚地表明，針對同一反應使用多個時間點確實可以提高模型效能，尤其是在處理雜訊資料時。我的部分到此結束，現在交給Jonas。
太好了，謝謝羅伯特。現在，我想從技術和實踐的角度來說明這種動態DOE方法在BI化學開發中的應用，並展示該方法在BI開發組合中的一個反應實例中的表現。
首先，實驗是在我們實驗室的傳統濕實驗室中進行的，這是有機化學實驗室最常用的裝置，反應在典型的玻璃反應器或玻璃燒瓶中進行，一次只能進行一個反應。包括反應取樣在內的所有步驟都是手動操作的。
但這種方法不僅限制了反應通量，而且由於操作人員和設備的差異，還會造成生成數據的偏差。因此，我們選擇了一種半自動化系統，可以自動執行單一反應，例如反應物的添加或取樣。
儘管有些步驟仍然是手動完成的，而且一次只能進行一個反應，但這種方法仍然加快了整個流程的吞吐量，並通過協調一些操作提高了通用數據的可重複性，從而進一步提高週轉率和可重複性，以及加快或縮短開發時間線，以更快地滿足患者的需求。
我們選擇了一套全自動系統，該系統無需人工幹預即可完全自主地進行化學反應，並且由於並行化處理，反應速度進一步提升。統一的流程和設備確保了反應的可重複性。接下來的幾張投影片將展示該系統的工作原理。以下是對該平台的一些技術分析。
這是一個完全自主的系統，能夠以100毫升的規模進行平行實驗，並可針對所有平行實驗改變反應條件。該系統允許我們以特定反應所需的方式記錄反應動力學。因此，整個系統能夠可靠地進行動態實驗設計（DOE），並獲得高度可重複的可靠數據。
該系統前端設有六個100毫升不鏽鋼反應釜，這些反應釜可加熱、冷卻，並可在惰性氣氛下進行操控，以進行反應。為了設定反應條件和操作這些反應釜，我們配備了液體和固體處理工具，將反應物、溶劑和試劑直接分配到反應釜中。
液體處理系統還可用於採集樣品、製備樣品以及將樣品注入分析儀器。這兩個工具均可將所有必需物質直接輸送到反應器中，反應隨後在反應器內進行。
這就是實現整個動態DOE工作流程的操作設置，並以BI開發組合中的範例為例進行說明。首先，動態DOE是如何設定的？首先，根據Robert剛才展示的結果，我們創造了感興趣的因素的設計。我們選擇拉丁超立方抽樣，這樣可以在合理的單次運行次數內充分覆蓋參數空間。
正如羅伯特所說，我們通常選擇每個參數進行三到四次實驗。以反應為例，在這些限制條件下，這將是10個因素。我們首先進行了30次運行，並設定了一個拉丁超立方設計。接下來，我們為採樣時間創建了一個單獨的設計。採樣時間在整個反應持續時間內以偽隨機方式分佈，以避免在同一時間點對所有反應進行採樣，從而導致這些時間點的樣本量過大。
為了避免過度擬合，我們選擇在整個反應時間內均勻分佈資料。在本例中，反應時間為 185 分鐘，分為 10 個樣本，每個樣本的時間間隔為 18.5 分鐘。此外，我們還設定了約束條件，避免採樣時間過於接近，並採用了快速且靈活的填充設計。
之後，將兩種設計合併，並按照 Robert 先前展示的取樣時間將單次運行結果堆疊起來。由於這項工作非常繁瑣且需要頻繁點擊，我們開發了一個 JMP 應用程式來接管所有這些步驟，並允許用戶輸入溫度等因素或添加其他因素，設定因素的上下限，指定目標參數的設計，指定時間點數量、運行次數、最小和最大反應時間，所有這些步驟現在都在後台自動完成。
最後我們得到兩張表格，一張包含實驗及其條件，另一張則詳細列出了每次實驗的結果，包括採樣時間。這兩張表格都可以用於在我剛才展示的機器人平台上進行實驗設計。實驗結果將填入表格中。先前建議或定義的時間點將被實際時間點替換，由於反應進行過程中的技術原因，實際時間點可能會略有不同。
反應溫度的情況也是如此。這些表格最終都會填滿所有結果，包括原料轉化為產物以及副產物的生成。
現在我們可以對整個過程進行迴歸分析，以獲得能夠充分預測或描述底層過程的模型，並獲得預測公式，從而進行設計空間分析。我想以鈴木反應為例來說明這一點。鈴木反應是BI公司目前開發案的一部分，也是藥物化學過程中非常常見的反應。
此反應涉及兩種起始原料在鈀催化劑作用下催化轉化為產物。在本例中，一種起始原料產生了一種副產物；在相同的催化條件下，兩種起始原料又分別生成了另外兩種副產物。
採用動態實驗設計（DOE）方法篩選最佳反應條件並檢視製程穩定性。如前所述，在30次實驗中考察了10個因素，每次反應取10個樣品，並以高效液相層析（HPLC）分析其峰面積百分比。這些因素及其限制條件已在JMP視窗中展示。
在設定並進行實驗之後，在設定整個動態 DOE 並進行實驗反應分析後，我們最終得到如下所示的數據表。
我們擁有所有因素、所有時間點、最終反應值和分析資料。有了這些數據，我們可以進行高斯過程回歸，這不僅使我們能夠檢驗模型質量，研究因素的顯著性，更重要的是，還能研究單一因素對反應值的影響以及它們之間的交互作用。
我們可以看到，時間、溫度、轉化率以及雜質生成都對反應有非常顯著的影響。透過定義理想條件，我們希望最大化產物生成，同時盡可能減少副產物和起始原料的生成。我們可以優化反應條件，從而找到最佳反應時間、反應溫度和反應條件。
利用迴歸分析得到的預測公式，我們可以創建第二個分析器，從而進行設計空間分析。這有助於我們確定底層製程能夠提供合格結果的因子限值。為此，我們首先需要為所有回應指定規格限值。建立隨機表並將其連接到此設計空間分析器後，我們可以獲得一個圖表，該圖表顯示了製程在哪些範圍或因子範圍內能夠提供合格結果。
在這種情況下，80% 的結果會達到 InSpec 標準，我們可以看到有些因素可以應用於非常廣泛的範圍，例如碳酸鉀、異丙醇的體積、本例中的溫度梯度或配體。另一方面，有些因素需要保持在非常特定的範圍內才能獲得 InSpec 結果。
當然，這其中也包括時間因素，因為轉化率只有在特定的反應時間後才能達到足夠高的水平。也就是說，在這種情況下，溫度似乎非常敏感。這使得我們一方面能夠在很短的時間內可靠地優化反應條件並研究工藝的穩健性，只需進行30次實驗即可獲得關於10個參數的足夠信息，進而使我們能夠對潛在的工藝過程做出可靠的判斷。
綜上所述，我們向您展示了基於化學反應速率損失產生的電腦模擬資料的方法篩選。這些電腦模擬數據用於評估不同設計類型和回歸方法的組合，最終結果表明，高斯過程與空間填充設計相結合是性能最佳的組合。
這種方法被實施為BI公司化學開發中基於DOE的化學反應優化的標準方法。
為了進行統計方法的實驗，使用了機器人自主系統，並在 BI 目前開發專案的一個反應中證明了該方法的優勢，這是一種高效且非常準確的反應優化和製程穩健性篩選方法。
在此，我們感謝各位的關注，並感謝你們給予我們在此展示這些成果的機會。
