貝葉斯優化最常被提及的特點之一是，它可以透過少量實驗得出最優解。
當每個實驗都耗時且耗力時，這項特性就成為一項顯著優勢。
去年九月發布的 JMP Pro 19 版本新增了貝葉斯優化平台。事實上，許多人正在考慮採用或對其感興趣，因為他們覺得「減少實驗次數」的功能很有吸引力。
1. 除了「需要的實驗次數較少」之外的其他主要特點
貝葉斯最佳化還有另一個重要特點：它可以捕捉複雜的非線性，而無需預先為響應和因素之間的關係指定特定的函數形式（例如具有二次多項式的響應面模型）。
因此，即使對實驗設計 (DOE) 所需的交互作用模型和響應曲面模型等統計模型沒有足夠的了解，它也能夠更容易找到最佳條件。
因此，本文將比較貝葉斯最佳化和實驗設計，利用已知理論公式（真實響應）的模擬數據來尋找最佳條件，並解釋它們的特徵。
2. 驗證範例
這裡，我們將以優化以下酵素催化反應的產率為例來說明。
目的：探討三種脂肪酶與反應條件（反應物濃度、催化劑用量）結合，以最大限度地提高酯合成產率的最佳條件。
回覆
因子
此因子具有限制條件「0.5 × 反應物濃度 + 5 × 催化劑用量 ≤ 110」。
這次，我們進行的是模擬，其中真正的最優值（理論公式）是已知的。
下圖顯示了理論公式的分佈和最優值，其中酵素類型 = “CALB”，反應物濃度 = 109.7，催化劑用量 = 6.98。
等高線輪廓顯示了酵素類型為“CALB”時的反應分佈。深紅色表示產量較高，在本例中，可以看出它具有複雜的非線性結構，有兩個峰值（多峰）。
3. 如何比較貝葉斯最佳化和實驗設計。
對於同一個理論公式*，我們將採用兩種不同的方法進行實驗設計：貝葉斯最佳化和實驗設計。
貝葉斯優化
空間填充計劃產生三個滿足限制條件的初始實驗，並輸入這些實驗的反應。
使用[貝葉斯最佳化]平台，實驗依序逐一加入。實驗點是根據批量選擇中顯示的實驗候選對象添加的（使用自動模式）。
當系統在自動模式下進入最佳值搜尋階段，或當反應值顯著超過目標值（70% 或以上）時，實驗將依序終止，最後一個實驗條件被認為是最優條件。
實驗設計
使用“自訂設計”，採用以下設定來擬合響應曲面模型（二次多項式）。
兩者之間的差異可以概括如下：
貝葉斯最佳化是一種根據先前的實驗結果，按順序確定「下一步要嘗試什麼」的方法，它不預先確定特定的函數，並使用靈活的模型（高斯過程模型）進行探索。
實驗設計：預先決定各種因素的組合，並假設二次響應曲面模型建立模型。
*實際上，理論公式中會加入一個微小的誤差（雜訊）。
4. 實驗結果的比較與討論
得到以下結果。可以看出，即使實驗次數較少，貝葉斯最佳化方法也能取得顯著更優的結果。
| 手法 |
實驗次數 |
找到最佳產量 |
| 貝葉斯優化 |
14次 |
超過 90%（遠超過規格要求） |
| 實驗設計 |
18次 |
約15% |
利用貝葉斯優化，經過三次初步實驗後，我們找到了在另外 11 次實驗中得到 90% 以上結果的條件。
另一方面，我們事先進行了實驗，建構了整個實驗域的響應曲面模型，並根據結果估計了最佳條件。
我們將使用“輪廓線”來比較使用每種方法獲得的最佳值。
貝葉斯優化達到了高產量的紅色區域（峰值），而實驗設計估計的最佳條件則位於遠離紅色區域的位置。
造成這些結果的原因可能如下：
- 實驗設計方法（響應面）依賴基於二次多項式（單峰）的模型，因此無法捕捉像本例中這樣的具有多個峰值（多峰特性）的複雜形狀。
- 在貝葉斯最佳化中，不預先假設特定的函數形式，而是使用靈活的代理模型進行順序探索。這種方法被認為即使在過程中存在多個高峰的情況下，也能探索高產量區域。
5. 總結
貝葉斯優化有兩個主要特點。本文重點在於第二個特點：它捕捉複雜非線性關係的能力。
1. 只需少量實驗即可獲得最優解。
- 透過學習過去的實驗結果並聰明地選擇下一個實驗點，可以減少不必要的實驗並降低成本。
2. 能夠捕捉複雜的非線性關係。
- 特定函數形式因為它不做某些假設，所以能夠捕捉複雜的非線性關係以及變數之間的相互作用，而不會忽略它們。
在實驗初期，反應變因與各因素之間的關係往往尚未完全明了。在這種情況下，僅靠響應曲面分析可能無法找到最佳條件，如本例所示。
在這種情況下，可以考慮使用貝葉斯優化作為可行的選擇。
*除了本範例之外，我們還準備了視頻，讓您可以系統地學習 JMP Pro 貝葉斯優化的功能和使用範例。
貝葉斯最佳化：基礎與應用－以較少的實驗次數高效搜尋最優條件－按需版本（日文）
作者：Naohiro Masukawa（JMP 日本）
Naohiro Masukawa - JMP 使用者社區
