貝葉斯優化或類似的「一次只進行一個實驗」技術我想了解更多關於 JMP 18 中提供的「貝葉斯優化」或類似的「一次只做一項實驗」技術。
另外,貝葉斯優化功能未來是否會在非專業版 JMP 平台上推出?
謝謝!
數據探索與視覺化實驗設計回覆:貝葉斯優化或類似的「一次只做一項實驗」技術Bayes Op平台依賴JMP Pro中的一些其他功能來完成繁重的運算工作。未來它很可能仍將是Pro版的專屬功能。
根據您的研究目標,採用最小運行次數的小規模主效果實驗設計 (DOE) 可能是個有效的起點。之後,可以使用增廣設計 (Augment Design) 來增加更高階的項來模擬有效因素,從而更全面地描述響應曲面。
回覆:貝葉斯優化或類似的「一次只做一項實驗」技術嗨@JaromW ,
歡迎加入社群!
貝葉斯優化目前是 JMP Pro 平台的一部分。如果您想了解更多關於 JMP Pro 中貝葉斯優化的信息,我推薦以下資源:
您還可以透過以下影片快速了解貝葉斯優化: 貝葉斯優化基礎知識(YouTube 影片)。
為了充分發揮貝葉斯優化(即以極少的迭代次數優化產品/系統)的優勢,首先需要一個高品質的初始資料集。大多數人會從歷史數據入手,但如果您沒有先驗數據,我建議您從實驗設計(DoE)開始。如果有很多因素,可以使用小型篩選設計(篩選貝葉斯優化迭代中重要的、活躍的因素);如果只有少量因素,可以使用小型空間填充設計(例如拉丁超立方設計)來獲得具有代表性的高品質初始資料集。
DoE 和 BO 是互補的,正如@Byron_JMP所指出的那樣,在 DoE 領域也有很多可能性,可以透過小規模的設計進行順序學習。
希望這個回答對您有幫助。
回覆:貝葉斯優化或類似的「一次只做一項實驗」技術關於貝葉斯優化,我有兩個問題/意見:
1. 是否有辦法檢查該解決方案是否不是次優方案?
2. 是否有辦法檢測出穩健的最優解?
回覆:貝葉斯優化或類似的「一次只做一項實驗」技術嗨@frankderuyck ,
以下是我對您問題的一些思考:
- 並非總是如此。如果探索過程沒有完全完成,BO 演算法可能會陷入次優區域,這取決於響應建模的難度以及測量/實驗噪聲。我剛剛嘗試了一個僅使用“自動”模式添加新運行的例子,結果 BO 循環在幾次運行後就很快陷入了局部最優解,誤以為這就是最終最優解。因此,在 BO 循環開始時加入幾次 MaxPro 準則運行以強制進行探索是一個好方法,然後再嘗試達到最優解。
- 答案相同。像是預測分析器和設計空間分析器這樣的分析器,以及它們的一些選項(例如靈敏度指標)和其他建模診斷工具,可以幫助您視覺化並理解最優解的潛在穩健性。但如果您真的想確保最優解足夠穩健(取決於您的最優解需要穩健性的條件),那麼進行一些小規模的穩健性設計研究可能很有幫助。請參閱Stat-Ease 網站上關於穩健性設計的系列部落格文章。
希望這個回答對您有幫助。
回覆:貝葉斯優化或類似的「一次只做一項實驗」技術再次感謝 Victor 的清晰解答!在次優路徑上迷失方向確實很麻煩。我明白,這樣做有風險,可能會陷入隨機遊走,所需的運行次數比直接進行最優 DOE 實驗要多。那麼,當陷入困境時,是否有辦法以最少的運行次數找到真正的最優路徑呢?
回覆:貝葉斯優化或類似的「一次只做一項實驗」技術嗨@frankderuyck ,
這不一定是運行次數的問題,而是你想要達到的「真正」全局最優解與你用 BO 找到的全局最優解之間的距離的問題。
在我的範例中,使用自動模式(4 次運行 + 1 次複製最佳訓練運行,加上 3 次歷史運行)可以快速收斂到最優解,但該最優解對應的響應值在 3.5 到 3.6 之間。而「引導」模式(在循環開始時強制執行 4 次 MaxPro 運行,總共增加 8 次運行)找到的最優解對應的反應值在 4.5 之間(符合預期)。因此,即使自動模式能夠更快地找到解決方案(運行次數更少),但該解決方案似乎並非全局最優解(與「引導」模式不同)。
我認為,當你遇到困難時,最好的選擇是透過加入強制執行 MaxPro 標準的運行來強制探索實驗空間。
回覆:貝葉斯優化或類似的「一次只做一項實驗」技術這只是另一種視角。如果我考慮n維響應曲面,會發現存在許多局部極大值,但只有一個全域最優解。局部極大值代表了期望的反應值,但它們是尖峰狀的(範圍小且窄)。也就是說,模型因子的微小變化會導致反應值迅速偏離這些期望值。全域極大值則往往是「平台狀的」(平坦的)。這也可以稱為對模型因子的微小波動不敏感或具有魯棒性(我認為這就是Victor提到的博客中的第二種情況)。為了「擺脫」局部極大值,不能透過水平設定來實現,而是需要尋找其他因子。這是「觀察」曲面的另一個維度。因子選擇能夠最有效地引導你在n維空間中移動。因此,無論採用何種方法,「在設計空間中反覆調整水平設定」的效果都不如擴大設計空間。
此外,我對穩健性的定義是:不存在雜訊與因子之間的交互作用。為了實現穩健性,至少在整個實驗期間需要識別和控制噪音。為了最有效地進行穩健性設計,必須在設計因子實驗過程中同時控制雜訊因子。這並非順序操作。換句話說,你不能先確定設計因子的最佳設置,然後再引入雜訊。必須同時進行,以便估計雜訊與因子之間的交互作用。隨機區組設計(RCBD)和裂區設計非常適合此目的。