贝叶斯优化或类似的“一次只进行一个实验”技术我想了解更多关于 JMP 18 中提供的“贝叶斯优化”或类似的“一次只做一项实验”技术。
另外,贝叶斯优化功能未来是否会在非专业版 JMP 平台上推出?
谢谢!
数据探索与可视化实验设计回复:贝叶斯优化或类似的“一次只做一项实验”技术Bayes Op平台依赖于JMP Pro中的一些其他功能来完成繁重的计算工作。未来它很可能仍将是Pro版的专属功能。
根据您的研究目标,采用最小运行次数的小规模主效应实验设计 (DOE) 可能是一个有效的起点。之后,可以使用增广设计 (Augment Design) 添加更高阶的项来模拟有效因素,从而更全面地描述响应曲面。
回复:贝叶斯优化或类似的“一次只做一项实验”技术嗨@JaromW ,
欢迎加入社区!
贝叶斯优化目前是 JMP Pro 平台的一部分。如果您想了解更多关于 JMP Pro 中贝叶斯优化的信息,我推荐以下资源:
您还可以通过以下视频快速了解贝叶斯优化: 贝叶斯优化基础知识(YouTube 视频)。
为了充分发挥贝叶斯优化(即用极少的迭代次数优化产品/系统)的优势,首先需要一个高质量的初始数据集。大多数人会从历史数据入手,但如果您没有先验数据,我建议您从实验设计(DoE)开始。如果有很多因素,可以使用小型筛选设计(筛选出贝叶斯优化迭代中重要的、活跃的因素);如果只有少量因素,可以使用小型空间填充设计(例如拉丁超立方设计)来获得具有代表性的高质量初始数据集。
DoE 和 BO 是互补的,正如@Byron_JMP指出的那样,在 DoE 领域也有很多可能性,可以通过小规模的设计进行顺序学习。
希望这个回答对您有所帮助。
回复:贝叶斯优化或类似的“一次只做一项实验”技术关于贝叶斯优化,我有两个问题/意见:
1. 是否有办法检查该解决方案是否不是次优方案?
2. 是否有办法检测出稳健的最优解?
回复:贝叶斯优化或类似的“一次只做一项实验”技术嗨@frankderuyck ,
以下是我对您问题的一些思考:
- 并非总是如此。如果探索过程没有完全完成,BO 算法可能会陷入次优区域,这取决于响应建模的难度以及测量/实验噪声。我刚刚尝试了一个仅使用“自动”模式添加新运行的例子,结果 BO 循环在几次运行后就很快陷入了局部最优解,误以为这就是最终最优解。因此,在 BO 循环开始时加入几次 MaxPro 准则运行以强制进行探索是一个好方法,然后再尝试达到最优解。
- 答案相同。像预测分析器和设计空间分析器这样的分析器,以及它们的一些选项(例如灵敏度指标)和其他建模诊断工具,可以帮助您可视化并理解最优解的潜在稳健性。但如果您真的想确保最优解足够稳健(具体取决于您的最优解需要稳健性的条件),那么进行一些小规模的稳健性设计研究可能很有帮助。请参阅Stat-Ease关于稳健性设计的系列博客文章。
希望这个回答对您有所帮助。
回复:贝叶斯优化或类似的“一次只做一项实验”技术再次感谢 Victor 的清晰解答!在次优路径上迷失方向确实很麻烦。我明白,这样做存在风险,可能会陷入随机游走,所需的运行次数比直接进行最优 DOE 实验要多。那么,当陷入困境时,是否有办法以最少的运行次数找到真正的最优路径呢?
回复:贝叶斯优化或类似的“一次只做一项实验”技术嗨@frankderuyck ,
这不一定是运行次数的问题,而是你想要达到的“真正”全局最优解与你用 BO 找到的全局最优解之间的距离的问题。
在我的示例中,使用自动模式(4 次运行 + 1 次复制最佳训练运行,加上 3 次历史运行)可以快速收敛到最优解,但该最优解对应的响应值在 3.5 到 3.6 之间。而使用“引导”模式(在循环开始时强制执行 4 次 MaxPro 运行,总共增加 8 次运行)找到的最优解为 4.5(预期最优解)。因此,即使自动模式更快地找到解决方案(运行次数更少),但该解决方案似乎并非全局最优解(与“引导”模式不同)。
我认为,当你遇到困难时,最好的选择是通过加入强制执行 MaxPro 标准的运行来强制探索实验空间。
回复:贝叶斯优化或类似的“一次只做一项实验”技术这只是另一种视角。如果我考虑n维响应曲面,会发现存在许多局部极大值,但只有一个全局最优解。局部极大值代表了期望的响应值,但它们是尖峰状的(范围小且窄)。也就是说,模型因子的微小变化会导致响应值迅速偏离这些期望值。全局极大值则往往是“平台状的”(平坦的)。这也可以称为对模型因子的微小波动不敏感或具有鲁棒性(我认为这就是Victor提到的博客中的第二种情况)。为了“摆脱”局部极大值,不能通过水平设置来实现,而是需要寻找其他因子。这是“观察”曲面的另一个维度。因子选择能够最有效地引导你在n维空间中移动。因此,无论采用何种方法,“在设计空间中反复调整水平设置”的效果都不如扩大设计空间。
此外,我对稳健性的定义是:不存在噪声与因子之间的交互作用。为了实现稳健性,至少在整个实验期间需要识别和控制噪声。为了最有效地进行稳健性设计,必须在设计因子实验过程中同时控制噪声因子。这并非顺序操作。换句话说,你不能先确定设计因子的最佳设置,然后再引入噪声。必须同时进行,以便估计噪声与因子之间的交互作用。随机区组设计(RCBD)和裂区设计非常适合此目的。