从与 Chris G. 在海德堡举办的 JMP Pro 研讨会的反馈中学习这里我描述了我在海德堡研讨会上与 Chris Gotwalt 一起学习贝叶斯优化的收获:
一些简短的事实:
- 48 名注册者 - 房间内约有 40 人
- 主题贝叶斯优化
- 非常感兴趣
- 约 60% 拥有 JMP Pro
- 大多数人都熟悉 DoE,并致力于以更快的速度和更低的成本优化流程
特殊情况的假设和确认:
- 多个回复,𝑦_𝑖 (𝑥)
- 所有人都举手请求确认这对他们来说很重要并且他们需要它
- 多次运行的“批量”增强
- 几乎所有情况下,都需要进行批量实验,这意味着不仅仅是下一个,而是接下来的 4 个、6 个,或者其他任何数量的实验。大多数情况下,这样做的原因是
- 实验持续太长时间,无法等待下一个建议,
- 但缺乏材料(并非总是可用)也是另一个原因。
- 提到的期望:
- 如何缩短开发时间
- 分析部门(设计专家用户)目标
- 说服同事更容易地使用 DOE,因为他们说无法完成很多次运行。
- 为用户提供除 DOE 之外的其他选项,我为什么要做那些没有任何意义的实验,我只想要一个好的结果
- 成本 -> 运行次数减少
- 您希望得到什么?
观众提问:
- 如果因素不重要怎么办?
- 答案:它会忽略那些没有影响的因素。变量重要性选项将有助于显示幂级排序因素
回答可以加权吗?(另一个“奇特”的案例)
- 答:是的,它将应用于分析器中的贝叶斯选择可取性。它可以处理竞争目标或复杂的稀疏性,以及匹配目标/规格限制目标。
如何处理局部最小/最大问题?
- 答案:与牛顿稍微比较一下,这可能会发生,但如果您不满意,您可以轻松探索其他区域,例如方差较大的区域。
我可以使用分类响应/因素吗?(另一个“奇特”的案例)
如果我知道响应会非常嘈杂怎么办?该如何处理?(又一个“奇特”的情况)
- 答案:你需要制定策略:首先进行 MSA 来评估方差,然后使用重复来平均变异性
我可以添加新的因素吗?(另一个“奇特”的案例)
用例:
- Chris G.:配方和混合物是首要的用例,因为所有混杂因素和约束都不再是问题。因为它只与距离有关,而与设计空间无关!通货膨胀因素根本不重要。
- 客户提到:
- PID 控制器调整:一次运行需要 15-30 分钟,但每次进出都很麻烦,因此批量运行对它们来说非常重要(与仅进行下一次运行的基本贝叶斯选择解决方案相比)
- 超参数训练与建模
- GMP 环境,您不能有太大的变化,并且仅限于运行 2 个批次
- 在研究(制药)中可能具有巨大的影响,但在工艺表征中可能影响较小
- 说服同事使用 DOE,因为它更容易,而且你可以克服他们所说的无法完成的多次运行。
建议: @chris_gotwalt1 @DanielValente
- 宝洁/巴斯夫:如果能够添加先验信息(例如来自已知的化学反应/公式,或者您确定它是一个线性模型)来影响可取性曲线,那就太好了
总结:
- 兴趣浓厚
- 我们的平台似乎非常适合 Bofire(针对 Python 程序员)和自主开发的解决方案(让商务人士非常容易使用)之间的环境
- 它比大多数贝叶斯优化工具所能做的要多得多——谈论“奇特的”贝叶斯优化情况
进一步的评论:
- 人们想要它,并且看到它帮助了很多 JMP 用户,并希望在 JMP 中实现它。这就是为什么我们要讨论如果所有用户都使用它,并进行投资回报率 (ROI) 计算,看看 ELA/一定数量的 Pro 许可证如何比较,他们能获得的价值。例如,让倡导者展示与过去实验的区别,以及如果我们在第一次实验后就进行 BO 会有什么不同。这是否引导了其他途径/更早地找到了答案/我们什么时候走错了方向?这是为了说服其他人(那些一遍又一遍地用他们的假设进行实验的工程师)。
回复:从与 Chris G. 在海德堡举办的 JMP Pro 研讨会的反馈中学习还有一点:一些组织可能已经在使用某种解决方案,例如 BoFire(Python 包)或其他更简单的方案。大多数组织的工具中并没有涵盖所有特殊情况,或者只针对程序员。
我们将利用现有资源占领大量市场。
回复:从与 Chris G. 在海德堡举办的 JMP Pro 研讨会的反馈中学习很好的反馈总结。只是我记下了一些问答。
如果这张桌子来自其他地方怎么办?
- 回答:不用担心,您可以在分析器中添加所有约束
举个例子来说明分析器是如何通过运行而演变的?
- 回答:是的,那太好了!Chris 说他们以后可能会添加这个功能。在他的演示中,他设法用多张幻灯片手动展示了分析器的演变过程,但这需要大量的工作。
您在优化时也会赋予权重吗?
- 回答:是的,就像我们在分析器中所做的那样,您可以随时更改它们,并且如果您更改可取性(例如在磨损情况下最大化),那么贝叶斯选择的可取性将自动调整。
如果范围不够好或者太窄怎么办?
- 答案:您只需更改分析器中的范围,它就会将其考虑在内
我们可以保存公式/预测分析器吗?
- 答:没有直接的方法。必须返回数据表并打开“高斯过程”平台,在那里你可以保存模型(请记住,这将与从贝叶斯优化平台创建的公式/模型不同)。
回复:从与 Chris G. 在海德堡举办的 JMP Pro 研讨会的反馈中学习感谢 Martin 的分享——您对研讨会本身的流程有什么想法吗?您是先展示了一个例子,然后让观众跟着您一起完成吗?您觉得我们应该添加或修改其中一个例子,让它一次性运行 4 个样本,而不是只运行一个样本吗?
回复:从与 Chris G. 在海德堡举办的 JMP Pro 研讨会的反馈中学习感谢大家分享关于 BayesOpt 的讨论见解。我想分享一些伦敦研讨会与会者表达的担忧:我们有很多科学家希望尝试贝叶斯优化,但我担心他们在应用该方法时会出错。这让我怀疑我们的一些高级用户是否是统计守门人,可能会阻碍主流用户的使用。
完美是一个崇高而难以实现的目标。帮助科学家和工程师摆脱反复试验的模式,或许才是我们追求的真正意义所在。帮助科学家和工程师完成更有意义的工作,并交付更可预测、通常也更优的业务成果(而非反复试验)。我们能否鼓励统计守门人减少对统计实验方法应用的完美追求,更多地关注如何支持科学家和工程师不断变革,并最终以惠及大众的方式实现变革?作为变革的一部分,科学家和工程师可能会发现,他们需要DoE和BayesOpt,但起点应该由他们和他们的经理决定。
请留意统计守门人。尝试帮助他们思考如何帮助科学家和工程师以最吸引他们的方式改进实验方法。如果统计守门人不愿改进,那么我们或许需要找到其他迫切需要改变试错法的购买力影响者。趁着科学界对贝叶斯优化的热议不绝于耳,找到一种获得动力的方法。
回复:从与 Chris G. 在海德堡举办的 JMP Pro 研讨会的反馈中学习@malcolm_moore1 - 你提到这一点很有意思。我的几个客户里都有这样的人。我们东海岸的几个人一直把BayesOpt定位为一种最适合SME(中小企业)自己进行实验的工具,而不是统计团队使用的技术。我们的想法是,它能提供一些可能的新实验,帮助SME驾驭制造业数据的多维性。它似乎也非常适合使用DSD之类的种子集——这表明这是一种混合实验设计策略,可能适合制造业团队。因为它主要使用了JMP中的自动化技术。
回复:从与 Chris G. 在海德堡举办的 JMP Pro 研讨会的反馈中学习@MikeD_Anderson我觉得,当我们遇到统计“守门人”的阻力时,把重点放在中小企业身上非常有意义,因为统计“守门人”更有可能来自大型企业。请告诉我们,我们向中小企业推介 BayesOpt 的进展如何。
在寻找确实需要 BayesOpt 的购买影响者之前,也许不要放弃大型企业,并且与使用 BayesOpt 之前的生活相比,他们对这种渐进式的改进感到满意。
回复:从与 Chris G. 在海德堡举办的 JMP Pro 研讨会的反馈中学习嗨,皮特,
工作流程是 Chris 大致讲述贝叶斯选择,第一个例子,午餐,Chris 更详细地讲解,第二个例子实际操作,第三个例子简要介绍,总结。
我认为第一个示例(简单示例)对大多数人来说都是一个很好的切入点。他们处理的第二个案例更注重实践,从反馈来看,大多数人都觉得它很好。我觉得没有必要调整用例,只要提到了这个选项就行。Chris 也在一些幻灯片中演示了这部分,所以涵盖了它。
然而,对于我们的 SE 演示/启发来说,最好将批处理用例作为一个综合示例来展示。
话虽如此,我仍然认为我们应该在平台上进行非常简短的推介,并更多地讨论客户应用这些技术的潜在用例。主要还是按照 Malcolm 和 Mike 已经提到的方向。
回复:从与 Chris G. 在海德堡举办的 JMP Pro 研讨会的反馈中学习@malcolm_moore1 - 我也觉得很有意思。我怀疑这些守门人也担心他们的DOE专业知识可能会被淘汰。我听说有人已经在尝试贝叶斯优化,但他们使用的是各种开源软件,这让守门人非常担心。假设我们已经与守门人建立了信任和信誉,那么在JMP Pro中为实验者提供BayesOpt应该是一个更有吸引力的解决方案。
您希望什么:
- 指导您的同事探索 JMP Pro 中这种令人兴奋的新方法的可能性?
- 让你的同事自己用 Python 来处理贝叶斯优化吗?
我同意在其他情况下,找到绕过看门人的方法是正确的做法。
回复:从与 Chris G. 在海德堡举办的 JMP Pro 研讨会的反馈中学习很高兴看到 BayesOpt 的蓬勃发展!如果有人对超参数优化的简单演示方法感兴趣,可以参考:
1. 运行 XGBoost 并选中 Autotune。
2. 输出底部有一个表格,包含每次运行的统计数据。右键单击 > 将其制作成数据表。
3. 在此表上运行 BayesOpt 以确定下一个最佳候选超参数。
4. 手动将它们重新加载到 XGBoost 中或使用“高级”下的设计表选项。
回复:从与 Chris G. 在海德堡举办的 JMP Pro 研讨会的反馈中学习谢谢@malcolm_moore1 。过去几周我遇到过几次这种情况。我发现有两个原因(都得到了相同的“把关”结果):
1. 害怕失去控制/权力(因为这是他们目前的专长等)
2. 担心人们会进行随机实验而不是 DOE(他们一直在劝说人们进行 DOE 而不是 OFAT 等)
这是两种不同的角色,但两种类型或多或少都反对更广泛地使用 BO。
在这两种情况下,我都听到用户说“哦,实际上(迭代、小批量实验)正是我们操作和进行实验的方式 - 我们应该使用 BO”。
对于第二类“守门人”,我们可以让他们更安心地了解,BO 实际上是一种低门槛的方式,可以引导人们进行数据驱动的决策。因为如果他们了解不多,使用 BO 基本上就是在不知情的情况下进行实验设计 (DOE)。以因子表为起点演示 BO(运行 2-3 次)。所以,这实际上有助于他们实现让更多人使用 DOE(或者我称之为智能实验方法)的使命。
对于第一组,最好找其他人谈谈;)
回复:从与 Chris G. 在海德堡举办的 JMP Pro 研讨会的反馈中学习Florian,真有见地。对于第四季度,我建议我们专注于那些有动力、有变革紧迫感的 BayesOpt 潜在用户。抓住这些机会,并支持他们取得成功。
等我们明年有更多时间的时候,或许可以看看能否探索一下“守门人”的个人收益。我听说我们一些大客户的统计团队正在裁员。基于此,我们可以与“守门人”探讨的一个想法是,BayesOpt 如何帮助统计团队赋能科学家和工程师,使其能够创造更大的组织价值,并帮助他们的业务理解统计团队的贡献价值。现在就做一些能够改善结果的事情,总比追求完美(这种情况很少发生)要好。
回复:从我们在海德堡与 Chris G. 共同举办的 JMP Pro 工作坊的反馈中学习你好,
在与高层管理人员(MSAT负责人、站点主管等)进行了一些讨论后,我发现一个非常重要的用例,尤其能引起共鸣:当客户需要与那些不愿在流程开发/运行过程中进行全面实验的客户合作时。在所有会议中,他们都提出了很多问题,当我问及与目前的做法相比,这种方法是否对他们有所帮助时,他们都点头表示赞同。
我想你们可能都会感兴趣。;)