本次报告将介绍一种我们自主研发的新型实验设计（DOE）方法，名为“动态DOE”。该方法专为利用动力学反应数据进行化学开发中的时间依赖性DOE而设计。这一创新方法的开发旨在解决传统DOE方法在处理时间敏感型化学过程时所面临的挑战。
此外，我们还展示了勃林格殷格翰后期化学开发中的实际应用案例。这些案例研究表明，动态DOE技术与高通量自动化实验室反应器相结合，取得了成功，突显了其实际优势和在行业中广泛应用的潜力。
欢迎各位参加我们JMP Discovery Summit的演讲，本次演讲的主题是“化学开发中的时间依赖性实验设计”。在正式开始之前，我想先简单介绍一下我们所在的公司——勃林格殷格翰。我们是一家全球性制药公司，由勃林格家族于1885年创立，至今仍是家族企业，因此没有上市。
我们的业务主要集中在三个领域：首先是人用药品，这是我们最大的业务；其次是动物保健；此外，我们还涉足生物制药领域。我们在全球拥有超过5万名员工，分布在16个不同的地点。2022年，我们的营业收入接近250亿欧元。我和Jonas目前的工作是化学研发，我们致力于开发用于临床研究以及后续上市的化学工艺。
更具体地说，这意味着我们开发新的化学合成路线来合成活性药物成分。我们首先在实验室开发稳健、可扩展且可持续的工艺，然后将其放大到中试规模，最终达到工厂规模。通过这种方式，我们为一期至三期临床试验提供原料药，并生成后续上市申报所需的所有数据。
为了尽快满足患者的需求，我们始终致力于加快研发进程，积极开发新的技术和数字化解决方案。接下来，让我们谈谈我们的主要目标——化学。化学本质上是一门科学或艺术，它将分子片段组合或改变，构建出更大、更复杂的分子片段，而这些分子片段最终就是我们的活性成分。
为此，我们需要研究化学过程，其中包含大量可改变的参数，例如试剂、溶剂、所有这些物质的化学计量比，以及温度、时间等物理参数。您可以看到这是一个多因素问题，需要影响的目标变量范围相当广泛。
最重要的始终是工艺收率，因此我们希望尽可能提高工艺收率。同时，我们也希望获得良好的纯度，因此我们希望减少可能产生的杂质。此外，我们非常重视降低工艺对环境的影响。因此，我们希望减少溶剂和试剂的使用。我们希望使用绿色溶剂和试剂等等。
最后但同样重要的是，我们希望（或者说我们必须）开发稳健的流程，这意味着我们必须确保我们知道在不影响产品质量的情况下，我们可以在多大范围内改变参数，并且我们希望能够建立一个设计空间。
从统计学角度来看，这可以被视为一个多因素多响应黑箱优化问题，我们希望在确保找到全局最优解的同时，尽可能高效地优化该问题。显然，这是实验设计（DOE）的理想应用场景。我们已在多种场景中积极应用了实验设计。
在早期筛选阶段，我们使用筛选实验设计（DOE）来高效地从大量参数中找出影响因素和可能的最佳参数点。之后，我们进入优化阶段，利用响应面设计（RESD）来真正找到最佳参数点和全局最优解。最后，在产品上市申报阶段，我们再次使用高效的实验设计（DOE）来表征我们的工艺，筛选所有可能影响原料药质量的参数。
DOE（实验设计）是一种很棒的方法论。我们非常喜欢它，但它也存在一些挑战。首先是设计稳健性，尤其是在筛选DOE时。我们经常发现，实验室专家对影响参数的高低设置不正确，也就是说，低值设置得太低，或者高值设置得太高。这意味着在这些设置下，我们的校正完全失效，或者我们处于不稳定区域，无法获得稳定的响应。
其次，DOE（实验设计）效率很高。然而，如果需要优化大量参数，往往需要进行相当多的实验，尤其是在后期研发阶段，因为实验室规模庞大，无法同时进行多个反应，而且反应成本也相当高。这有时会成为一个问题。
我们想要解决这些问题，并且希望通过多种方式来解决。首先是设计稳健性的问题。显而易见的解决方案是，如果所有实验都只在低或高设置下进行，那么为了避免50%的反应失败，只需将实验更均匀地分布在整个参数范围内即可。也就是说，不仅要在低和高设置下进行实验，还要在设计空间的中间位置进行实验。
为了最大限度地提高效率，我们从文献中汲取了灵感。化学过程受化学速率定律（即物理微分方程）支配。这意味着反应的时间进程中蕴含着大量信息，我们的想法是将这些时间信息更好地融入到实验设计中，例如对同一反应进行多个时间点的采样，从而充分利用单个反应的全部信息，并最大化每个反应的效率。
最后，也是非常重要的一点，自动化。实验设计（DOE）具有高度重复性，因此非常适合高度自动化。我们希望尽可能优化实验室中实验设计的实施过程。
接下来，我们来看看项目范围。在这个项目中，我们想要探究：能否利用不同的实验设计类型来解决设计稳健性问题？此外，在使用新的动力学数据时，不同的实验设计类型是否更有效？
其次，是回归分析方法。显然，我们希望纳入一种新型数据，并想看看不同的回归分析方法是否比其他方法更有效。
第三，需要多少数据？我们能否减少进行一次实验设计所需的实验次数？最后，也是非常重要的一点，如何将这种方法自动化地应用到我们的实验室中。
当我们想要评估所有可能的组合时，很快就遇到了基准数据的问题。显然，我们需要数据来尝试不同的组合。如果只考虑一个实验设计（DOE），假设要考虑九种不同的设计类型，每种类型包含18个反应，每个反应有10个时间点，那么就需要进行大量的实验设计，反应数量还会更多。最终，我们计算出了25000个反应。
显然，这对我们来说不可行。我们无法进行那么多实验。因此，我们必须另辟蹊径。我们最终还是回到了化学反应受基本速率定律支配这一事实，也就是可以用微分方程来大致精确地描述化学过程。而我们就利用了这一点。
我们选取了一个化学反应，测量了其动力学，并求解了该反应的速率定律。我们大致建立了一个特定反应的计算机模拟模型。现在，利用该速率定律，我们能够模拟不同实验设计（DOE）的结果。我们进行了大量的实验设计，筛选了不同类型的实验设计，并利用该速率定律以时间依赖的方式模拟了反应结果。
我们针对同一反应在多个时间点计算了许多响应值，结果如图所示。我们得到了漂亮的动力学曲线。这些曲线变化非常显著，从反应进行得非常顺利到完全没有反应，差异很大。然后，我们将这些数据导入到标准的 JMP 表格中，您可以大致了解一下这些表格的样子。我们只是将所有实验数据堆叠在一起。
实验一包含三个时间点。我们的影响参数相同，仅时间不同，因此本例中的响应值也不同。通过这种方法，我们现在可以进行计算机模拟。显然，我们需要一些实验反应作为基础。我们选择了两种不同的反应类型，如图所示。
第一步反应是试剂介导的偶联反应。这在实验设计中意味着什么？图中以绿色标示了两种底物。底物 A 被试剂活化，形成活化络合物。该络合物随后与起始原料反应，生成产物。图中灰色部分标示了杂质的生成。
在这个反应中，我们研究了五个不同的参数：温度、化学计量比浓度以及反应时间。第二个例子是酶促反应，其中我们同样将两种底物偶联起来。底物A被酶激活，形成活化复合物。底物2被化学试剂激活，生成产物和杂质。
总共生成了四种不同的反应，其中两种反应生成产物，两种反应生成产率。总共得到四组不同的数据。
然后我们在JSL中设置了一个工作流程。该工作流程包含两部分。第一部分是选择不同的实验设计（DOE），并将这些DOE组合成不同反应数量。我们筛选了每个DOE包含6个反应到24个反应的所有组合。我们还研究了每个反应的不同采样时间点数量。我们尝试了每个反应3个采样点到12个采样点的所有组合。
我们设置了这些实验设计（DOE）。我们使用预先拟合的动力学速率定律模拟了响应，然后将所有数据与JMP Pro中提供的不同回归技术进行回归分析。我们不仅尝试了不同的回归技术，而且还向响应中添加了不同水平的正态噪声，以检验噪声是否会对回归方法与实验设计类型的组合产生影响。
然后，我们使用包含 10,000 个样本的外部验证集对所得模型进行验证。我们计算了每个模型的均方根误差 (RMSE)。为了比较四个不同数据集之间的 RMSE，我们首先将 RMSE 归一化到平均预测模型的 RMSE 上。然后，我们计算了所有四个不同数据集的平均 RMSE。这就是我们在接下来的幻灯片中展示的内容。
首先，我们研究了哪种回归方法最适合哪种类型的实验设计（DOE），以及哪种方法在预测性能方面表现最佳。在本实验中，我们始终考虑每个实验设计包含 18 个反应，每个反应 12 个样本，且不考虑噪声。结果如图所示。你能从这张热图中看出什么？
图中绘制的是均方根误差（RMSE）范数均值。RMSE范数是四种不同反应的均值。Y轴代表我们研究的不同实验设计类型，X轴代表回归技术。
我们先来看DOE设计。可以看到，在底部展示的是比较经典的设计类型，例如D-最优设计和I-最优设计。图中有很多灰色或深橙色区域，这意味着最终模型的性能并不理想。
然而，对于点分布更均匀、参数空间更完整的空间填充设计，我们可以看到更好、更稳定的性能。特别是快速灵活设计、均匀设计以及拉丁超立方设计，都呈现出大量的绿色或浅黄色。
说到回归分析技术，我们看到三种效果不错的技术。首先是函数式数据分析，这并不令人意外，因为这种分析方法就是专门为分析动态数据而设计的。这也在我们的预料之中。
其次，增强神经网络与IMSE最优设计结合使用效果相当不错。然而，在所有四个数据集上表现最佳且始终名列前茅的是高斯过程回归。我们研究了两种不同类型的快速版本和普通版本。它们的性能显著优于所有其他回归技术。这让我们颇感意外，但另一方面，考虑到高斯过程在JMP Pro中非常容易拟合，这也令人欣喜。
可以看出，它们在快速灵活设计、拉丁超立方设计或均匀设计中效果最佳。我们找到了一种回归技术和设计类型的组合，这种组合似乎效果最佳，现在我们想对其进行更详细的分析。
首先，我们想知道构建预测模型究竟需要多少个反应，以及对每个反应进行多个时间点采样会产生什么影响。我们先来探讨一下需要多少个反应的问题。
在此图中，您可以再次看到均方根误差 (RMSE) 范数均值与每个实验设计 (DOE) 的实验次数之间的关系。结果并不令人意外。进行的反应越多，或者实验设计越大，模型性能就越好。然而，值得注意的是，对于图中黄色所示的高斯过程 (GP)，这四个反应在 20 次反应后出现了一个平台期，这与我们实际观察到的现象一致。
通常情况下，待研究参数数量的四倍可以很好地指示需要进行多少次实验才能获得性能良好的模型。对于图中灰色所示的函数型数据分析和绿色所示的增强神经网络，我们没有看到任何平台期，因此我们应该进行比图中所示的更多的实验。
下一个问题是：DOE 的时间点采样真的能提升模型性能吗？如果你看一下图中粗体显示的黄线（代表高斯过程），它展示了每个反应采样 12 个样本的情况，而虚线则展示了每个反应只采样 3 个样本的情况，你会发现两者之间没有任何区别，这意味着时间点采样并没有提升模型的性能。这让我们非常失望。
然而，进入函数数据分析和神经网络部分后，你会发现差异。这里，12个样本就提升了模型性能。但是，在第二步中，我们想看看噪声是否会影响分析结果。此前，我们一直使用无噪声数据，但这对于我们的实验室应用场景来说并不现实，因此我们想看看实验设计（DOE）是否会影响结果。结果表明，实验设计确实会影响结果。
现在我们可以清楚地看到，每个反应采集12个样本与每个反应仅采集3个样本之间存在显著差异（图中用虚线表示）。这意味着，增加每个反应的时间点样本量，可以提升模型的性能，或者降低噪声对模型最终性能的影响。这对我们来说无疑是个好消息，因为增加每个反应的样本量并不需要任何成本。
我们几乎可以免费获得这些。这是一种无需任何费用即可提升模型性能的简便方法。增强神经网络和函数型数据分析也是如此。然而，在所有分析中，高斯过程始终远优于任何其他组合。好的，因此我们可以在第一次分析中证明，高斯过程与空间填充设计相结合似乎效果良好。
然而，问题是，它们真的比传统方法更有效吗？因此，我们也模拟了这些方法。我们设计了几种不同的方法。首先是“无采样但时间预测”，这是一种经典的实验设计方法，将时间视为一个常规影响因素，也就是说，每个反应我们只采集一个时间点的样本。
第二种方法是无采样和固定时间预测，即完全不考虑时间因素来建立实验设计（DOE）。我们针对反应过程中的一个特定时间点建立了一个DOE模型。同样，我们模拟了所有回归方法与设计类型的组合。同样，在这种情况下，我们绘制了18个反应的12个样本图，且不考虑噪声。
最左边展示的是什么？我们展示了新的动态DOE方法，没错，GP与空间填充设计相结合效果最佳。第二种方法，将时间作为常规因素，每个反应只取一个样本，效果也相当不错。有趣的是，GP和空间填充设计在这里同样效果最佳。最后，我们来看看完全不进行时间预测的方法。针对特定时间点的DOE模型效果最佳。这并不令人意外。
令人惊讶的是，GPs 与空间填充设计相结合似乎效果最佳，这很出乎意料，因为这是一种标准的 DOE 方法。第二步，我们再次研究了噪声的影响，因为这是我们最终想要达到的目标。我们观察到的结果相当不错。现在，与其他所有方法相比，我们的动态 DOE 方法效果最佳。
如果将时间作为常规因素，DOE（实验设计）完全不起作用。我们无法获得任何优于平均模型的预测模型。即使是专门针对单个时间点构建的DOE模型，其性能也逊于我们的动态DOE方法，这清楚地表明，针对同一反应使用多个时间点确实可以提高模型性能，尤其是在处理噪声数据时。我的部分到此结束，现在交给Jonas。
太好了，谢谢罗伯特。现在，我想从技术和实践的角度来说明这种动态DOE方法在BI化学开发中的应用，并展示该方法在BI开发组合中的一个反应实例中的表现。
首先，实验是在我们实验室的传统湿实验室中进行的，这是有机化学实验室最常用的装置，反应在典型的玻璃反应器或玻璃烧瓶中进行，一次只能进行一个反应。包括反应取样在内的所有步骤都是手动操作的。
但这种方法不仅限制了反应通量，而且由于操作人员和设备的差异，还会造成生成数据的偏差。因此，我们选择了一种半自动化系统，该系统可以自动执行单个反应，例如反应物的添加或取样。
尽管有些步骤仍然是手动完成的，而且一次只能进行一个反应，但这种方法仍然加快了整个流程的吞吐量，并通过协调一些操作提高了通用数据的可重复性，从而进一步提高周转率和可重复性，并增加或减少开发时间线，以更快地满足患者的需求。
我们选择了一套全自动系统，该系统无需人工干预即可完全自主地进行化学反应，并且由于并行化处理，反应速度进一步提升。统一的流程和设备确保了反应的可重复性。接下来的几张幻灯片将展示该系统的工作原理。以下是对该平台的一些技术分析。
这是一个完全自主的系统，能够以100毫升的规模进行平行实验，并可针对所有平行实验改变反应条件。该系统允许我们以特定反应所需的方式记录反应动力学。因此，整个系统能够可靠地进行动态实验设计（DOE），并获得高度可重复的可靠数据。
该系统前端设有六个100毫升不锈钢反应釜，这些反应釜可加热、冷却，并可在惰性气氛下进行操控，以开展反应。为了设置反应条件和操作这些反应釜，我们配备了液体和固体处理工具，可将反应物、溶剂和试剂直接分配到反应釜中。
液体处理系统还可用于采集样品、制备样品以及将样品注入分析仪器。这两个工具均可将所有必需物质直接输送到反应器中，反应随后在反应器内进行。
这就是实现整个动态DOE工作流程的操作设置，并以BI开发组合中的一个示例为例进行说明。首先，动态DOE是如何设置的？首先，根据Robert刚才展示的结果，我们创建了感兴趣的因素的设计。我们选择拉丁超立方抽样，这样可以在合理的单次运行次数内充分覆盖参数空间。
正如罗伯特所说，我们通常选择每个参数进行三到四次实验。以反应为例，在这些限制条件下，这将是10个因素。我们首先进行了30次运行，并设置了一个拉丁超立方设计。接下来，我们为采样时间创建了一个单独的设计。采样时间在整个反应持续时间内以伪随机方式分布，以避免在同一时间点对所有反应进行采样，从而导致这些时间点的样本量过大。
为了避免过拟合，我们选择在整个反应时间内均匀分布数据。在本例中，反应时间为 185 分钟，被分为 10 个样本，每个样本的时间间隔为 18.5 分钟。此外，我们还设置了约束条件，避免采样时间过于接近，并采用了快速灵活填充设计。
之后，将两种设计合并，并按照 Robert 之前展示的采样时间将单次运行结果堆叠起来。由于这项工作非常繁琐且需要频繁点击，我们开发了一个 JMP 应用程序来接管所有这些步骤，并允许用户输入温度等因素或添加其他因素，设置因素的上下限，指定目标参数的设计，指定时间点数量、运行次数、最小和最大反应时间，所有这些步骤现在都在后台自动完成。
最终我们得到两张表格，一张包含实验及其条件，另一张则详细列出了每次实验的结果，包括采样时间。这两张表格都可以用于在我刚才展示的机器人平台上进行实验设计。实验结果将填入表格中。之前建议或定义的时间点将被实际时间点替换，由于反应进行过程中的技术原因，实际时间点可能会略有不同。
反应温度的情况也是如此。这些表格最终都会填满所有结果，包括原料转化为产物以及副产物的生成情况。
现在我们可以对整个过程进行回归分析，以获得能够充分预测或描述底层过程的模型，并获得预测公式，从而进行设计空间分析。我想以铃木反应为例来说明这一点。铃木反应是BI公司当前开发项目的一部分，也是药物化学过程中非常常见的反应。
该反应涉及两种起始原料在钯催化剂作用下催化转化为产物。在本例中，一种起始原料生成了一种副产物；在相同的催化条件下，两种起始原料又分别生成了另外两种副产物。
采用动态实验设计（DOE）方法筛选最佳反应条件并考察工艺稳定性。如前所述，在30次实验中考察了10个因素，每次反应取10个样品，通过高效液相色谱（HPLC）分析其峰面积百分比。这些因素及其限制条件已在JMP窗口中展示。
在设置并进行该实验之后，在设置好整个动态 DOE 并进行实验反应分析之后，我们最终得到了如下所示的数据表。
我们拥有所有因素、所有时间点、最终响应值和分析数据。有了这些数据，我们可以进行高斯过程回归，这不仅使我们能够检验模型质量，研究因素的显著性，更重要的是，还能研究单个因素对响应值的影响以及它们之间的交互作用。
我们可以看到，时间、温度、转化率以及杂质生成都对反应有非常显著的影响。通过定义理想条件，我们希望最大化产物生成，同时尽可能减少副产物和起始原料的生成。我们可以优化反应条件，从而找到最佳反应时间、反应温度和反应条件。
利用回归分析得到的预测公式，我们可以创建第二个分析器，从而进行设计空间分析。这有助于我们确定底层工艺能够提供合格结果的因子限值。为此，我们首先需要为所有响应指定规格限值。创建随机表并将其连接到此设计空间分析器后，我们可以获得一个图表，该图表显示了工艺在哪些范围或因子范围内能够提供合格结果。
在这种情况下，80% 的结果会达到 InSpec 标准，我们可以看到有些因素可以应用于非常广泛的范围，例如碳酸钾、异丙醇的体积、本例中的温度梯度或配体。另一方面，有些因素需要保持在非常特定的范围内才能获得 InSpec 结果。
当然，这需要时间，因为转化率只有在特定的反应时间后才能达到足够高的水平。也就是说，在这种情况下，温度似乎非常敏感。这使得我们一方面能够在很短的时间内可靠地优化反应条件并研究工艺的稳健性，只需进行30次实验即可获得关于10个参数的足够信息，进而使我们能够对潜在的工艺过程做出可靠的判断。
综上所述，我们向您展示了基于化学反应速率损失生成的计算机模拟数据的方法筛选。这些计算机模拟数据用于评估不同设计类型和回归方法的组合，最终结果表明，高斯过程与空间填充设计相结合是性能最佳的组合。
这种方法被实施为BI公司化学开发中基于DOE的化学反应优化的标准方法。
为了进行统计方法的实验，使用了机器人自主系统，并且在 BI 当前开发项目的一个反应中证明了该方法的优势，这是一种高效且非常准确的反应优化和工艺稳健性筛选方法。
在此，我们感谢各位的关注，并感谢你们给予我们在此展示这些成果的机会。
