介绍
欢迎阅读我们三篇系列博客文章的第一篇，本系列文章将探讨空间填充实验设计（DOE）。在机器学习、计算实验和仿真在研发中扮演着日益重要的角色，传统的实验设计方法有时难以有效地探索复杂且连续的因子空间。而空间填充设计正可弥补这一不足。
什么是空间填充设计？
空间填充设计是一种与模型无关的实验设计（DOE），旨在将设计点均匀分布在整个实验区域内，在有限的实验次数内最大化任意两点之间的距离和设计空间的覆盖率。结果分析通常需要使用简单的机器学习模型（例如高斯过程、支持向量机和随机森林），这些模型能够对复杂和非线性响应进行建模和近似。
空间填充设计最初用于数值实验，尤其适用于实验不可行、复杂、昂贵和/或耗时的领域。因此，人们通常使用数值模拟来研究各种现象，但由于模型的复杂性和精度不断提高，计算时间可能非常长。为了避免运行随机模拟并确保模拟空间的良好覆盖，空间填充设计用于将计算机运行均匀地分布在所研究的空间中。空间填充设计通常不包含重复实验，因为数值模拟是确定性的，对于相同的输入会产生相同的输出，从而无需重复运行来估计变异性。空间填充设计广泛应用于石油、天文、光学、核能等各个行业。
得益于空间填充设计和机器学习模型，可以快速实现对仿真模型的精确近似（称为“代理模型”或元建模）。代理模型用于表示和近似复杂仿真模型的结果，与此类模型相比，它们更简单、更紧凑，且通常计算成本更低。由于代理模型能够近似更复杂系统的行为，因此可以更快地探索复杂系统的设计空间，深入了解系统特性，对其进行优化，并运行验证仿真。
主要特征
空间填充设计在点的重新分配及其预期用途方面具有关键特征：
- 设计空间内各点的均匀分布。
- 对底层模型形式不做任何假设。
- 非常适合用于低噪声实验和计算机实验中的预测目的。
- 适用于复杂、非线性响应。
为什么选择空间填充设计而不是传统的实验设计？
图 1：实验设计方法
传统能源部限制
- 假设存在特定的模型项（主效应、交互作用、二次效应等）。
- 可能导致设计空间的很大一部分未被探索。
- 针对特定统计目标进行了优化（通过效应估计进行筛选和定量分析，多项式响应面模型预测）。
空间填充优势
- 与模型无关的探索。
- 更好地了解和预测复杂的反应行为。
- 非常适合计算机模拟、元建模和预测建模（机器学习）。
然而，与基于模型的 DOE 相比，空间填充设计通常需要更多的点才能获得相关的预测模型。
常见空间填充设计类型概述
空间填充设计平台针对不同情况和各种因子类型提供了多种设计类型。对于连续因子，空间填充设计有两个目标：
- 最大化任意两个设计点之间的距离。
- 均匀分布这些点。
可以在 JMP 中找到空间填充设计，路径为DOE>特殊用途>空间填充设计（图 2）。
图 2：空间填充设计菜单
空间填充设计选项包括球体堆积、拉丁超立方、均匀、最小势、最大熵、高斯过程 IMSE 最优和快速灵活填充。
| 设计 |
制服 |
球体堆积（最大最小） |
拉丁超立方 |
快速灵活填充 |
| 优势 |
极佳的空间覆盖率，数学上最优的均匀性 |
最佳点分离 |
良好的一维投影，易于生成 |
空间覆盖范围和投影性能之间的平衡 |
| 弱点 |
计算时间 |
投影性能差 |
无约束处理 |
空间覆盖率和投影性能之间的折衷方案 |
| 最适合 |
精确的太空探索 |
具有噪声响应的连续因子空间 |
初步筛选，计算机实验 |
混合因素类型、均衡探索、约束处理 |
| 因素类型 |
仅连续数值因子 |
仅连续数值因子 |
仅连续数值因子 |
连续和离散数值、分类和混合因子 |
为了评估设计点在参数空间中实现均匀覆盖的程度，差异度量将它们的分布与理论上的均匀分布进行比较。
什么是均匀分布？
均匀分布是指在给定范围内所有可能值的概率相等。
在 0 到 1 之间的均匀分布中，每个值出现的概率完全相同：不存在优先区域或聚集区。从图形上看，这呈现为一个平坦的矩形，其概率密度保持不变（图 3）。
图 3：由 1000 个点生成的随机均匀分布
数据点越多，就越容易近似服从均匀分布。
对于空间填充设计，均匀分布确保点在整个参数空间中均匀分布。这可以防止某些区域出现聚集而其他区域未被探索的情况，从而以最少的计算次数最大化信息覆盖率。使用这种分布可以确保无偏采样：设计空间中的每个位置都有相同的被选中概率，从而实现对问题域的系统高效探索。
常见的空间填充设计类型
-
制服设计
原则基本原则是设计一个方案，使每个因素的点分布尽可能接近均匀分布。该方案旨在最小化设计点（具有经验均匀分布）与理论均匀分布之间的差异。这种设计均匀分布与理论均匀分布之间的差异称为偏差。
- 优势：空间覆盖范围广，均匀性达到数学上的最优水平。
- 弱点：需要计算。
- 最适合：精准的太空探索。
图 4：20 次试验的双因素均匀设计表示。
注意，重新分配点数如何为每个因素创建均匀分布的点数。
图 5：均匀设计的设计诊断。
相邻两点间的最小距离并不均匀。该设计下，差异较小，最大投影（MaxPro）指标较高。
-
球体堆积设计（也称最大最小设计）
原则它创建的设计旨在最大化设计点对之间的最小距离。这种最大化的效果是将这些点尽可能地分散在设计区域内。形象地解释，这相当于在指定体积内以最高效率堆叠体积相同的球体。
- 力量：最佳点分离。
- 弱点投影性能差。
- 最适合：具有噪声响应的连续因子空间。
图 6：双因素球体堆积设计 20 次试验的表示。
注意点的重新划分是如何使设计点以相邻点之间恒定的距离分散开来的。
图 7：球体堆积设计诊断。
两个相邻点之间的最小距离最大化且相似。由于点在一个维度上可能具有相同的值，因此该设计无法进行 MaxPro 指标评估。
-
拉丁超立方设计（LHD）
原则基本原则是创建与试验次数相等的箱数，并确保每个因子的每个设计点仅属于一个箱。由于生成此设计点的组合方式多种多样，因此强制执行另一个准则（MaxPro），以确保重新分配点不会在因子之间产生相关性，并确保良好的投影特性。该方法创建的设计最大化了设计点之间的最小距离，但要求每个因子的水平间距均匀。每个因子的水平数与设计中的试验次数相同。此方法生成的设计模拟了均匀分布。LHD 方法是球形填充法和均匀设计法之间的一种折衷方案。
- 优势：良好的一维投影，易于生成。
- 弱点： 没有任何。
- 最适合初步筛选，计算机实验。
图 8：双因素 20 次运行的拉丁超立方设计表示。
注意点的重新划分如何创建 20 个等距的区间，近似于每个因素的点的均匀分布。
图 9：拉丁超立方设计的设计诊断。
相邻两点间的最小距离相近。这种设计下，偏差较小，MaxPro 指标较高。
-
快速灵活的填充设计
原理：该算法使用快速灵活填充 (FFF) 算法生成设计。算法首先在指定的设计区域内生成大量随机点。然后，使用快速 Ward 算法将这些点聚类成若干个簇，簇的数量等于您指定的运行次数。最终的设计点可以通过使用默认的 MaxPro 最优性准则或选择质心准则来获得。
- 力量：兼顾空间覆盖范围和投影性能。
- 弱点：空间覆盖范围和投影性能之间的折衷方案。
- 最适合混合因子类型、均衡探索、约束处理。
听起来很复杂吗？别担心，稍后会一步一步地讲解 FFF 算法！
图 10：快速灵活填充设计示意图，包含两个因素，共 20 次运行。
图 11：快速柔性填充设计的设计诊断。
相邻两点间的最小距离并不相同。采用这种设计，MaxPro 指标评估结果相当高。
额外内容：快速灵活的填充算法详解
在本节中，我们将重现快速柔性填充算法的步骤，以便更好地理解其机制。
- 创建因子列：在本例中，我们为两个连续因子创建两列，每列有 100,000 行，并采用随机均匀公式分布（图 12）。
图 12：创建因子列。
设计空间应完全被公式生成的随机均匀点覆盖（图 13）。
图 13：由 100,000 个随机均匀点覆盖的设计空间。
- 聚类：在“分析”>“聚类”中，我们选择层次聚类平台，指定 Y 中的两个因素X1和X2 ，并选择快速 Ward作为方法（图 14）。
图 14：分层集群启动窗口
在“层次聚类”旁边的红色三角形中，单击“聚类数” ，并指定20 （20 是 JMP 建议的用于任何具有两个连续数值因子的空间填充设计的聚类点数）。然后，在同一个红色三角形中，选择“保存聚类均值” （图 15）后，将出现一个包含 20 个聚类均值的新表格。
图 15：保存聚类均值的层次聚类选项。
我们还可以保存原始表格中的聚类结果，并从“聚类均值”表中添加相应的聚类均值行。然后，我们可以将设计空间按聚类划分后进行可视化（图 16）。
图 16：设计空间被 20 个聚类划分。
- 过滤：接下来，过滤掉随机点，只保留聚类均值点。我们快速灵活的填充设计（基于质心准则）就完成了！
然后，我们可以将按照这些步骤生成的设计与直接生成 20 次运行的快速灵活填充设计（采用中心点准则）所得到的结果进行比较（图 17）。
图 17：使用工作流程手动创建的快速柔性填充设计（左）与使用 JMP 和中心点准则创建的设计（右）的比较。
这两个设计看起来非常相似！
使用相同的工作流程，可以创建一个具有默认 MaxPro 准则的快速灵活的填充设计，但代表性聚类点的选择不会是聚类的平均值；它们将是属于每个聚类并最大化 MaxPro 准则的点：快速灵活的填充设计细节
设计选择标准
在选择空间填充设计方案时，请考虑以下因素：
- 客观的：根据目标（筛选、探索、精确预测建模等）和几何/分布生成重点，可能会优先选择某些设计。
- 设计空间维度：对于高维空间，某些空间填充设计（如均匀设计）的生成可能需要较长的计算时间。
- 因子类型：如果只有连续因子，您可以根据目标和维度选择合适的设计。如果使用其他类型的因子（离散数值因子、分类因子、混合因子等），则只能选择快速灵活填充设计。
- 响应特征与建模方法的集成：根据响应中的预期噪声以及所使用的建模方法（高斯过程、SVM、基于树的模型等），可以采用不同的设计配置。
- 可用运行次数：根据实验目标、待分析的响应变量以及可用的实验预算，您可以选择符合约束条件的实验设计。例如，如果您希望仅使用连续因子，且响应变量可能存在噪声，在高维实验空间中进行均匀探索，那么球体堆积（极大极小）设计可能是一个不错的选择。
- 设计生成的计算复杂度：根据运行次数和维度，您可以选择生成复杂度较低的设计。均匀堆积和球形堆积设计通常比快速灵活填充和拉丁超立方设计更复杂。
- 增强策略对于顺序实验：任何设计增强采用空间填充方法时，将使用快速灵活的填充方法。
接下来
在下一篇文章中，我们将建立比较这些空间填充设计的框架。我们将定义具体的响应、影响因素和评估指标，以便系统地评估不同空间填充方法在各种场景下的性能。
这是关于空间填充实验设计的三篇系列文章的第一篇：
- 空间填充设计常见类型简介（这篇文章）
- 比较框架和评估指标
- 结果、分析和设计选择指南
@Victor_G感谢您提供的精彩总结。它解答了我们从用户那里收到的许多问题，我会广为传播并分享链接！
嗨@gail_massari ！
非常感谢您的反馈，我希望即将推出的另外两部分也能起到澄清和帮助用户更好地理解和选择适合他们需求的空间填充设计的作用。
