756832_zh-CN

liliconcom

JMP Pro 16 预测刻画器中的外推控制 (2021-US-45MP-838)

Laura Lancaster，SAS JMP 首席研究统计师开发人员
Jeremy Ash，SAS JMP 分析软件测试员
Christopher Gotwalt，SAS 统计研究与开发 JMP 总监

不受控制的模型外推会导致两种严重的错误：(1) 模型可能在远离数据的情况下完全无效；(2) 变量值的组合可能无法在物理上实现。使用刻画器优化拟合观测数据的模型可能会导致外推解，这些解在没有任何预警的情况下毫无实际用途。JMP Pro 16 将外推控制引入到许多预测建模平台以及刻画器平台本身。预测刻画器中的这一新功能会提醒用户可能存在的外推，或完全避免在模型可能无效的地方绘制外推点。此外，用户可以在避免外推的约束区域内进行优化。在本演示中，我们将讨论外推控制的动机和实用性，演示如何在 JMP 中轻松使用它，并详细描述我们的方法。

自动生成的成绩单...

扬声器	抄本
蒂姆·皮尔斯	去。
	好的，我要静音了。
	大家好，我是 Chris Gotwalt。我和我的联合主持人 Laura Lancaster 和 Jeremy Ash 将介绍 JMP Pro 一项实用的新功能——外推控制。
	几乎任何你想要预测的模型都有一定范围的适用性，
	输入空间的一个区域，他们的预测被认为是
	足够可靠。在该区域之外，我们开始推断模型中远离用于拟合模型的数据的两个点。在这两个点使用该模型的预测可能会导致完全不可靠的预测。
外推法有两个主要来源	统计外推和基于领域的外推。新功能涵盖这两种类型。
	当人们尝试使用模型进行预测时，如果 X 与用于训练该模型的值不接近，就会发生统计外推。
	基于领域的外推发生在当你尝试评估由于科学原因而不可能的 X 时-
	或基于工程的约束。此处的示例在一个示例中演示了两种外推法。此处，我们看到一个冶金生产过程模型的分析器。
	预测读数为 -2.96，没有迹象表明我们正在评估不可能的温度和压力组合
	在领域意义上，这台机器能够达到这个目标。我们也有统计推断，因为它与使用的数据相差甚远
	拟合模型，如右侧训练数据的散点图所示。在 JMP Pro 16 中，Jeremy、Laura 和我合作添加了一项新功能，当刻画器认为你可能进行外推时，它会发出警告。
	或者，如果您打开外推控制，它将限制您看到的点集，仅限于那些它认为不是外推的点。
	我们有两种类型的外推控制。
	一种是基于杠杆的概念，并使用最小二乘模型。第一种类型仅在专业版的拟合模型最小二乘中可用。
	另一种类型我们称之为通用机器学习外推控制，它可以在分析器平台和 JMP Pro 中几种最常见的机器学习平台中使用。
	根据要求，我们甚至可以将其添加到MOR中。最小二乘外推控制使用杠杆的概念，它就像是预测方差的缩放版本。它基于模型，因此
	它使用有关主效应相互作用和高阶项的信息来确定外推。
	对于一般的机器学习外推控制案例，我们必须提出自己的方法。我们需要一种在缺失值情况下具有鲁棒性的方法，
	线性依赖性，计算速度更快，可以处理连续和分类输入变量的混合，并且我们还明确希望将外推模型与用于拟合数据的模型分开。
	因此，当我们打开一般外推控制时，只有一个监督模型......将输入变量与我们在分析器跟踪中看到的响应相匹配。
	该配置文件提出了一个快速而粗糙的无监督模型来描述训练集 Xs，并且该无监督模型在后台由配置文件器使用来确定外推控制约束。
	因此我不得不切换，因为出于某种原因，PowerPoint 和我的相机现在无法配合使用。
	我们知道，从事数据科学工作的人们每天都在进行有风险的推断，并且确信使用推断会导致错误的预测，并最终导致糟糕的业务结果。
	外推控制为模型预测设置了护栏，并将帮助 JMP Pro 用户做出更量化的决策。
	当用户看到发生外推时，用户必须根据他们的领域知识和对当前问题的熟悉程度来决定是否应该使用预测。
	如果您开始看到外推控制警告的发生，那么通常可能是该模型的生命周期的结束，并且需要将其重新拟合到新数据，因为输入的分布已经偏离了训练数据的分布。
	说实话，我们非常惊讶和震惊，数据科学界没有更好地认识到识别外推的必要性
	并尽可能简化外推控制，使其自动化程度更高。Laura 在 JMP Pro 中开发了该选项，她接下来将演示该选项。然后，为我们团队做了大量研究的 Jeremy 将深入讲解该方法的数学细节和统计动机。
	您好。我叫 Laura Lancaster，来这里是为了演示 JMP Pro 16 新增的外推控制功能。我想先用一个非常简单的例子来演示一下拟合模型最小二乘平台。
	我将使用一些你或许熟悉的数据。它们是样本数据中的健身数据。
	我将使用摄氧量作为响应，并使用运行时间、运行脉搏和最大脉搏作为预测因子。我想重申一下，在拟合模型的最小二乘法中，使用的外推指标是杠杆率，所以让我们继续，启动 JMP。
	所以现在，我在 JMP 中打开了适应度数据，并且我有一个脚本可以保存到数据表中以自动启动我的拟合最小二乘模型。
	我要继续运行那个脚本。它会启动最小二乘平台。
	我让分析器自动打开，我们可以看到分析器看起来和以前一样，
	其中因子边界由每个因子的范围单独定义，从而为我们提供了矩形边界约束。
	当我改变因子设置时，由于这些边界约束，很难判断您是否远远超出了数据的相关结构。
	这就是我们想要添加外推控制的原因。JMP Pro 16 中的多个平台都添加了这项功能。
	包括拟合最小二乘法。要使用外推控制，请转到“分析器”菜单下的菜单。如果我在这里查看，我会看到一个名为“外推控制”的新选项。
	默认情况下，它是关闭的，但我可以将其设置为“打开”或“警告开启”，以启用外推控制。如果我将其设置为“打开”，请注意，它会限制我的曲线轨迹，使其仅到达我不进行外推的值。
	如果我将其打开为警告，我会看到完整的配置文件跟踪，但是当我进入被视为外推的区域时，我会收到警告。
	我还可以打开推断细节，我发现这非常有用，
	这给了我更多信息。首先，它告诉我，我用来定义外推的指标是杠杆率，这在拟合最小二乘平台中是正确的。
	并且最初默认使用的阈值将是最大杠杆，但这是我可以更改的，我将在一分钟内向您展示。
	另外，我可以看到当前设置的外推指标。就是这个数字，它会随着我更改因子设置而变化。
	每当这个数字大于阈值时，我就会收到警告，提醒我可能进行了推断。如果低于阈值，就不会再收到警告了。
	除非我在菜单中进行一些修改来调整阈值，否则这个阈值不会改变。现在就让我来做这件事。我要进入菜单，
	我要设置阈值标准。在拟合最小二乘法中，阈值有两个选项。最初，它被设置为最大杠杆，这将使你保持在数据的凸洞内，
	或者你可以切换到乘数乘以平均杠杆率或模型项除以观测值。我想切换到那个阈值，所以它设置为3
	作为默认乘数，因此这将是平均杠杆的三倍。点击“确定”，您会注意到我的阈值会发生变化。它实际上变小了，所以这是一个更保守的外推定义。
	我要重新开启它来限制我的个人资料追踪，现在我只能去地区
	我的杠杆率是平均杠杆率的三倍以内。
	现在我们也实现了遵循外推约束的优化。现在，如果我打开集合可取性
	我负责优化，
	我将得到一个满足外推约束的最优值。注意，这个指标小于或等于阈值。
	现在，当我转到下一张幻灯片时，我将通过图表（散点图矩阵）来比较打开和关闭外推控制时的最佳值之间的差异。
	这是我用 JMP 创建的散点图矩阵，它显示了原始预测变量数据以及预测变量值
	不使用外推控制的最优解（蓝色）和使用外推控制的最优解（红色）。注意这里蓝色表示的无约束解，对吧？
	这里违反了运行脉冲和最大脉冲的原始数据的相关结构，从而增加了该预测的不确定性，而使用外推控制的最优解与原始数据更加一致。
	现在让我们看一个使用更广义的外推控制方法的例子，我们将其称为正则化 T 平方方法。
	正如Chris之前提到的，我们开发了这种方法，用于除最小二乘模型之外的其他模型。我们将研究一个针对糖尿病数据的神经模型，该模型也包含在样本数据中。
	响应是疾病进展的指标，预测因子是基线变量。同样，本例中使用的外推指标是正则化T平方，Jeremy 稍后会更详细地描述。
	我在 JMP 中打开了一个糖尿病数据，并且保存了一个神经模型拟合脚本。我接下来要运行这个脚本。
	它启动了神经平台。请注意，我使用的是随机抑制验证方法。我只是想说明，任何时候使用验证方法，外推控制都仅基于训练数据。
	而不是您的验证或测试数据。
	我打开了分析器，你可以看到它正在使用完整的轨迹。外推控制尚未打开。
	让我们继续并将其打开。
	我还将介绍详细信息。
	您可以看到轨迹已被限制，并且度量是正则化的 T 平方。
	阈值是样本正则化T平方标准差的三倍。Jeremy 几分钟后会详细解释这到底意味着什么。
	我想提一下，当我们使用正则化 T 平方方法时，阈值只有一个选择，但你可以调整乘数。所以如果你去
	外推控制，设置阈值，你可以调整这个乘数，但我打算把它保留为3。现在我想使用
	外推控制，所以我只需要最大化并记住。现在我得到了一个开启外推控制的最优解。
	现在，我想看一下我们的散点图矩阵，就像我们之前查看的原始数据一样，以及具有和不具有外推控制的最优值。
	这是我在 JMP 中创建的糖尿病数据散点图矩阵。它包含了原始预测值。
	以及使用外推控制的最优解（红色）和不使用外推控制的最优解（蓝色）。你可以看到
	红点看起来比蓝点更符合原始数据的相关结构。当你观察低密度脂蛋白（LDL）与总胆固醇的关系时，这一点尤其明显。
	现在让我们看一个使用图形菜单下的分析器的示例，我将其称为图形分析器。
	它还使用了正则化 T 平方方法，使我们能够对任何类型的模型进行外推控制，这些模型可以创建并保存为 JSL 公式。它还允许我们同时对多个模型进行外推控制。
	让我们看一个使用粉末冶金技术为汽车行业生产钢制传动轴的公司的例子。
	他们希望能够找到最佳的生产设置，以最大程度地减少收缩，并最大程度地减少由于表面状况不佳而导致的故障。因此，我们有两种应对措施
	收缩是连续的，我们将为其拟合最小二乘模型，而表面状况是通过/失败的，我们将为其拟合一个名义逻辑模型。
	我们的预测变量只是生产中的一些关键过程变量。再次强调，外推指标是正则化的T平方。
	我在 JMP 中打开了粉末冶金数据，并且已经为收缩响应拟合了最小二乘模型，
	我已经为表面状况的通过/失败响应拟合了一个名义逻辑模型。并且我已经将预测公式保存到数据表中，以便可以在图形分析器中使用。
	因此，如果我转到图形菜单分析器，我可以加载收缩的预测公式，而我的预测公式适用于表面状况。
	单击“确定”。
	现在我已经将两个模型都启动到图形分析器中。
	在我打开外推控制之前，你可以看到我得到了完整的剖面轨迹。一旦我打开外推控制，
	你可以看到痕迹缩小了一点。我还要打开细节
	只是为了表明，我确实在这个方法中使用了正则化的 T 平方。
	所以我真正想做的是，找到最小化收缩和最小化故障的最佳条件
	开启外推控制。我想确保我没有进行外推。我想找到一个有用的解决方案。
	在进行优化之前，我实际上需要设置我的期望值。我先设置期望值；收缩率已经正确了，但我需要设置表面条件的期望值。
	我将尝试最大化传球次数并最小化失败次数。
	好的。
	现在我应该能够使用外推控制进行优化、最大化并记住。
	现在我有了最佳解决方案
	开启外推控制。现在我们再看一下原始数据的散点图矩阵，以及开启外推控制和关闭外推控制的解。
	这是我在 JMP 中创建的粉末冶金数据散点图矩阵，它也有最优解
	红点表示采用外推控制，蓝点表示没有外推控制的最优解。再次强调，当我们不实施外推控制时，
	最优解远远超出了数据的相关结构。我们尤其可以看到，这里比率与压实压力的关系。
	现在，我想将演示交给 Jeremy，让他更详细地介绍我们的方法。
	你好。我们在项目开始时就制定了一些外推控制的目标。
	我们需要一个能够通过大量观测值和变量快速计算的外推指标，并且需要一种快速评估该指标是否表明外推的方法。这是为了保持刻画器轨迹的交互性，并且
	我们需要它来进行优化。
	我们希望它能够支持分析器中可用的各种变量类型。这些变量类型主要包括连续型、分类型和序数型。
	我们希望利用缺失细胞的观察结果，因为一些建模方法将包括这些观察结果和???。
	我们需要一种能够有效抵御数据中线性相关性的方法。例如，当变量数量大于观测值数量时，就会出现线性相关性。
	我们想要一些易于自动化且不需要大量用户输入的东西。
	对于最小二乘模型，我们采用杠杆，它通常用于识别线性模型中的异常值。
	新预测点的杠杆率是根据此公式计算的。杠杆率有很多种解释。其中一种解释是
	它是预测点与训练数据集中心之间的多变量距离。另一种解释是，它是一个缩放的预测方差，因此，随着预测点远离数据集中心，预测的不确定性会增加。
	我们使用统计文献中的两个常见阈值来确定这个距离是否太大。
	第一个是最大杠杆。超出此阈值的预测点位于训练数据的凸孔之外。
	第二个是杠杆平均值的三倍。可以证明，这相当于模型项数的三倍除以观测值的数量。
	正如劳拉之前所描述的，您可以更改这些阈值的乘数。
	最后，当优化期望值时，外推约束是非线性约束。之前，剖析器允许使用线性约束进行约束优化，
	但这种优化更具挑战性，因此 Laura 实现了遗传算法。如果你不熟悉遗传算法，它利用分子进化的原理来优化复杂的成本函数。
	接下来我将讨论我们用来推广外推控制线性模型以外的两个模型的方法。
	在 JMP 中构建预测模型时，首先要创建一组预测变量和一组响应变量。
	训练一些监督模型，然后可以使用分析器来可视化模型表面。
	JMP 中的刻画器有很多变体。您可以在建模平台内部使用刻画器，也可以输出预测公式并构建
	正如 Laura 所演示的，它是一款适用于多种模型的分析器。您可以为集成模型构建分析器。我们希望找到一种能够推广到所有这些场景的外推控制方法，因此我们不会将方法与特定模型绑定，而是采用无监督方法。
	只有当预测点远远超出预测空间中数据集中点的范围时，我们才会将其标记为外推。这使我们能够在不同分析器之间保持一致，从而使我们的外推控制方法能够适用于任何分析器。
	杠杆的多元距离解释表明，Hotelling 的 T 平方可以作为一般外推控制的距离。事实上，一些代数运算可以证明，Hotelling 的 T 平方只是杠杆的移位和缩放。
	该图显示了 Hotelling T 平方如何测量观测值位于哪个椭圆上，其中椭圆以数据的平均值为中心，形状由协方差矩阵定义。
	由于我们不再使用线性模型，这个指标与预测方差不再有相同的联系。因此，我们不再依赖线性模型中使用的阈值，而是进行一些分布假设来确定
	预测点的 T 平方应被视为外推。
	这里我展示了 Hotelling T 平方的公式。均值和协方差矩阵是使用模型的训练数据估计的。
	如果 P 小于 N，其中 P 是预测变量的数量，N 是观测值的数量，
	如果预测变量服从多元正态分布，那么预测点的 T 平方服从 F 分布。然而，我们想要一种方法来
	对具有复杂数据类型的数据集进行概括，例如连续和分类数据集的混合，其中 P 大于 N；
	数据集中存在缺失值。因此，我们不再对每种情况都进行分析计算分布，而是使用一个简单的保守控制限值，我们发现它在实践中效果很好。
	这是使用训练数据中的 T 平方经验分布的三西格玛控制限值，正如 Laura 提到的，您还可以调整这个乘数。
	一个复杂的问题是，当 P 大于 N 时，Hotelling 的 T 平方是不确定的。协方差矩阵中的参数太多，无法用现有数据进行估计。
	这通常发生在外推控制的典型用例中，例如偏最小二乘法。因此，我们决定采用一种新的方法来计算Hotelling的T平方，以处理这些情况，我们称之为正则化T平方。
	为了计算协方差矩阵，我们使用了 Schafer 和 Strimmer 最初为高维基因组数据开发的正则化估计器。它只是全样本协方差矩阵（此处为 U）和约束目标矩阵（此处为 D）的加权组合。
	对于 Lambda 权重参数，Schafer 和 Strimmer 推导出一个解析表达式，可以渐近地最小化 MSE，即估计量。
	Schafer 和 Strimmer 提出了几种可能的目标矩阵。我们选择的目标矩阵是对角矩阵，其中预测变量的样本方差位于对角线上。该目标矩阵对于外推控制具有许多优势。
	首先，在看到数据之前，我们不假设变量之间存在任何相关结构，这可以作为一般先验。
	此外，当用于估计协方差矩阵的数据很少时（由于 N 较小或缺失部分较大），
	椭圆约束通过对角矩阵上的较大权重进行扩展，这导致外推控制的检验更加保守。我们发现，这对于合理控制假阳性率是必要的。
	更简单地说，当训练数据有限时，正则化的 T 平方不太可能将预测标记为外推，而这正是您想要的，因为您更有可能偶然观察到协方差。
	我们有一些模拟结果可以证明这些细节，但我没有时间一一详述。因此，我们在社区网页上放了一篇存档论文的链接，我们计划将其提交给《计算图形统计杂志》。
	下一张幻灯片展示了我们需要考虑的其他一些重要细节。我们需要弄清楚如何处理分类变量。
	我们只是将它们转换为指示编码的虚拟变量。这与多重对应分析类似。
	另一个难题是如何在存在缺失数据的情况下计算Hotelling T平方。一些JMP预测建模平台使用缺失数据的观测值来训练模型。
	其中包括朴素贝叶斯和自举森林，这些公式展示了我们用来估计协方差矩阵的成对删除方法。
	更常见的方法是使用逐行删除，这意味着在计算协方差矩阵之前，所有有缺失值的观测值都会被删除。这种方法最简单，但如果训练数据的样本量较小，则可能会导致有用的数据被丢弃。
	使用成对删除时，仅当用于计算相应条目的变量对中存在缺失值时，才会删除观察值。
	这些公式就是为了说明这一点。这看似简单，你只是使用了所有可用的数据，但实际上它可能会导致一系列问题，因为计算每个条目时会用到不同的观测数据。
	这可能会导致奇怪的事情发生，例如具有负特征值的协方差矩阵，这是我们必须处理的事情。
	与评估中的其他方法相比，我们发现正则化 T 平方具有以下一些优势。
	一是正则化的工作方式与正则化通常的工作方式相同。它在过度拟合训练数据和估计器过度偏差之间取得平衡。这使得估计器对噪声和模型错误设定具有更强的鲁棒性。
	接下来，Schafer 和 Strimmer 在他们的论文中表明，正则化可以在高维环境中产生更精确的估计量。这有助于解决困扰大多数基于距离的外推控制方法的“维数灾难”。
	然后，在已经开发出外推控制方法的领域中，
	它们通常既有高维数据，又有高度相关的预测因子。例如，在化学信息学和化学计量学中，化学特征通常高度相关。
	外推控制通常与PCA和PLS模型结合使用，其中T平方和DModX用于检测相关结构的违规。这与我们在模型驱动的多元控制图中所做的类似。
	由于这是一个常见的用例，我们希望有一个与这些方法偏差不大的选择。
	我们的正则化 T 平方提供
	相同类型的外推控制，但它不需要投影步骤，这具有一些优点。
	我们发现这使我们能够更好地推广到其他类型的预测模型。
	在我们的评估中，我们还发现，如果线性投影不适合你的数据，比如预测变量之间存在非线性关系，
	这些错误可能会扩大基于投影的方法的控制限度，从而导致对外推的保护能力较差，而我们的方法比这更为稳健。
	另一个重点是我们发现
	单一外推指标的使用和解释要简单得多。
	以下是外推控制特点的简要总结。该方法可以更好地可视化可行区域
	分析器中的高维模型。一种新的遗传算法已被实现，用于灵活的约束优化。
	我们的正则化 T 平方可以处理 P 大于 N 以及连续变量和分类变量等情况下的混乱观测数据。
	该方法适用于 JMP 16 Pro 中的大多数预测模型，并支持其许多特性。它还支持刻画器中的图形功能，这充分发挥了它的实用性，因为它可以应用于任何预测公式。
	然后作为未来的方向，我们正在考虑实施基于 K 最近邻的约束，它将超越当前的相关结构约束。
	预测变量通常由多个分布生成，从而导致预测变量空间中的聚类，而基于 K 最近邻的方法使我们能够控制聚类之间的外推。
	因此，感谢所有收看本期节目的观众，如果您有任何其他问题，请发送电子邮件至此处。
杰里米·阿什（JMP）	你们还在那儿。
克里斯·戈特沃特	是的。
劳拉·兰开斯特	只是。

高级统计建模基础数据分析与建模消费者和市场研究数据探索与可视化实验设计预测模型和机器学习质量与工艺工程可靠性分析