在 JMP® Pro 16 (2021-EU-45MP-751) 的预测刻画器中控制外推级别：中级
Laura Lancaster，JMP 首席研究统计师开发人员，SAS
Jeremy Ash，JMP 分析软件测试员，SAS
Chris Gotwalt，SAS JMP 统计研究与开发总监
不受控制的模型外推会导致两种严重的错误：（1）远离数据的模型可能完全无效，（2）变量值的组合可能无法在物理上实现。 使用 Profiler 来优化适合观测数据的模型可能会导致推断出的解决方案在没有任何警告的情况下没有实际用途。 JMP Pro 16 将外推控制引入到许多预测建模平台和 Profiler 平台本身中。 预测刻画器中的这一新功能会提醒用户可能的外推或完全避免在模型可能无效的情况下绘制外推点。 此外，用户可以在避免外推的约束区域上执行优化。 在本演示中，我们讨论外推控制的动机和用途，演示如何在 JMP 中轻松使用它，并描述我们方法的细节。
自动生成的成绩单...
扬声器 | 成绩单 |
| 嗨，我是克里斯·戈特瓦尔特。 我的同事 |
| 主持人劳拉·兰卡斯特和 |
| 杰里米·阿什和我正在介绍 |
| 有用的新 JMP Pro |
| 称为外推的功能 |
| 控制。 几乎任何型号 |
| 你会想要预测 |
| 具有一系列 |
| 适用范围，一个区域 |
| 输入空间，其中 |
| 预测被认为是 |
| 足够可靠。 在那之外 |
| 区域，我们开始推断 |
| 模型远离 |
| 用于拟合模型的数据。 使用 |
| 该模型的预测 |
| 在那些点上可能会导致 |
| 完全不可靠 |
| 预测。那里有两个 |
| 主要来源 |
| 外推法 | 统计 |
| 外推法和基于域的 |
| 外推法。两种类型都是 |
| 新功能涵盖了。 |
| 发生统计外推 |
| 当一个人试图 |
| 使用 x 处的模型进行预测 |
| 这与价值观不接近 |
| 用于训练该模型。 |
| 基于域的外推 |
| 当你尝试评估时会发生 |
| 由于 x 是不可能的 |
| 科学或工程 |
| 基于约束。 这个例子 |
| 这里说明了两种 |
| 在一个例子中进行外推。 |
| 在这里我们看到一个分析器 |
| 冶金生产模型 |
| 过程。预测中写道 |
| 输出显示 -2.96，没有 |
| 表明我们正在评估 |
| 在温度组合下 |
| 和不可能的压力 |
| 在领域意义上达到 |
| 这台机器。 我们还有 |
| 统计外推法 |
| 与用来拟合的数据相差甚远 |
| 散点图中看到的模型 |
| 训练数据图 |
| 正确的。在 JMP Pro 16 中，Jeremy， |
| 劳拉和我合作 |
| 添加一个新功能，可以 |
| 当分析器出现时发出警告 |
| 认为你可能是 |
| 推断。或者如果你转身 |
| 外推控制，它 |
| 将限制点集 |
| 你只看到那些 |
| 它不认为是 |
| 推断。我们有两种类型 |
| 的外推控制。 一是 |
| 基于杠杆的概念 |
| 并使用最小二乘模型。 |
| 第一种类型仅 |
| 专业版提供 |
| 拟合模型最小二乘法。 这 |
| 我们称之为一般的其他类型 |
| 机器学习外推 |
| 控制并可在 |
| Profiler 平台和几个 |
| 最常见的机器学习 |
| JMP Pro 中的平台。 之上 |
| 请求，我们甚至可以将其添加到 |
| 更多的。最小二乘法 |
| 外推控制使用 |
| 杠杆的概念，即 |
| 就像一个缩放版本 |
| 预测方差。 它的型号是—— |
| 基于，因此它使用信息 |
| 关于主要影响 |
| 高阶相互作用 |
| 条件来确定 |
| 外推法。对于一般 |
| 机器学习外推 |
| 控制案例，我们必须提出 |
| 用我们自己的方法。 我们 |
| 想要一种方法 |
| 对缺失值稳健，线性 |
| 依赖性，更快的计算， |
| 可以处理的混合物 |
| 连续和分类输入 |
| 变量，我们也 |
| 明确想要分开 |
| 的外推模型 |
| 用于拟合数据的模型。 所以 |
| 当我们有一般的 |
| 外推控制打开， |
| 只有一个人受到监督 |
| 模型是...适合 |
| 响应的输入变量 |
| 我们在分析器中看到的 |
| 痕迹。分析器来了 |
| 又快又脏 |
| 无监督模型来描述 |
| 训练集轴，这个 |
| 使用无监督模型 |
| 幕后由 |
| 探查器来确定 |
| 外推控制 |
| 约束。所以我必须 |
| 切换是因为 PowerPoint 和我的 |
| 相机不兼容 |
| 现在由于某种原因。 我们 |
| 知道有风险的推断 |
| 每天都在制作 |
| 从事数据科学工作的人 |
| 并有信心使用 |
| 的外推法导致较差 |
| 预测并最终 |
| 业务成果不佳。 |
| 外推控制位置 |
| 模型预测的护栏 |
| 并将导致可量化的 |
| JMP Pro 做出更好的决策 |
| 用户。当用户看到推断时 |
| 发生时，用户必须做出 |
| 决定是否 |
| 是否应该使用预测 |
| 根据其域使用 |
| 的知识和熟悉程度 |
| 手头的问题。 如果你 |
| 开始看到外推法 |
| 控制警告经常发生 |
| 通常，这很可能是结束 |
| 该模型的生命周期 |
| 是时候将其重新调整为新数据了 |
| 因为分布 |
| 输入已经从 |
| 的训练数据。 我们 |
| 老实说很惊讶并且 |
| 感到震惊的是，需要 |
| 识别外推法不是 |
| 通过数据更好地理解 |
| 科学界并做出了 |
| 控制外推为 |
| 尽可能简单和自动。 |
| Laura，在 JMP 中开发它 |
| 亲，将演示 |
| 接下来的选项。 然后杰里米，他 |
| 对我们做了很多研究 |
| 团队，将进入数学 |
| 细节和统计 |
| 该方法的动机。 |
| 你好，我的名字是劳拉 |
| 兰卡斯特和我来这里是为了做一个 |
| 外推法演示 |
| 添加到 JMP 的控件 |
| 临 16。 我想开始 |
| 用一个相当简单的例子 |
| 最少使用拟合模型 |
| 方形平台。 我要 |
| 使用一些可能的数据 |
| 熟悉的;这是健身数据 |
| 这是样本数据，我是 |
| 将使用摄氧量作为 |
| 我的回应和运行时间，运行 |
| 脉搏和最大脉搏作为我的 |
| 预测因子。我想要 |
| 重申一下，在拟合模型中， |
| 拟合最小二乘 |
| 外推度量是 |
| 使用的是杠杆。 那么我们走吧 |
| 继续并开始 JMP。 |
| 现在我有了健身数据 |
| 在 JMP 中打开，我有一个脚本 |
| 保存到数据表中 |
| 自动启动我的健身 |
| 最小二乘模型。 所以我 |
| 继续运行它 |
| 脚本，它启动最少 |
| 方形平台。 我有 |
| 探查器自动打开。 和 |
| 我们可以看到分析器 |
| 看起来它总是在 |
| 过去，因素边界 |
| 由每个的范围定义 |
| 单独考虑因素，给我们 |
| 矩形边界约束。 |
| 当我改变因素时 |
| 设置，因为这些绑定 |
| 约束条件，这可能真的是 |
| 很难判断你是否要搬家 |
| 远远超出相关性 |
| 数据的结构。 |
| 这就是为什么我们要添加 |
| 外推控制。 所以 |
| 这已被添加到几个 |
| JMP Pro 中的平台 |
| 16，包括拟合最小二乘法。 |
| 并进行推断 |
| 控制，您进入下面的菜单 |
| 探查器菜单。 所以如果我看 |
| 在这里，我看到有一个新选项 |
| 称为外推控制。 |
| 默认设置为关闭， |
| 但我可以把它变成 |
| 打开或警告打开 |
| 外推控制。 如果我 |
| 打开它，注意 |
| 它限制了我的个人资料 |
| 跟踪仅到达值 |
| 我没有推断。 |
| 如果我把它变成警告 |
| 上，我会看到完整的个人资料 |
| 痕迹，但我会得到一个 |
| 当我去某个地区时发出警告 |
| 哪里会考虑 |
| 进行外推。 |
| 我还可以打开外推法 |
| 细节，我发现真的 |
| 有帮助，这给了我一个 |
| 更多信息。 首先 |
| 所有，它告诉我，我的 |
| 我正在使用的指标 |
| 定义外推法为 |
| 杠杆作用，这在 |
| 适合最小二乘平台。 |
| 以及正在发生的门槛 |
| 最初默认使用的是 |
| 将达到最大杠杆， |
| 但这是我能做的 |
| 改变，我会告诉你 |
| 在一分钟内。 另外，我还可以看到 |
| 我的外推指标是什么 |
| 是针对我当前的设置。 |
| 就是这个号码，就在这里 |
| 这会随着我的改变而改变 |
| 我的因子设置。 |
| 任何时候这个数字更大 |
| 超过阈值，我将 |
| 收到此警告，我可能会 |
| 推断。如果跌到下面的话 |
| 我不会再明白了 |
| 警告。这个门槛不 |
| 除非我改变，否则就会改变 |
| 菜单中需要调整的内容 |
| 我的门槛。 那么让我继续吧 |
| 现在就这样做。 所以我要去 |
| 转到菜单 |
| 我要去片场 |
| 阈值标准。 所以 |
| 在拟合最小二乘中，你有两个 |
| 阈值选项 |
| 最初，它设置为最大值 |
| 杠杆，这将保持 |
| 你在凸包内 |
| 数据，或者您可以切换到 |
| 乘数乘以平均值 |
| 杠杆或模型条款超过 |
| 观察。我想要 |
| 切换到该阈值。 所以就是 |
| 设置为 3 作为乘数 |
| 默认情况下。 所以这将是 |
| 平均杠杆的3倍 |
| 然后我单击“确定”，并注意到 |
| 我的门槛将会改变。 |
| 它实际上变小了，所以这个 |
| 是一个比较保守的 |
| 外推法的定义。 |
| 我要把它转回 |
| 来限制我的个人资料痕迹。 |
| 现在我只能去 |
| 我在 3 以内的区域 |
| 乘以平均杠杆率。 |
| 现在我们还有 |
| 实施优化 |
| 遵守 |
| 外推法 |
| 限制。所以现在如果我 |
| 打开设定的意愿 |
| 我做了优化， |
| 我将得到一个最优值 |
| 满足外推 |
| 约束。请注意，这 |
| 度量小于或等于 |
| 门槛。 所以现在当我走的时候 |
| 到我的下一张幻灯片 |
| 以图表、散点图进行比较 |
| 矩阵，差值 |
| 之间的最佳值与 |
| 外推控制打开 |
| 并关闭它。 |
| 这就是散点图 |
| 我用 JMP 创建的矩阵， |
| 它显示了原来的 |
| 预测变量数据，以及 |
| 作为预测变量值 |
| 使用最佳解决方案 |
| 无外推控制，在 |
| 蓝色，以及使用的最佳解决方案 |
| 红色的外推控制。 |
| 并注意如何不受约束 |
| 此处的解决方案为蓝色， |
| 就在这里，违反了 |
| 的相关结构 |
| 运行脉冲的原始数据和 |
| 最大脉冲，从而增加 |
| 该预测的不确定性。 |
| 而最优解 |
| 确实使用了外推法 |
| 控制更加一致 |
| 与原始数据。 |
| 现在让我们看一个例子 |
| 使用更通用的 |
| 外推控制方法， |
| 我们称之为 |
| 正则化 T 平方方法。 作为 |
| 克里斯之前提到过，我们 |
| 为模型开发了这种方法 |
| 除了最小二乘模型之外。 |
| 所以我们要看看 |
| 糖尿病神经模型 |
| 样本中也包含的数据 |
| 数据。响应是一种措施 |
| 疾病进展情况，以及 |
| 预测变量是基线 |
| 变量。 再一次， |
| 外推度量用于 |
| 这个例子是 |
| 正则化 T 方 |
| 杰里米将描述 |
| 几分钟后即可了解更多详细信息。 |
| 所以我打开了糖尿病数据 |
| JMP 和我保存了一个脚本 |
| 我的神经模型适合。 我是 |
| 继续运行它 |
| 脚本。它启动了神经 |
| 平台，并注意到我是 |
| 使用验证方法，随机 |
| 憋。 我只是想注意 |
| 任何时候你使用 |
| 验证方法， |
| 外推控制是基于 |
| 仅在训练数据上 |
| 而不是你的验证 |
| 或测试数据。 |
| 所以我打开了分析器并 |
| 你可以看到它正在使用 |
| 完整的痕迹。 外推法 |
| 控制未打开。 让我们 |
| 继续并打开它。 |
| 而且我也要去 |
| 打开细节。 |
| 可以看到有痕迹 |
| 受到限制和指标 |
| 是正则化 T 方。 这 |
| 阈值是3倍 |
| 样本的标准差 |
| 正则化 T 平方。 杰里米是 |
| 将会更多地谈论什么 |
| 所有这一切都意味着在几个 |
| 分钟。我只是想 |
| 提到当我们使用 |
| 正则化 T 平方 |
| 方法只有一个选择 |
| 对于阈值，但你可以 |
| 调整乘数。 所以如果你 |
| 转到外推控制，设置 |
| 阈值，你可以调整这个 |
| 乘数，但我要 |
| 将其保留为 3。 而现在我 |
| 想要使用运行优化 |
| 外推控制。 所以我 |
| 只是要最大化并且 |
| 记住。现在我有一个 |
| 最优解与 |
| 外推控制转向 |
| 在。所以现在我想看看 |
| 在我们的散点图矩阵中，只需 |
| 就像我们之前看过的那样 |
| 原始数据，以及 |
| 与最优值 |
| 并且无需外推 |
| 控制。 |
| 所以这是一个散点图矩阵 |
| 我的糖尿病数据 |
| 在 JMP 中创建。 它有 |
| 原始预测值，如 |
| 以及最优解 |
| 使用外推控制 |
| 红色，最优解无 |
| 蓝色的外推控制。 |
| 你可以看到红色 |
| 点似乎更多 |
| 在相关结构内 |
| 原始数据比 |
| 蓝色，特别是 |
| 当你查看这个 LDL 时，确实如此 |
| 与总胆固醇相比。 |
| 现在让我们看一个例子 |
| 使用下面的分析器 |
| 图形菜单，我称之为 |
| 图形分析器。 它还使用 |
| 正则化T平方法 |
| 它允许我们使用 |
| 任意的外推控制 |
| 可以是模型类型 |
| 创建并保存为 JSL |
| 公式。它还使我们能够 |
| 有外推控制 |
| 一次多个模型。 |
| 让我们看一个例子 |
| 对于使用粉末的公司 |
| 冶金技术 |
| 生产钢制传动轴 |
| 汽车行业。 |
| 他们希望能够找到 |
| 适合他们的最佳设置 |
| 将最大限度地减少生产 |
| 收缩并最大限度地减少... |
| 最大限度地减少因不良造成的故障 |
| 服务条件。 所以我们有 |
| 二 | 响应收缩（即 |
| 持续不断，我们将 |
| 拟合最小二乘模型 |
| ）和表面状况（ |
| 是通过/失败，我们要 |
| 拟合名义逻辑模型 |
| 那个）。 还有我们的预测器 |
| 变量只是一些关键 |
| 生产中的过程变量。 |
| 再次推断 |
| metric 是正则化 T 方。 |
| 所以我有粉 |
| 在 JMP 中打开冶金数据 |
| 我已经至少适应了 |
| 我的收缩的正方形模型 |
| 回应，我已经适合了 |
| 名义逻辑模型 |
| 表面状况通过/失败 |
| 响应，我已经保存了 |
| 数据的预测公式 |
| 桌子，以便他们准备好 |
| 在图形分析器中使用。 |
| 所以如果我进入图形菜单 |
| 探查器，我可以加载 |
| 收缩预测公式 |
| 我的预测公式是 |
| 表面状况。 |
| 单击“确定”。 现在我有 |
| 我的两个模型都推出了 |
| 图形分析器。 |
| 在我开机之前 |
| 外推控制，你 |
| 可以看到我有完整的 |
| 轮廓痕迹。 一旦我打开 |
| 外推控制 |
| 你可以看到痕迹 |
| 缩小一点，我也去 |
| 打开详细信息， |
| 只是为了表明我确实是 |
| 使用正则化 T 方 |
| 在这个方法中。 |
| 所以我真正想做的是 |
| 想要找到最优的 |
| 我最小化的条件 |
| 收缩，我最小化 |
| 外推失败 |
| 控制，我想确保 |
| 我不是在推断。 我想要 |
| 找到一个有用的解决方案。 和 |
| 在我进行优化之前， |
| 我实际上需要设置我的 |
| 愿望。所以我要去 |
| 设定愿望。 它已经 |
| 正确的收缩，但我 |
| 需要为服务设置它们 |
| 健康）状况。我会尝试最大化 |
| 通过并尽量减少失败。 |
| K. |
| 现在我应该能够做到 |
| 优化与 |
| 外推控制打开。 |
| 最大化并记住。 |
| 现在我已经有了我的最佳状态 |
| 外推解法 |
| 控制开启。 现在让我们看看 |
| 再次在 |
| 的散点图矩阵 |
| 原始数据，连同 |
| 外推解法 |
| 溶液中的控制， |
| 与外推控制 |
| 离开。 |
| 所以这是一个散点图矩阵 |
| 粉末冶金数据 |
| 我在 JMP 中创建的。 还有它 |
| 也有最优解 |
| 外推控制作为 |
| 红点，以及最佳 |
| 没有外推的解决方案 |
| 控制为蓝点。 还有一次 |
| 你可以再次看到，当我们 |
| 不要进行外推 |
| 控制，最优解 |
| 是相当远的外面 |
| 的相关结构 |
| 数据。我们特别可以看到 |
| 这里的比率与 |
| 压实压力。 |
| 所以现在我想交出 |
| 给杰里米的演讲 |
| 深入了解更多 |
| 详细了解我们的方法。 |
| 你好，这里有一些 |
| 外推控制目标 |
| 我们在 |
| 项目的开始。 我们 |
| 需要一个外推度量 |
| 可以快速计算 |
| 与大量 |
| 观察结果和变量，以及 |
| 我们需要一种快速的方法来评估 |
| 指标是否表明 |
| 是否外推。 这是 |
| 以保持交互性 |
| 探查器跟踪和 |
| 我们需要这个 |
| 执行优化。 |
| 我们希望能够 |
| 支持各种变量 |
| 中可用的类型 |
| 分析器。这些都是 |
| 本质上是连续的， |
| 绝对的和序数的。 |
| 我们想利用 |
| 缺失细胞的观察结果， |
| 因为一些建模方法 |
| 将包括这些观察结果 |
| 在 ？？？。 |
| 我们想要一种方法 |
| 对线性依赖性具有鲁棒性 |
| 数据。 这些发生时， |
| 变量数量较多 |
| 比观测值的数量， |
| 例如。 我们想要 |
| 很容易做到的事情 |
| 自动化，无需 |
| 大量的用户输入。 |
| 对于最小二乘模型，我们 |
| 落在杠杆上，即 |
| 通常用于识别异常值 |
| 在线性模型中。 杠杆 |
| 新的预测点是 |
| 按照这个计算 |
| 公式。有许多 |
| 杠杆的解释。 |
| 一种解释是，它是 |
| a 的多元距离 |
| 距中心的预测点 |
| 的训练数据。 其他 |
| 解释是它是一个 |
| 缩放预测方差。 所以 |
| 随着预测点移动 |
| 离中心较远 |
| 数据的不确定性 |
| 的预测增加。 和我们 |
| 使用两个常见的阈值 |
| 统计文献 |
| 判断这个距离是否 |
| 太大了。 第一个是 |
| 最大杠杆、预测 |
| 超过此阈值的点 |
| 或在凸包之外 |
| 训练数据。 |
| 第二个是3倍 |
| 杠杆的平均值。 它 |
| 可以证明这是 |
| 相当于三倍 |
| 划分的模型项数 |
| 通过观察的数量。 |
| 正如劳拉所描述的 |
| 早些时候，您可以更改 |
| 这些的乘数 |
| 阈值。 |
| 最后，当愿望 |
| 正在优化中， |
| 外推约束是 |
| 非线性约束，以及 |
| 之前分析器允许 |
| 约束优化 |
| 线性约束。 这类 |
| 优化更多 |
| 具有挑战性，所以劳拉实施了 |
| 遗传算法。 如果你 |
| 对这些不熟悉， |
| 遗传算法使用 |
| 分子原理 |
| 进化优化 |
| 复杂的成本函数。 |
| 接下来我要讲的是 |
| 我们用来概括的方法 |
| 对模型的外推控制 |
| 除了线性模型之外。 什么时候 |
| 你正在构建一个预测 |
| 在 JMP 中的模型中，您可以从 |
| 一组预测变量和一个 |
| 响应变量集。 一些 |
| 训练有监督模型，并且 |
| 然后可以使用分析器 |
| 可视化模型表面。 |
| 有很多变化 |
| JMP 中的刻画器。 你可以 |
| 在内部使用分析器 |
| 建模平台。 你可以 |
| 输出预测公式和 |
| 为多个构建一个分析器 |
| 楷模。正如劳拉所证明的那样， |
| 您可以构建分析器 |
| 系综模型。 我们想要一个 |
| 外推控制法 |
| 这将概括所有这些 |
| 场景，所以而不是 |
| 将我们的方法绑定到 |
| 具体型号，我们去 |
| 使用无人监督的 |
| 方法。 |
| 我们只会标记一个 |
| 预测点为 |
| 如果距离很远则进行推断 |
| 数据所在的外部 |
| 集中于预测器 |
| 空间。这使我们能够 |
| 保持一致 |
| 分析器使我们的 |
| 外推控制法 |
| 将插入任何分析器。 |
| 多元距离 |
| 杠杆的解释 |
| 建议霍特林的 T 平方为 |
| 一般的距离 |
| 外推控制。 实际上， |
| 一些代数运算将 |
| 证明霍特林的 T 平方为 |
| 只是杠杆转移了 |
| 缩放。该图显示了如何 |
| 霍特林 T 平方度量 |
| 哪个椭圆是一个观察值 |
| 位于椭圆所在的位置 |
| 以平均值为中心 |
| 数据，并且形状被定义 |
| 由协方差矩阵。 |
| 既然我们已经不在了 |
| 线性模型，这个指标 |
| 没有相同的 |
| 与预测的联系 |
| 方差。 所以而不是 |
| 依赖于所使用的阈值 |
| 回到线性模型，我们是 |
| 要做一些 |
| 分布假设 |
| 确定 T 平方是否 |
| 对于预测点应该 |
| 被认为是外推法。 |
| 在这里我展示了公式 |
| 霍特林的 T 方。 均值和 |
| 估计协方差矩阵 |
| 使用训练数据 |
| 模型。如果 P 小于 N， |
| 其中 P 是数量 |
| 预测变量，N 是数量 |
| 的观察结果，如果 |
| 多变量的预测因子 |
| 正常，然后 T 平方为 |
| 成瘾点有一个F |
| 分配。然而，我们想要 |
| 一种概括的方法 |
| 数据复杂的数据集 |
| 类型，例如连续的混合 |
| 和分类数据集，其中 P |
| 大于 N，数据集 |
| 缺失值。 所以而不是 |
| 计算分布 |
| 对每种情况进行分析，我们 |
| 使用了简单的保守 |
| 我们发现的控制极限 |
| 在实践中效果很好。 这是 |
| 三西格码控制限 |
| 使用经验分布 |
| 训练中的 T 平方 |
| 数据，正如劳拉提到的，你 |
| 也可以调整这个乘数。 |
| 一个复杂的情况是，当 P |
| 大于 N，Hotelling 的 T |
| 平方未定义。 有 |
| 中的参数过多 |
| 要估计的协方差矩阵 |
| 与可用的数据，以及 |
| 这在典型使用中经常发生 |
| 外推控制的情况 |
| 就像偏最小二乘一样。 |
| 所以我们决定写一本小说 |
| 计算霍特林 T 的方法 |
| 平方，它处理这些 |
| 案例，我们称之为 |
| 正则化 T 平方。 |
| 计算协方差 |
| 我们使用正则化矩阵 |
| 最初的估计量 |
| 由谢弗和 |
| 高修剪器 |
| 维度基因组学数据。 |
| 这只是一个加权 |
| 完整的组合 |
| 样本协方差矩阵， |
| 这里是 U 和 a |
| 约束目标矩阵 |
| 这是D。 |
| 对于 Lambda 权重 |
| 参数，Schafer 和 Strimmer |
| 得出分析的 |
| 最小化的表达式 |
| MSE，估计器 |
| 渐进地。 |
| 谢弗和斯特里默提议 |
| 几个可能的目标 |
| 矩阵。我们的目标矩阵 |
| 选择的是一个对角矩阵 |
| 的样本方差 |
| 的预测变量 |
| 对角线。该目标矩阵有 |
| 的许多优点 |
| 外推控制。 首先，我们 |
| 不要假设任何相关性 |
| 变量之间的结构 |
| 在看到数据之前， |
| 作为一般先验，效果很好。 |
| 另外，当数据很少时 |
| 估计协方差 |
| 矩阵，要么由于小 N 要么 |
| 很大一部分缺失， |
| 椭圆约束是 |
| 因大重量而膨胀 |
| 对角矩阵，以及这个 |
| 结果更加保守 |
| 外推控制检验。 |
| 我们发现这是必要的 |
| 获得合理的控制 |
| 误报率。 为了把这个 |
| 更简单地说，当有 |
| 训练数据有限， |
| 正则化 T 平方较小 |
| 可能将预测标记为 |
| 外推法，这就是你 |
| 想要，因为你更 |
| 可能观察到协方差 |
| 偶然。 我们有一些 |
| 仿真结果 |
| 展示这些细节， |
| 但我没时间去 |
| 进入这一切。 相反 |
| 在社区网页上，我们放了一个 |
| 链接到有关存档的论文和 |
| 我们计划将此提交给 |
| 计算杂志 |
| 图形统计。 |
| 下一张幻灯片显示了其他一些 |
| 我们需要的重要细节 |
| 考虑。我们需要弄清楚 |
| 找出如何处理分类 |
| 变量。 我们只是 |
| 将它们转换成指标- |
| 编码虚拟变量。 这是 |
| 相当于一个倍数 |
| 对应分析。 其他 |
| 复杂的是如何计算 |
| 霍特林的 T 平方 |
| 缺少数据。 一些 |
| JMP 预测建模 |
| 平台使用观察结果 |
| 缺少数据来训练他们 |
| 楷模。其中包括幼稚的 |
| 贝叶斯和 Bootstrap 森林。 和 |
| 这些公式显示了 |
| 成对删除法 |
| 用于估计协方差 |
| 矩阵。比较常用的是 |
| 逐行删除。 这意味着 |
| 所有缺失的观测值 |
| 值之前被删除 |
| 计算协方差矩阵。 |
| 这是最简单的，但它可以 |
| 结果扔掉了有用的 |
| 数据如果样本大小 |
| 训练数据量较小。 和 |
| 成对删除观察 |
| 仅当存在时才删除 |
| 一对中缺失值 |
| 用于计算的变量 |
| 相应的条目，那就是 |
| 这些公式显示了什么。 |
| 看起来是一件简单的事情。 |
| 您只是使用所有数据 |
| 这是可用的，但是它 |
| 实际上可以导致许多 |
| 问题是因为有 |
| 不同的观察习惯 |
| 计算每个条目。 这个可以 |
| 导致奇怪的事情发生， |
| 就像协方差矩阵一样 |
| 负特征值，即 |
| 我们必须处理的事情。 |
| 以下是一些优点 |
| 正则化 T 平方我们 |
| 与其他比较时发现 |
| 我们的评估中的方法。 一 |
| 是正则化 |
| 正则化的工作方式 |
| 正常工作。 它打击了一个 |
| 过度拟合之间的平衡 |
| 训练数据和过度偏差 |
| 估计器。 这使得 |
| 估计器对噪声更加鲁棒 |
| 以及型号规格错误。 |
| 接下来，谢弗和斯特里默 |
| 在他们的论文中表明 |
| 正则化结果为 |
| 更准确的估计器 |
| 高维设置。 |
| 这有助于草书 |
| 困扰的维度 |
| 大多数基于距离的方法 |
| 用于外推控制。 |
| 然后在有的领域 |
| 开发了方法论 |
| 外推控制， |
| 通常他们都有很高的 |
| 尺寸数据和高度 |
| 相关预测因子。 为了 |
| 化学信息学的例子和 |
| 化学计量学，化学计量学 |
| 特征往往是高度 |
| 相关的。外推控制 |
| 经常组合使用 |
| 与 PCA 和 PLS 模型，其中 |
| T 平方 DModX 用于 |
| 检测相关性违规 |
| 结构。这类似于 |
| 我们在模型驱动中做什么 |
| 多变量控制图。 |
| 由于这是一个常见的用例， |
| 我们想要一个选择 |
| 并没有偏离太远 |
| 这些方法。 我们的正则化T |
| squared 提供相同类型 |
| 外推控制，但它 |
| 不需要投影步骤 |
| 这有一些优点。 |
| 我们发现这使我们能够 |
| 更好地概括其他类型 |
| 的预测模型。 另外，在 |
| 我们的评估我们观察到 |
| 如果线性投影没有 |
| 适合您的数据，例如 |
| 你有非线性关系 |
| 预测变量之间的误差 |
| 可以夸大控制限度 |
| 基于投影的方法， |
| 这将导致贫困 |
| 保护免受 |
| 外推法和我们的方法 |
| 比这更稳健。 |
| 然后还有一个重要的点 |
| 是我们发现了 |
| 单一外推度量 |
| 使用起来更加简单 |
| 解释。 |
| 这是一个快速总结 |
| 外推法的特点 |
| 控制。该方法提供了更好的 |
| 可行的可视化 |
| 高维区域 |
| 分析器中的模型。 |
| 一种新的遗传算法 |
| 已实施灵活 |
| 约束优化。 |
| 我们的正则化 T 方 |
| 处理凌乱的观察 |
| 数据，像P这样的情况较大 |
| 比 N，且连续且 |
| 分类变量。 |
| 该方法适用于大多数 |
| JMP 中的预测模型 |
| 16 Pro并支持许多 |
| 他们的特质。 这也是 |
| 在探查器中可用 |
| 图表，这确实打开了它的 |
| 实用，因为你可以操作 |
| 任何预测公式。 |
| 然后作为未来的方向， |
| 我们正在考虑实施 |
| 基于K最近邻的 |
| 超出的限制 |
| 当前的相关性 |
| 结构约束。 经常 |
| 预测器是由生成的 |
| 产生多重分布 |
| 在预测器的聚类中 |
| 空间。和一个K-最近邻 |
| 基于方法将使 |
| 我们控制外推 |
| 簇之间。 |
| 所以感谢大家 |
| 收看这个节目并且 |
| 如果您有的话，这是我们的电子邮件 |
| 如有任何其他问题。 |
爆发数据可视化预测建模
