欢迎 到 这 谈话E 可解释的 人工智能： 拆箱 这 黑色的 盒子。
让我们 介绍 我们自己 和 让我们 开始 和 劳拉。
你好， 我是 劳拉 兰开斯特， 和 我是 作为 统计开发人员 在 跳转
和 我是 位于 在 这 卡里 办公室。
谢谢。
什么 关于 你， 拉斯？
嘿，大家好。Russ 沃尔芬格。
我是 导演 的 生活 科学 研发 在 这 跳转 团体
和 一项研究 同伴 作为 出色地。
寻找 向前 到 这 讲话 今天。
和 皮特？
我的 名字的 彼得 赫希。
我是 部分 的 这 全球的 技术的 赋能T 她
和 我是 位于 在 丹佛， 科罗拉多州。
伟大的 和 我的 姓名 是 弗洛里安 沃格特。
我是 系统 工程师 为了 这 化学 团队 在 欧洲
和 我是 位于 在 美丽的 海德堡， 德国。
欢迎 到 这 讲话。
人工智能 是 a 热的 话题 在 这 片刻 和 a 很多 的 人们 想 到 做 它。
但 什么 做 那 意思是 为了 这 行业？
做 它 意思是 那 科学家 和 工程师 需要 到 变得 程序员，
为了 流程 在 这 未来 跑步 经过 数据 科学家？
A 最近的 发布 称为 工业的 数据 科学 - a 审查
的 机器 学习 应用 为了 化学 和 过程 行业
解释 工业的 数据 科学 基本面，
评论 工业的 应用程序 使用
状态 的 这 艺术 机器 学习 技术
和 它 点 出去 一些 重要的 方面 的 工业的 人工智能。
这些 是 这 可访问性 的 人工智能， 这 易懂 的 人工智能
和 这 可消费性 人工智能， 和 在 特别的 这 输出。
出色地 展示 你 一些 的 这 特征 那 我们 思考
是 贡献 到 这 话题 非常 出色地 在 跳转。
前 我们 开始 进入 这 程序 的 今天， 让我们 简要地 审查
什么 人工智能 涵盖 和 什么 我们的 重点 今天 是 位于 在。
我已经 挑选 a 来源 那 实际上 分离 它 进入 四 组。
那些 组 是： 第一的， 支持 人工智能 还 称为 反应式 机器
和 这 目标 在 决定 支持。
这 第二 团体 是 称为 增强 人工智能
或者 有限的 理论 和 那 焦点 在 过程 优化
和 这 第三 团体 是 自动化 人工智能，
或者 理论 的 头脑， 哪个， 作为 这 姓名 建议， 目标 在 自动化，
和 这 第四 是 称为 自主 人工智能
或者 自己 意识到的 人工智能， 哪个 涵盖 自主 优化。
今天的 重点 是 真的 在 这 第一的 和 这 第二 话题。
我们 有 a 简短的 讨论 前。
拉斯， 什么 是 你的 想法 在 这些 还 和 尊重 到 什么 跳转 能 覆盖？
出色地， 当然 这 学期 人工智能 获取 抛出 大约 a 很多。
它是 用过的 在 许多 种类 的 不同的 细致入微 会议。
I 趋向 到 更喜欢 会议 那 是
确实 更多的 有形 和 可用的 和 更多的 专注。
喜欢 是 去 到 飞涨 在 在 今天 和 一些 具体的 例子。
这 术语 能 得到 a 小的 令人困惑 尽管。
I 猜测 I 只是 趋向 到 种类 的 保持 它 相当 广阔， 打开 头脑
每当 任何人 用途 这 学期 人工智能 和 尝试 到 推断 它是 意义 从 这 语境。
正确的。 这是 条款 的 介绍，
现在 出色地 得到 a 小的 少量 更多的 进入 这 细节 和 具体来说 进入
为什么 它 是 重要的 到 实际上 理解 你的 人工智能 模型。
超过 到 你， 皮特。
完美的。 谢谢， 弗洛里安。
I 思考 什么 拉斯 曾是 击中 在 那里 和 弗洛里安的 介绍 是，
我们 常常 不 知道 什么 一个 人工智能 模型 是 告诉 我们 和 什么是 在下面 这 兜帽。
什么时候 是 思维 关于 如何 出色地 a 模型 表演，
我们 思考 关于 如何 出色地 那 适合 这 数据。
如果 我们 看 这里， 是 寻找 在 a 神经 网络 图表
和 作为 你 能 看， 这些 能 得到 漂亮的 复杂的。
这些人工智能 模型 是 成为 更多的 和 更多的 流行
和 依赖 之上 为了 决定 制作。
真的吗， 理解 为什么 一个 人工智能 模型 是 制作 a 肯定 决定，
什么 标准 它是 基础 那 决定，
势在必行 到 服用 满的 优势 的 这些 模型。
什么时候 a 模型 变化 或者 更新，
尤其 和 那 自主 人工智能 或者 这 自动化 人工智能，
我们 需要 到 理解 为什么。
我们 需要 到 确认 那 这 模型 是 或许 不是
外推 或者 基础 它 在 a 很少 点 外部 的 我们的 普通的 操作 范围。
抓住 在。
让 我 偷 这 屏幕 这里 从 弗洛里安，
和 我是 去 到 去 前方 和 走 通过 a 案件 学习 这里。
全部 正确的， 所以 这 案件 学习
是 基于 在 定向 钻孔 从 井 靠近 堡 值得， 德克萨斯州。
这 主意 和 这 类型 的 钻孔 是
不像 传统的 井， 在哪里 你 会 只是 去 垂直方向，
你 去 向下 a 肯定 深度， 和 然后 你 开始 去 水平的。
这 主意 是 这些 是 很多 更多的 高效的 比 这 传统的 井。
你 有 这些 区域 的 被困 油 和 气体 那 你 能
得到 在 和 一些 特别的 完成 参数。
是 寻找 在 这 数据 这里 从 这些 井，
和 是 尝试 到 数字 出去 什么 是 这 最多 重要的 因素，
包括 这 地质学， 这 地点， 和 这 完成 因素，
和 能 我们 优化 这些 因素 到 增加 或者 优化 我们的 出色地 生产？
到 给 你 一个 主意， 这是 a 地图 的 那 盆地，
所以 喜欢 I 提及， 这 是 堡 值得， 德克萨斯州。
你 能 看 我们 有 井 全部 大约 这。
我们 有 肯定 区域 在哪里 我们的 每年 生产 是 更高，
其他的 在哪里 它是 降低。
我们 通缉 到 问 a 很少 问题 寻找 在 这 数据。
什么 因素 有 这 最大 影响 在 生产？
如果 我们 知道 肯定 级别 为了 a 新的 出色地，
能 我们 预测 什么 我们的 生产 将要 是？
是 那里 a 方式 到 改变 我们的 因素， 或许 一些 的 这 完成 参数
和 影响 我们的 生产？
是 去 到 去 前方 和 回答 一些 问题 和 a 模型。
但 前 我们 得到 进入 那， I 通缉 到 问 拉斯，
自从 他是 得到 很多 的 经验 和 这。
什么时候 你是 开始 到 你 进入 数据， 拉斯，
什么是 这 最好的 地方 到 开始 和 为什么？
出色地， I 猜测 或许 我是 有偏见的， 但 I 爱 跳转
为了 这 类型 的 应用， 皮特，
只是 因为 它是 所以 出色地 适合 为了 快的 探索性的 数据 分析。
你 想 到 得到 a 感觉 为了 什么 目标 你是 尝试 到 预测
和 这 预测变量 你是 关于 到 使用， 寻找 在 他们的 分布，
检查 为了 异常值 或者 任何 异常 模式 在 这 数据。
你 可能 甚至 想 到 做 一些 快的 图案 发现 聚类
或者 主成分分析 类型 分析 只是 到 得到 a 感觉 为了 任何 结构 那是 在 这 数据。
然后 还 是 思维 小心 关于
什么 表现 公制 会 制作 这 最多 感觉 为了 这 应用 在 手。
通常 这 常见的 一， 明显地 为了 连续的 预测变量 将会
喜欢 根 方法 正方形 错误， 但 那里 可以 是 案例 在哪里
可能是 不是 相当 合适的， 尤其 如果 有
直接的 成本 涉及， 有时 绝对 错误是 更多的 相关的
为了 a 真的 利润- 损失 类型 决定。
这些 是 全部 事物 那 你 想 到 开始 思维 关于
作为 出色地 作为 如何 你是 去 到 证实 你的 模型。
我是 a 大的 扇子 的 k 折交叉验证。
在哪里 你 分裂 你的 数据 进入 清楚的 子集 和 抓住 一 出去
和 存在 非常 小心 关于 不是 允许 泄漏 或者 还 小心 关于 过度拟合。
这些 是 全部 担忧 那 趋向
到 来 顶部 的 头脑 为了 我 什么时候 I 开始 出去 和 a 新的 问题。
完美的。 谢谢，拉斯 .
我是 去 到 走 通过 这 在 跳转
一些 的 这 工具 我们 能 使用 到 开始 寻找 在 我们的 问题。
然后 是 去 到 覆盖 一些 的 这 事物 那 帮助 我们 决定
哪个 的 这些 因素 是 拥有 这 最大 影响 在 出色地 生产。
我是 去 到 展示 多变的 重要性 和 然后 沙普利 价值观
和 出色地 有 劳拉 讲话 到 那 和 如何 我们 做 那。
但首先， 让我们 去 前方 和 看 在 这 数据 里面 a 跳转。
喜欢 我们 提及 这里， I 有 我的 生产 从 这些 井。
I 有 一些 地点 参数 所以 在哪里 它 是 纬度 和 经度，
I 有 一些 地质 参数。
这 是 关于 这 岩石 形成 是 钻孔 通过。
然后 I 有 一些 完成 参数
和 这 是 因素 那 我们 能 改变 尽管 是 钻孔 作为 出色地，
一些 的 这些 我们可以 有 影响 在。
如果 我们 通缉 到 去 通过 和 这 数据集 仅有的 有 5,000 行。
什么时候 说 到 拉斯 在 开始 到 准备 这 讲话， 他 说 只是 去 前方
和 跑步 一些 模型 筛查 和 看 什么 类型 的 模型 适合 这 数据 最好的。
到 做 那， 是 去 到 去 前方 和 去 在下面 这 分析 菜单，
去 到 预测 模型 和 打 模型 篩選。
我是 去 到 放 我的 回复， 哪个 是 那 生产，
拿 全部 的 我们的 因素， 地点， 地质学 和 完成 参数，
放 那些 进入 这 X 和 抓住 我的 验证 和 放 它 进入 验证。
向下 这里 我们 有 全部 排序 的 不同的 选项 在 类型 的 模型 我们 能 跑步。
我们 能 挑选 和 选择 哪个 一 或许 制作 感觉
或者 不 制作 感觉 为了 这 类型 的 数据。
我们 能 挑选 出去 一些 不同的 造型 选项 为了 我们的 线性 模型。
甚至， 喜欢 拉斯 提及 这里， 如果 我们 不 有 足够的 数据
到 抓住 后退 和 做 我们的 验证。
那 方式 我们 能 利用 a 这里进行 k 倍交叉验证。
现在 到 节省 一些 时间， 我已经 走了 前方 和 跑步 这 已经 所以 你 不 有
到 手表 跳转 创造 全部 这些 模型。
这是 这 结果。
为了 这 数据， 你 能 看
那 这些 树 基于 方法： 增强 树， 引导程序 小时 和 XGB 东方
全部 做过 非常 出色地 在 配件 这 数据， 比较的 到 一些 的 这 其他 技术。
我们 可以 去 通过 和 跑步 一些 的 这些，
但 为了 这 一， 我是 去 到 只是 挑选
这 增强 树 自从 它 有 这 最好的 遥感 为什么 和 根 平均的 正方形 错误
为了 这 数据集。
出色地 去 前方 和 跑步 那。
后 我们已经 跑步 这 筛查， 是 去 到 去 前方 和 挑选 a 模型
或者 a 夫妻 的 模型 那 合身 出色地 和 只是 跑步 他们。
铝 正确的， 所以 这是 这 全面的 合身 在 这 案件。
取决于 在 什么 类型 的 数据 你是 寻找 在，
或许 一个 遥感 为什么 的 .5 是 伟大的， 或许 一个 R方 的 .5 是 不是 所以 伟大的。
只是 取决于 在 什么 类型 的 数据 你 有，
你 能 法官 如果 这 是 a 好的 足够的 模型 或者 不是。
现在 那 I 有 这， I 想 到 回答 那 第一的 问题。
会心 a 很少 参数 去 在，
什么 能 I 预计 我的 生产 等级 到 是？
一个 简单的 方式 到 做 那 里面 a 跳转 和 任何 类型 模型 是 和 这 分析器。
好的， 所以 我们 有 这 分析器 这里，
我们 有 全部 的 这 因素 那 是 包括 在 这 模型，
和 我们 有 什么 我们的 预期的 12 月 生产 到 是。
这里 I 能 调整 如果 I 知道 我的 肯定 地点。
I 知道 这 纬度 和 经度 进去
或许 I 知道 一些 的 这些 地质 参数。
I 能 或许 调整 一些 的 这些 因素
和 数字 出去 的 这 完成 参数
和 数字 出去 a 方式 到 优化 这。
但 I 思考 这里 和 a 很多 的 因素， 这 能 是 复杂的。
让我们 讲话 关于 这 第二 问题，
在哪里 我们 是 想知道 哪个 一 的 这些 因素 曾是 拥有 这 最大 影响。
你 能 看 基于 在 哪个 的 这些 线 是 奉承
或者 有 更多的 形状 到 他们， 什么 是 这 最大 影响。
但 让我们 跳转 做 那 为了 我们。
在下面 评估 多变的 重要性，
我是 去 到 只是 让 跳转 去 通过
和 挑选 这 因素 那 是 最多 重要的。
这里 你 能 看 它是 概述 这 最多 重要的
向下 到 一 那 是 较少的 重要的。
I 喜欢 这 特征 着色 这 分析器。
现在 它是 突出显示 这 最多 重要的 因素
和 走了 向下 到 这 至少 重要的 因素。
再次， I 能 调整 这些 和 看， 哦， 它 看起来 喜欢
或许 调整 这 深度 的 这 出色地，
添加 一些 更多的 [听不清 00:15:51]， 它 可能 提升 我的 生产。
那 是 这 方式 我们 可以 做 这 但 我们 有 a 新的 方式 的 寻找
在 这 影响 的 每个 一 的 这些 因素 在 a 肯定 出色地。
我们 能 发射 那 在下面 这 红色的 三角形 在 跳转 17 和 沙普利 值。
I 能 放 我的 选项 或者 节省 出去 这 沙普利 值。
一次 I 做 那， 它 将要 创造 新的 列 在 我的 数据 桌子
那 节省 出去 这 贡献 从 每个 一 的 那些 因素。
这 是 在哪里 我是 去 到 让 劳拉 讲话 到 一些 沙普利 值。
I 只是 通缉 去 到 讲话 简要地 关于 什么 沙普利 价值观 是
和 如何 我们 使用 他们。
沙普利 价值观 是 a 模型 不可知论者 方法 为了 解释 模型 预测
和 他们 是 真的 有帮助的 为了 黑色的 盒子 模型
那 是 真的 难的 到 解释 或者 解释。
这 方法 来 从 合作社 游戏 理论
和 I 不 有 时间 到 讲话 关于 这 背景
或者 这 数学 在后面 这 计算， 但 我们 有 a 参考
在 这 底部 的 这 滑动 和 如果 你 谷歌 它， 你 应该 是 有能力的 到 寻找
a 很多 的 参考 到 学习 更多的 如果 你是 感兴趣的。
什么 这些 沙普利 价值观 做，
他们 告诉 你 如何 很多 每个 输入 多变的
是 贡献 到 一个 个人 预言 为了 a 模型。
那是 离开 从 这 平均的 预测 价值
穿过 这 输入 数据集
和 你的 输入 数据集 是 去 到 来 从 你的 训练数据。
Shapley 值 是 添加剂，
哪个 使 他们 真的 好的 和 简单的 到 解释 和 理解。
每一个 预言 能 是 书面 作为 a 和 的 你的 Shapley 值
加 那 平均的 预测 价值，
哪个 我们 参考 到 作为 这 沙普利 截距 在 跳转。
他们 能 是 计算上 密集的
到 计算 如果 你 有 a 很多 的 输入值， 输入变量 你的 模型
或者 如果 你是 尝试 到 创造 Shapley 值 为了 a 很多 的 预测。
我们 尝试 到 给 一些 选项 为了 帮助 到 减少 时间 在 JMP 中 .
这些 沙普利 价值观， 作为 彼得 提及，
是 额外 到 这 预言 分析器 为了 相当 a 很少 的 这 模型 在 跳转 Pro17
和 他们是 还 可用的 在 这 图形 分析器。
他们是 可用的 为了 拟合最小值 正方形 名义逻辑，O 序数词 后勤，
神经， 将军，P 分区， 引导程序 森林 和 增强 树。
他们是 还 可用的 如果 你 有 这 XB 东方 添加 -在。
除了 在 那 附加-I n， 他们是 可用的 从 这 模型 菜单
和 不是 从 这 预言 分析器。
好的， 下一个 滑动。
在 这 滑动 I 想 到 只是 看 在 一些 的 这 预测 从 彼得的 模型。
这 是 从 a 模型 使用 五 输入 变量。
这些 是 堆 酒吧 图表 的 这 第一的 三 预测
未来 从 这 第一的 三 行 的 他的 数据。
在 这 左边 你 看 a 堆 条形图 的 这 沙普利 价值观 为了 这 第一的 排。
那 第一的 预言 是 11.184 生产 桶
数十万。
每个 颜色 在 那 酒吧 图形 是 分裂 出去 经过 这 不同的 输入 变量。
里面 这 酒吧 是 这 Shapley 值。
如果 你 添加 向上 全部 的 那些 价值观， 加 这 沙普利 截距
那 I 有 在 这 中间 的 这 图形， 你 得到 那 预言 价值。
这 是 显示 你 那 第一的 的 全部， 全部 的 这些 是 制作
积极的 贡献 到 这 生产 和 他们 展示 你 如何 很多， 所以 尺寸，
I 能 看 那 经度 和 支撑剂
是 贡献 这 最多 为了 这 特别的 预言。
然后 如果 I 看 到 这 正确的 边 到 这 第三 预言，
哪个 是 2.916 生产 桶 和 数百 的 数千，
I 能 看 那 二 的 我的 输入 变量
是 贡献 积极地 到 我的 生产
和 三 的 他们 是 拥有 消极的 贡献，
这 底部 三 这里。
你 能 使用 图表 喜欢 这 到 帮助 可视化 你的 夏普利值 .
那 帮助 你 真的 理解
这些 个人 预测。
下一个 滑动。
这 是 只是 一 的 许多 类型 的 图表
你 能 创造。
这 沙普利 价值观 得到 已保存 进入 你的 数据 桌子。
你 能 操纵 他们
和 创造 全部 种类 的 图表 在 图形 建造者 和 跳转。
这 图形 是 只是 a 图形 的 全部 这 沙普利 价值观
从 超过 5,000 行 的 这 数据 分裂 出去 经过 每个 输入 多变的。
它只是 给出 你 一个 主意 的 这 贡献 的 那些 变量，
两个都 积极的 和 消极地 到 这 预测。
现在 我是 去 到 手 它 后退 超过 到 彼得。
伟大的。 谢谢， 劳拉。
I 思考 现在 出色地 去 前方 和 过渡 到 我们的 第二 案件 学习
那 弗洛里安 是 去 到 做。
应该 I 经过 这 屏幕 分享 后退 到 你？
是的， 那 会 是 伟大的。
进行转变。
谢谢 为了 这 第一的 案件 学习 和 谢谢 为了 这 贡献。
真的 有趣的。
我希望 我们 能 带来 一些 光 到 a 不同的 种类 的 应用
和 我们的 第二 案件 学习。
I 有 给定 它 这 字幕， 曾是 它 扭矩？
因为 那是 a 问题 出色地 有 希望 回答
经过 这 结尾 的 这 第二 案件 学习 推介会。
这 第二 案件 学习 是 关于 预测 维护
和 这 特别的 方面 的 为什么 它 是 重要的 到 理解
你的 模型 在 这 设想。
最多 可能 每个人 能 思考 那 它是 非常 重要的
到 有 a 感觉 为了 什么时候 机器 要求 维护。
因为 如果 机器 失败， 那就是 a 很多 的 麻烦，
a 很多 的 成本， 什么时候 植物 有 到 关闭 向下 和 所以 在。
它是 真的 必要的 到 做 预防性 维护
到 保持 系统 跑步。
A 主要的 任务 在 这 是 到 决定
什么时候 这 维护 应该 是 执行
和 不是 也 早期的， 不是 也 晚的， 当然。
所以， 它是 a 任务 到 寻找 a 平衡
哪个 限制 失败 和 还 保存 成本 在 维护。
有 a 案件 学习 那 是 使用 到 强调 一些 函数 特征
和 它是 实际上 a 合成的 数据 放
哪个 来 从 a 已发布 学习。
这 来源是 向下 那里 在 这 底部。
你 能 寻找 它。
它 曾是 已发布 在 这 人工智能 为了 行业 事件 在 2020年。
这 基本的 内容 的 这 数据集
是 那 它 有 六 不同的 特征 的 过程 设置，
哪个 是 产品 或产品类型
哪个 表示 为了 不同的 质量 变体。
然后 我们 有 空气 温度，
过程 温度， 旋转 速度， 扭矩， 和 工具磨损。
我们 有 一 主要的 回复 和 那 是 无论 这 机器 失败 或者 不是。
什么时候 我们 思考 的 问题
那 我们 可以 回答 和 a 模型 或者 模型 或者 一般来说 数据。
有 一些 那 来 到 头脑。
现在， 这 最多 明显的 问题
是 大概 如何 我们 能 解释 和 解释 设置，
哪个 可能 带领 到 机器 失败。
这 是 某物 那[听不清 00:24:38]
到 创造 和 比较 多种的 模型
和 然后 选择 这 一 那是 最多 合适的。
现在， 在 这 特别的 环境 在哪里 我们 想 到 预测
无论 一台机器 失败 或者 不是。
我们 还 有 到 帐户 为了 错误分类
那 是 任何一个 a 错误的 积极的 或者 a 错误的 消极的 预言。
和 JMP的 决定 临界点 图表
和 这 利润 矩阵， 我们 能 实际上 指定 一个 强调
或者 重要性 到 哪个 结果 是 较少的 可取的。
为了 例子，
它 是 通常 较少的 理想的 到 实际上 有 a 失败
什么时候 这 模型 没有 预测 一
比较的 到 这 对面的， 错误分类。
然后 除了 这 二进制 分类， 的 课程，
你会 是 还 感兴趣的 在 理解 什么 驱动器 失败 通常。
那里 是 当然 一些 方法 到 交易 和 这 问题。
I 思考 可视化 是 总是 a 部分 的 它。
但 什么时候 是 使用 模型 我们 能 考虑，
为了 例子， 这 自己 解释 模型
喜欢 决定 树木 或者 我们 能 使用 内置 在 功能
喜欢 这 预言 分析器 和 这 多变的 重要性 特征。
这 最后的 观点 这里
什么时候 我们 调查并评分 哪个 因素 是 最多 重要的
为了 这 预测 结果，
我们 认为 那 那里 是 一个 潜在的 行为。
这 最多 重要的 因素 是 XYZ，
但 我们 做 不是 知道 哪个 因素 实际上
有 贡献 到 什么 程度 到 一个 个人 预言。
A 获得， 沙普利 价值观 是 a 非常 有帮助的
添加 那 能 允许 我们 到 理解 这 贡献
为了 每个 的 这 因素 在 个人 预言。
在 一般的 等级，
现在， 让我们 拿 a 看 进入 三 具体的 问题
和 如何 我们 能 回答 那些 和 这 软件。
这 第一的 一 是 如何 做 我们 调整 预测 模型
和 尊重 到 这 高的 重要性 的 省略 错误的 消极的 预测？
这 假设 a 小的 少量 那 我们已经 已经 完毕 a 第一的 步
因为 我们已经 已经 见过 模型 筛查 和 如何 我们 能 得到 那里。
我是 开始 一 步 前方。
让我们 移动 进入 跳转 到 实际上 拿 a 看 在 这。
我们 看 这 数据集， 我们可以看到它 相当 小的，
不是 也 许多 列。
它 看起来 非常 简单的。
我们 仅有的 有 这些 很少 预测变量 和 有 一些 更多的 列。
有 还 a 验证 柱子 那 我已经 额外，
但 它是 不是 显示 这里。
作为 为了 这 第一的 问题，
让我们 认为 我们 有 已经 完毕 这 模型 篩選。
再次， 这 是 无障碍
在 分析 预测 模型 筛查
在哪里 我们 不 指定 什么 我们 想 到 预测
和 这 因素 那 我们 想 到 调查。
再次， I 有 已经 准备好 这。
我们 有 一个 结果 那 看起来 喜欢 这。
它 看起来 a 小的 少量 不同的 比 在 这 第一的 使用 案件
因为 现在 我们 有 这 二进制 结果
和 所以 我们 有 一些 不同的 措施
那 我们 能 使用 到 比较。
但 再次， 什么是 重要的 是 那 我们 有 一个 概述
的 哪个 的 这 方法 是 表演 更好的 比 其他 个。
作为 我们 说， 在 命令 到 现在 提升
这 模型 和 强调 在 省略 这些
错误的 消极的 预测。
让我们 只是 挑选 这 一 和 看 什么 我们 能 做 这里。
让我们 或许 甚至 挑选 这 第一的 三 这里，
所以 我们 能 只是 做 那 经过 保持 这 控制 钥匙。
其他 特征 那 将要 帮助 我们 这里
是 称为 决定 临界点
和 它是 位于 在 这 红色的 三角决策 临界点。
这 决定 临界点 给出 我们 一些 内容。
我们 有 这些 图表 这里， 这些 节目 这 实际的 数据 點。
我们 有 这 困惑 矩阵
和 我们 有 一些 额外的 图表 和 矩阵，
但 我们 将要 重点 在 这 上 部分 这里。
让我们实际上 拿 a 看 在 这 测试 部分 的 这 放。
什么时候 我们 拿 a 看 在 这，
我们 能 看 那 我们 有 不同的 类型 的 结果。
这 默认 的 这 概率 临界点
是 这 中间， 哪个 会 是 这里 在 .5.
我们 有 现在 一些 选项 到 看 和 优化 这 模型
和 如何 有效的 它 是 和 尊重 到 这 困惑 矩阵。
困惑 矩阵， 我们 能 看 这 预测 价值
和 无论 那 实际上 曾是 真的 或者 不是。
如果 我们 看 在 什么时候 o 失败 是 预测，
我们 能 看 那 这里， 和 这 环境，
我们 实际上 有 相当 a 高的 数字 的 失败，
甚至 尽管 那里 是 不 預測。
现在 我们 能 交互式地 探索 如何 调整 这 临界点
实际上 影响 这 准确性 的 这 模型 或者 这 错误分类 率。
或者 在 一些 案件， 我们 能 还 放
一个 强调 在 什么是 真的 更糟 比 一个 其他 失败。
我们 能 做 这 和 这 所以 称为 利润 矩阵。
如果 我们 去 这里， 我们 能 放 a 价值
在 哪个 的 这 错误分类 是 实际上 更糟 比 这 其他 一。
在 这 案件， 我们 真的 做 不是 想
到 有 a 预言 的 不 失败
什么时候 那里 实际上 是 a 失败 正在发生。
我们 会 放 某物 喜欢 20 次。
更多的 重要的是， 我们 做 不是 得到 这 错误分类
和 我们 放 它 和 打 好的，
和 然后 它 将要 自动地 更新 这 图形
和 然后 我们 能 看 那 这 价值观 为了 这 错误分类
有 掉落 现在 在 每个 的 这 模型
和 我们 能 使用 这 作为 一个 额外的 工具
到 选择 a 模型 那是 或许 最多 合适的。
那是 为了 这 第一的 问题 的 如何 我们 能 调整 a 预测 模型
和 尊重 到 这 更高 重要性 的 省略 错误的 消极的 预测。
现在， 其他 问题 这里 是 还 什么时候 我们 思考 的 维护
和 在哪里 我们 放 我们的 努力 进入 维护，
是 如何 能 我们 确认 和 交流
这 全面的 重要性 的 预测因素？
什么 因素 是 驾驶 这 系统， 这 失败？
让我们 去 后退 到 这 数据 桌子 到 说 那 第一的，
I 亲自 喜欢 视觉的 和 过于简单 个。
一 的 他们 那 I 喜欢 到 使用 是 东西 喜欢 这 平行线 阴谋。
因为 它是 真的 a 好的 概述 总结
在哪里 这 失败 团体 以及哪个 参数 设置 和 所以 在。
在 这 造型 和 机器 学习 边，
有 a 很少 其他 选项 那 我们 能 实际上 使用。
一 那 I 喜欢 因为 它是 非常 脆 和 清除，
是 这 预测器 篩選。
预测器 筛查 给出 我们 非常 袖珍的 输出
关于 什么 是 重要的 和 它是 非常 简单的 到 做
和 它是 在下面 分析 筛查，
预测器 篩選。
A 二 我们 需要 到 做 是 说 什么 我们 想 到 理解
和 然后 指定 这 参数
那 我们 想 到 使用 为了 这。
点击 好的， 和 然后 它 重新计算
和 我们 有 这 输出。
为了 我， 它是 a 真的 好的 事物
因为正如我所说， 脆 和 清除 和 消耗。
但 我们已经 谈论 关于 这 前
和 拉斯， 什么时候 是 在职的 和 模型 特别，
做 你 有 任何 其他 建议 或者 做 你 有 任何事物 到 添加
到 我的 方法 到 理解 这 因素
的 哪个 预测变量 是 重要的。
是的， 它 是 a 好的 事物 到 尝试。
作为 I 提及 早些时候， 你 得到 到 是 真的 小心
关于 过度拟合。
我倾向于工作 和 a 很多 的 这些 宽的 问题，
说 从 基因组学 和 其他 应用程序，
在哪里 你 可能 甚至 有
许多 更多的 预测变量 比 你 有 观察结果。
在 这样的 a 案件， 如果 你 是 到 跑步 预测器 筛查，
说 或许 挑选 这 顶部 10 最好的
和 然后 去 转动 正确的 大约 和 合身 a 新的 模型
和 那些 10 仅有的， 你已经 实际上 只是 放 你自己 向上
为了 过度拟合 如果 你 做过 这 预测器 筛查 在 这 全部的 数据 放。
那是 这 设想 我是 担心的 关于。
它是 一个 简单的 陷阱 到 落下 进入，
因为 你 思考 你是 只是 过滤 事物 向下，
但 你已经 得到 到 重复使用 这 相同的 数据 两次。
这 危险 会 是 如果 你 是 到 然后插上 申请 那 模型
到 一些 新的 数据， 它 可能 惯于 做 几乎 作为 出色地。
如果 你是 在 这 游戏 在哪里 你 想 到 减少 预测因子，
I 趋向 到 喜欢 到 更喜欢 到 做 它 之内 每个 折叠 的 a K 折。
这 退税 的 那 是 你会 得到
a 不同的 放 每一个 时间， 但 你 不能 总计的 那些 事物。
如果 你 得到 a 肯定 预测器
这只是表明 向上 始终如一 穿过 折痕。
它是 非常 好的 证据 的那个。 那是 a 非常 重要的 一。
I 预计 那是 什么 会 发生 在 这 案件 和， 说， 扭力。
甚至 如果 你 是 到 做 这 锻炼，
说 10 次 和 10 不同的 褶皱， 你会 可能 得到 a 漂亮的 相似的 排行，
但 它是 更多的 的 a 微妙之处
但 再次， a 危险 那 你 有 到 手表 出去 为了。
工作 能 制作 它 a 小的 少量 更轻松 只是 因为 事物 是 所以 快的 和 干净的，
喜欢 你 提及， 那 你 可能 落下 进入 那 陷阱 如果 你是 不是 小心。
是的， 那是 非常 有价值的 添加 到 这 方法。
只是陪伴 到 这 额外的 信息，
有 还 这 其他 选项 那 我们 有，
特别 什么时候 我们 有 已经
走了 通过 这 过程 的 创造 a 模型 在哪里 我们 能 然后
实际上 再次， 使用 这 预言 分析器 和 这 多变的 重要性。
它是 其他 方式 在哪里 我们 能 评估
哪个 的 这 变量 有 这 更高 重要性。
拉斯， 做 你 想 到 说 单词 在 那 还
在 对比 或许 到 这 预测器 筛查？
是的。 诚实地， 沃格特， I 喜欢 这 重要性 它是一个 小的 更好的。
只是 潜水 正确的 进入 这 造型。
再次， I 会 更喜欢 和 K 折。
然后 你 能 只是 使用 这 多变的 重要性 措施，
哪个 是 经常 真的 信息丰富 直接地。
他们是 非常 相似的。 在 事实， 预测器 筛查，
I 相信， 它是 只是 呼叫 引导程序 森林 在 这 背景
和 收集 这 最多 重要的 变量。
它是 基本上 这 相同的 事物。
然后 下列的 向上 和 这 分析器， 哪个 能 是 出色的 为了 看到 确切地
如何 肯定 变量 是 略微 影响 这 回复，
和 然后 钻孔 那 甚至 更远 和 沙普利
到 是 有能力的 到 休息 向下 个人 预测
进入 他们的 成分。
到 我， 它是 a 非常 引人注目 和 有趣的 方式
到 潜水 进入 a 预测 模型
和 理解 什么是 真的 去 在 和 它，
拆包 这 黑色的 盒子
和 出租 你 看 什么是 真的 正在发生。
是的， 谢谢。
I 思考 那是 这 所有的 观点，
制作 它 可以理解 和 制作 它 消耗品
除了， 的 课程， 实际上 得到 到 这 结果，
哪个 是 理解 哪个 因素 是 影响 这 结果。
谢谢。
现在， I 有 一 更多的 问题， 和 你已经 已经 提及 它。
什么时候 我们 分数 新的 数据， 在 特别的，
什么 能 我们 做 到 确认
哪个 预测变量 有 实际上 影响 这 模型 结果？
现在， 和 什么 我们 有 完毕 所以 远的，
我们 有 获得 a 好的 理解 的 这 系统 和 知道
哪个 的 这 因素 是 这 最多 主导的 和 我们 能 甚至 派生 操作 范围。
如果 这 系统 变化， 什么 如果 a 不同的 因素 实际上 驱动器 a 失败？
然后 作为 它 会 是 预期的 在 这 案件 我们已经谈过了 劳拉 预先，
和 沙普利五世 价值观 再次 是 a 伟大的 添加 那 将要 帮助 我们 到 解释。
我们已经 见过 如何 我们 能 产生 他们，
和 你已经 学到了 在 哪个 平台 他们会 是 可用的。
现在， 这 输出 那 你 得到 什么时候 你 节省 Shapley 值是
为了 例子， 还 a 图形 那 节目 我们 每 实际的 每 排。
在 这 案件，
我们 有 10,000 行 在 这 数据 选项卡，所以我们有 10,000 个堆叠条形图，
和 然后 我们 能 已经 看 除了常见的模式之外，
有 还 次 什么时候 有 实际上还有其他影响因素
那 驾驶 这 决定 的 这 模型。
它是 真的 a 有帮助的 工具 到 不是 只提出个人预测，
但 还 添加 在 到 那 什么 拉斯 说，
理解 的 这 系统， 哪个 因素 贡献。
什么时候 我们 移动 a 小的 有点
在 这 可以理解 或者 探索之路，
我们 能 使用 这些 夏普利值 在 不同的 方式。
什么 I 亲自 喜欢 是建议
到 实际上 阴谋 这 沙普利 价值 经过 他们的 实际参数设置，
因为 那 允许 我们 到 确认 区域 的 设置。
为了 例子，
如果 我们 拿 旋转 速度 这里， 我们 能 看 那 有 实际上
区域 的 这 范围 那 趋向 到 贡献 a 很多
在 条款 的 这 模型 结果， 但 还 在 条款 的 这 实际的 失败。
那 还 帮助 使我们获得更多的理解
和 尊重 到 这 实际的 机器故障问题及其原因，
和 还 和 尊重 到 为什么 这 模型预测某事。
现在， 最后， I 喜欢 到 回答 这 问题。
什么时候 我们 拿 这些 图表 的 Shapley 值，
和 我们 有 见过 它 前 在 多次，
库存 是 当然 a 主导的 因素。
但 从 全部 的 这些， 我已经 只是 挑选 a 很少 预测，
和 我们 能 看 那 有时 它 股票， 有时 它是 不是。
和 这 沙普利 价值观，我们确实有一个好方法
到 口译 a 具体的 预言 经过 这 模型。
全部 正确的， 所以 那些 是 这 事物 我们 通缉 到 展示。
I 希望 这 给出 一些 伟大的 洞察力
如何 我们 能 制作 人工智能 模型 更多的 可解释的，
更多的 可以理解，
更多的 简单的 到 消化 和 到 工作 和， 因为 那是 这 意图 这里。
是的， ID 喜欢 到 总结 a 小的 少量。
皮特， 或许 你 想 即将到来 在 和 帮助 我 这里。
I 思考 什么 是 希望 到 展示 是 那
作为 这些 人工智能 模型 变得 更多的 和 更多的 流行
和 是 依赖 之上 为了 决定 制作， 那 理解， 口译，
和 存在 有能力的 到 交流 那些 模型 是 非常 重要的。
我们 希望 那 和 这些 沙普利 价值观，
和 这 多变的 重要性，以及分析器，
我们已经 显示 你 a 夫妻 的 方法 那 你可以分享这些结果
和 有 他们 容易地 可以理解。
那 曾是 这 拿- 家 在那之间 和 存在 有能力的 到 利用
模型 筛查之类的事情，
希望如此， 你 成立 a 很少 技术
那 将要 制作 这 更多的 可以理解 和 较少的 的 a 黑色的 盒子。
是的， I 绝对地 同意。
只是 到 总结， I 真的 喜欢 到 感谢 Russ 和 Laura
为了 贡献 这里 和 你的 专业知识。
谢谢， 皮特。 这是 a 乐趣。
谢谢， 谢谢大家的聆听。
是 寻找 向前 到 拥有 讨论 和 问题 到 回答。
