欢迎到这谈E可解释的人工智能：拆箱这黑色的盒子。
让我们介绍我们自己和让我们开始和劳拉。
你好，我是劳拉兰卡斯特,和我是作为统计开发人员在联合管理计划
和我是位于在这卡里办公室。
谢谢。
什么关于你，拉斯？
嘿大家。拉斯沃尔芬格。
我是导演的生活科学研发在这联合管理计划团体
和一项研究同胞作为出色地。
看着向前到这讲话今天。
和皮特？
我的名字的彼得赫希。
我是部分的这全球的技术的赋能T埃姆
和我是位于在丹佛,科罗拉多州。
伟大的和我的姓名是弗洛里安沃格特。
我是系统工程师为了这化学团队在欧洲
和我是位于在美丽的海德堡,德国。
欢迎到这讲话。
人工智能是A热的话题在这片刻和A很多的人们想到做它。
但什么做那意思是为了这行业？
做它意思是那科学家们和工程师需要到变得编码员，
为了流程在这未来跑步经过数据科学家们？
A最近的出版物被称为工业的数据科学 - A审查
的机器学习应用领域为了化学和过程行业
解释工业的数据科学基础知识，
评论工业的应用使用
状态的这艺术机器学习技巧
和它点出去一些重要的方面的工业的人工智能。
这些是这可达性的人工智能，这易懂的人工智能
和这的消耗性人工智能，和在特别的这输出。
出色地展示你一些的这特征那我们思考
是贡献到这话题非常出色地在JMP。
前我们开始进入这程序的今天，让我们简要地审查
什么人工智能包含和什么我们的重点今天是位于在。
我有挑选的A来源那实际上分开它进入四组。
那些团体是：第一的，支持人工智能还被称为反应性机器
和这目标在决定支持。
这第二团体是被称为增强人工智能
或者有限的理论和那焦点在过程优化
和这第三团体是自动化人工智能，
或者理论的头脑，哪个，作为这姓名建议，目标在自动化，
和这第四是被称为自主性人工智能
或者自己意识到的人工智能，哪个包含自主性优化。
今天的重点是真的在这第一的和这第二话题。
我们有A简短的讨论前。
拉斯，什么是你的想法在这些还和尊重到什么联合管理计划能覆盖？
出色地，当然这学期人工智能得到抛出大约A很多。
它是用过的在许多种类的不同的细致入微的会议。
我趋向到更喜欢会议那是
确实更多的有形和可用的和更多的专注。
喜欢是去到飞涨在在今天和一些具体的例子。
这术语能得到A小的令人困惑的尽管。
我猜测我只是趋向到种类的保持它相当广阔，打开头脑
每当任何人用途这学期人工智能和尝试到推断它是意义从这语境。
正确的。 那是在条款的介绍，
现在出色地得到A小的少量更多的进入这细节和具体来说进入
为什么它是重要的到实际上理解你的人工智能楷模。
超过到你，皮特.
完美的。 谢谢，弗洛里安.
我思考什么拉斯曾是打在那里和弗洛里安的介绍是，
我们很多时候不知道什么一个人工智能模型是讲述我们和什么是在下面这兜帽。
什么时候是思维关于如何出色地A模型施行，
我们思考关于如何出色地那适合这数据。
如果我们看这里，是看着在A神经的网络图表
和作为你能看，这些能得到漂亮的复杂的。
这些人工智能楷模是变得更多的和更多的流行
和靠之上为了决定制作。
真的吗，理解为什么一个人工智能模型是制作A肯定决定，
什么标准它是立足那决定,
势在必行到采取满的优势的这些楷模。
什么时候A模型变化或者更新，
尤其和那自主性人工智能或者这自动化人工智能，
我们需要到理解为什么。
我们需要到确认那这模型是或许不是
推断或者立足它在A很少点外部的我们的普通的操作范围。
抓住在。
让我偷这屏幕这里从弗洛里安,
和我是去到去先和走通过A案件学习这里。
全部正确的，所以这案件学习
是基于在定向的钻孔从井靠近堡值得，德克萨斯州。
这主意和这类型的钻孔是
不像传统的井,在哪里你会只是去垂直，
你去向下A肯定深度，和然后你开始去水平的。
这主意是这些是很多更多的高效的比这传统的井。
你有这些地区的被困油和气体那你能
得到在和一些特别的完成参数。
是看着在这数据这里从这些井，
和是试到数字出去什么是这最多重要的因素，
包括这地质学，这地点，和这完成因素，
和能我们优化这些因素到增加或者优化我们的出色地生产？
到给你一个主意，这是A地图的那盆地，
所以喜欢我提及，这是堡值得，德克萨斯州。
你能看我们有井全部大约这。
我们有肯定地区在哪里我们的每年生产是更高，
其他的在哪里它是降低。
我们通缉到问A很少问题看着在这数据。
什么因素有这最大影响在生产？
如果我们知道肯定级别为了A新的出色地，
能我们预测什么我们的生产将要是？
是那里A方式到改变我们的因素，或许一些的这完成参数
和影响我们的生产？
是去到去先和回答一些问题和A模型。
但前我们得到进入那，我通缉到问拉斯，
自从他是得到地段的经验和这。
什么时候你是开始到挖进入数据，拉斯，
什么是这最好的地方到开始和为什么？
出色地，我猜测或许我是有偏见,但我爱联合管理计划
为了这类型的应用，皮特，
只是因为它是所以出色地适合为了快的探索性的数据分析。
你想到得到A感觉为了什么目标你是试到预测
和这预测因子你是关于到使用，看着在他们的分布，
检查为了异常值或者任何异常图案在这数据。
你可能甚至想到做一些快的图案发现聚类
或者主成分分析类型分析只是到得到A感觉为了任何结构那是在这数据。
然后还是思维小心关于
什么表现公制会制作这最多感觉为了这应用在手。
通常这常见的一，明显地为了连续的预测因子将会
喜欢根方法正方形错误，但那里可以是案例在哪里
可能就是这样不是相当合适的，尤其如果有
直接的成本涉及，有时绝对错误是更多的相关的
为了A真的利润-损失类型决定。
这些是全部事物那你想到开始思维关于
作为出色地作为如何你是去到证实你的模型。
我是A大的扇子的k 折交叉验证。
在哪里你分裂你的数据进入清楚的子集和抓住一出去
和存在非常小心关于不是允许泄漏或者还小心关于过度拟合。
这些是全部担忧那趋向
到来顶部的头脑为了我什么时候我开始出去和A新的问题。
完美的。 谢谢，拉斯。
我是去到走通过这在联合管理计划
一些的这工具我们能使用到开始看着在我们的问题。
然后是去到覆盖一些的这事物那帮助我们决定
哪个的这些因素是拥有这最大影响在出色地生产。
我是去到展示多变的重要性和然后沙普利价值观
和出色地有劳拉讲话到那和如何我们做那。
但首先，让我们去先和看在这数据里面A JMP。
喜欢我们提及这里，我有我的生产从这些井。
我有一些地点参数所以在哪里它是纬度和经度，
我有一些地质学的参数。
这是关于这岩石形成是钻孔通过。
然后我有一些完成参数
和这是因素那我们能改变尽管是钻孔作为出色地，
一些的这些我们可以有影响在。
如果我们通缉到去通过和这数据集仅有的有5,000行。
什么时候说到拉斯在开始到准备这讲话，他说只是去先
和跑步一些模型筛选和看什么类型的模型适合这数据最好的。
到做那，是去到去先和去在下面这分析菜单，
去到预测性模型和打模型筛选。
我是去到放我的回复，哪个是那生产，
拿全部的我们的因素，地点，地质学和完成参数，
放那些进入这X和抓住我的验证和放它进入验证。
向下这里我们有全部排序的不同的选项在类型的楷模我们能跑步。
我们能挑选和选择哪个那些或许制作感觉
或者不制作感觉为了这类型的数据。
我们能挑选出去一些不同的造型选项为了我们的线性楷模。
甚至，喜欢拉斯提及这里，如果我们不有足够的数据
到抓住后退和做我们的验证。
那方式我们能利用A k 折交叉验证在这里。
现在到节省一些时间，我有消失了先和跑步这已经所以你不有
到手表联合管理计划创造全部这些楷模。
这是这结果。
为了这数据，你能看
那这些树基于方法：提升树，引导程序奥雷斯特和XGB奥斯特
全部做过非常出色地在配件这数据，比较的到一些的这其他技术。
我们可以去通过和跑步一些的这些，
但为了这一，我是去到只是挑选
这提升树自从它有这最好的RS方形和根平均的正方形错误
为了这数据集。
出色地去先和跑步那。
后我们已经跑步这筛选、是去到去先和挑选A模型
或者A夫妻的楷模那合身出色地和只是跑步他们。
铝正确的，所以这是这全面的合身在这案件。
取决于在什么类型的数据你是看着在，
或许一个RS方形的.5是伟大的，或许一个R方的.5是不是所以伟大的。
只是取决于在什么类型的数据你有，
你能法官如果这是A好的足够的模型或者不是。
现在那我有这，我想到回答那第一的问题。
会心A很少参数去在，
什么能我预计我的生产等级到是？
一个简单的方式到做那里面A联合管理计划和任何类型模型是和这分析器。
好的，所以我们有这分析器这里，
我们有全部的这因素那是包括在这模型，
和我们有什么我们的预期的12月生产到是。
这里我能调整如果我知道我的肯定地点。
我知道这纬度和经度进去
或许我知道一些的这些地质学的参数。
我能或许调整一些的这些因素
和数字出去的这完成参数
和数字出去A方式到优化这。
但我思考这里和A很多的因素，这能是复杂的。
让我们讲话关于这第二问题，
在哪里我们是想知道哪个一的这些因素曾是拥有这最大影响。
你能看基于在哪个的这些线是奉承
或者有更多的形状到他们，什么是这最大影响。
但让我们联合管理计划做那为了我们。
在下面评估多变的重要性，
我是去到只是让联合管理计划去通过
和挑选这因素那是最多重要的。
这里你能看它是概述这最多重要的
向下到那些那是较少的重要的。
我喜欢这特征着色这分析器。
现在它是突出显示这最多重要的因素
和消失了向下到这至少重要的因素。
再次，我能调整这些和看，哦，它看起来喜欢
或许调整这深度的这出色地，
添加一些更多的[听不清 00:15:51],它可能提升我的生产。
那是这方式我们可以做这但我们有A新的方式的看着
在这影响的每个一的这些因素在A肯定出色地。
我们能发射那在下面这红色的三角形在联合管理计划17 号和沙普利价值观。
我能放我的选项或者节省出去这沙普利价值观。
一次我做那，它将要创造新的列在我的数据桌子
那节省出去这贡献从每个一的那些因素。
这是在哪里我是去到让劳拉讲话到一些沙普利价值观。
我只是通缉去到讲话简要地关于什么沙普利价值观是
和如何我们使用他们。
沙普利价值观是A模型不可知论者方法为了解释模型预测
和他们是真的有帮助的为了黑色的盒子楷模
那是真的难的到解释或者解释。
这方法来了从合作社游戏理论
和我不有时间到讲话关于这背景
或者这数学在后面这计算，但我们有A参考
在这底部的这滑动和如果你谷歌它，你应该是有能力的到寻找
A很多的参考到学习更多的如果你是感兴趣的。
什么这些沙普利价值观做，
他们告诉你如何很多每个输入多变的
是贡献到一个个人预言为了A模型。
那是离开从这平均的预料到的价值
穿过这输入数据集
和你的输入数据集是去到来从你的训练数据。
沙普利值是添加剂，
哪个使他们真的好的和简单的到解释和理解。
每一个预言能是书面作为A和的你的沙普利值
加那平均的预料到的价值，
哪个我们参考到作为这沙普利截距在JMP。
他们能是计算地密集的
到计算如果你有A很多的输入值，输入变量你的模型
或者如果你是试到创造沙普利值为了A很多的预测。
我们尝试到给一些选项为了帮助到减少时间在 JMP 中。
这些沙普利价值观，作为彼得提及，
是添加到这预言分析器为了相当A很少的这楷模在联合管理计划临17
和他们是还可用的在这图形分析器。
他们是可用的为了适合最小 S夸雷斯名义物流，O基数后勤，
神经，将军，P分项,引导程序森林和提升树。
他们是还可用的如果你有这XB奥斯特添加-在。
除了在那添加-I ,他们是可用的从这模型菜单
和不是从这预言分析器。
好的，下一个滑动。
在这滑动我想到只是看在一些的这预测从彼得的模型。
这是从A模型使用五输入变量。
这些是堆酒吧图表的这第一的三预测
未来从这第一的三行的他的数据。
在这左边你看A堆条形图的这沙普利价值观为了这第一的排。
那第一的预言是11.184生产桶
数十万。
每个颜色在那酒吧图形是分为出去经过这不同的输入变量。
里面这酒吧是这沙普利值。
如果你添加向上全部的那些价值观，加这沙普利截距
那我有在这中间的这图形，你得到那预言价值。
这是显示你那第一的的全部，全部的这些是制作
积极的贡献到这生产和他们展示你如何很多，所以尺寸，
我能看那经度和支撑剂
是贡献这最多为了这特别的预言。
然后如果我看到这正确的边到这第三预言，
哪个是2.916生产桶和数百的数千,
我能看那二的我的输入变量
是贡献积极地到我的生产
和三的他们是拥有消极的贡献，
这底部三这里。
你能使用图表喜欢这到帮助可视化你的沙普利价值观。
那帮助你真的理解
这些个人预测。
下一个滑动。
这是只是一的许多类型的图表
你能创造。
这沙普利价值观得到已保存进入你的数据桌子。
你能操纵他们
和创造全部种类的图表在图形建设者和JMP。
这图形是只是A图形的全部这沙普利价值观
从超过5,000行的这数据分裂出去经过每个输入多变的。
它只是给出你一个主意的这贡献的那些变量，
两个都积极的和消极地到这预测。
现在我是去到手它后退超过到彼得.
伟大的。谢谢，劳拉。
我思考现在出色地去先和过渡到我们的第二案件学习
那弗洛里安是去到做。
应该我经过这屏幕分享后退到你？
是的，那会是伟大的。
进行过渡。
谢谢为了这第一的案件学习和谢谢为了这贡献。
真的有趣的。
我希望我们能带来一些光到A不同的种类的应用
和我们的第二案件学习。
我有给定它这字幕，曾是它扭矩？
因为那是A问题出色地有希望回答了
经过这结尾的这第二案件学习推介会。
这第二案件学习是关于预测性的维护
和这特别的方面的为什么它是重要的到理解
你的楷模在这设想。
最多可能大家能思考那它是非常重要的
到有A感觉为了什么时候机器要求维护。
因为如果机器失败，那么那就是A很多的麻烦，
A很多的成本，什么时候植物有到关闭向下和所以在。
它是真的必要的到做预防性的维护
到保持系统跑步。
A主要的任务在这是到决定
什么时候这维护应该是执行的
和不是也早期的，不是也晚的，当然。
所以，它是A任务到寻找A平衡
哪个限制失败和还节省成本在维护。
有A案件学习那是使用到强调一些功能特征
和它是实际上A合成的数据放
哪个来了从A发表学习。
这来源是向下那里在这底部。
你能寻找它。
它曾是发表在这人工智能为了行业事件在2020.
这基本的内容的这数据集
是那它有六不同的特征的过程设置，
哪个是产品或产品类型
哪个表示为了不同的质量变体。
然后我们有空气温度，
过程温度，旋转的速度，扭矩，和刀具磨损。
我们有一主要的回复和那是无论这机器失败或者不是。
什么时候我们思考的问题
那我们可以回答和A模型或者楷模或者一般来说数据。
有一些那来到头脑。
现在，这最多明显的问题
是大概如何我们能解释和解释设置，
哪个可能带领到机器失败。
这是某物[听不清 00:24:38]
到创造和比较多种的楷模
和然后选择这一那是最多合适的。
现在，在这特别的环境在哪里我们想到预测
无论机器失败或者不是。
我们还有到帐户为了错误分类
那是任何一个A错误的积极的或者A错误的消极的预言。
和JMP的决定临界点图表
和这利润矩阵，我们能实际上指定一个强调
或者重要性到哪个结果是较少的理想的。
为了例子，
它是通常较少的理想的到实际上有A失败
什么时候这模型没有预测一
比较的到这对面的，错误分类。
然后除了这二进制分类，的课程，
你是还感兴趣的在理解什么驱动器失败通常。
那里是当然一些方法到交易和这问题。
我思考可视化是总是A部分的它。
但什么时候是使用楷模我们能考虑，
为了例子，这自己解释楷模
喜欢决定树或者我们能使用内置在功能性
喜欢这预言分析器和这多变的重要性特征。
这最后的观点这里
什么时候我们调查并评价哪个因素是最多重要的
为了这预测性的结果，
我们认为那那里是一个潜在的行为。
这最多重要的因素是XYZ，
但我们做不是知道哪个因素实际上
有贡献了到什么程度到一个个人预言。
A获得，沙普利价值观是A非常有帮助的
添加那能允许我们到理解这贡献
为了每个的这因素在个人预言。
上一个一般的等级，
现在，让我们拿A看进入三具体的问题
和如何我们能回答那些和这软件。
这第一的一是如何做我们调整预测性的模型
和尊重到这高的重要性的省略错误的消极的预测？
这假设A小的少量那我们已经已经完毕A第一的步
因为我们已经已经见过模型筛选和如何我们能得到那里。
我是开始一步先。
让我们移动进入联合管理计划到实际上拿A看在这。
我们看这数据集，我们可以看到它相当小的，
不是也许多列。
它看起来非常简单的。
我们仅有的有这些很少预测因子和有一些更多的列。
有还A验证柱子那我有添加，
但它是不是显示这里。
作为为了这第一的问题，
让我们认为我们有已经完毕这模型筛选。
再次，这是无障碍
于分析过的预测性的模型筛选
在哪里我们不指定什么我们想到预测
和这因素那我们想到调查。
再次，我有已经准备好了这。
我们有一个结果那看起来喜欢这。
它看起来A小的少量不同的比在这第一的使用案件
因为现在我们有这二进制结果
和所以我们有一些不同的措施
那我们能使用到比较。
但再次，什么是重要的是那我们有一个概述
的哪个的这方法是表演更好的比其他那些。
作为我们说，在命令到现在提升
这模型和强调在省略这些
错误的消极的预测。
让我们只是挑选这一和看什么我们能做这里。
让我们或许甚至挑选这第一的三这里，
所以我们能只是做那经过保持这控制钥匙。
其他特征那将要帮助我们这里
是被称为决定临界点
和它是位于在这红色的三角决策临界点。
这决定临界点给出我们一些内容。
我们有这些图表这里，这些节目这实际的数据点。
我们有这困惑矩阵
和我们有一些额外的图表和矩阵，
但我们将要重点在这上部分这里。
让我们实际上拿A看在这测试部分的这放。
什么时候我们拿A看在这，
我们能看那我们有不同的类型的结果。
这默认的这概率临界点
是这中间，哪个会是这里在.5.
我们有现在一些选项到看和优化这模型
和如何有效的它是和尊重到这困惑矩阵。
困惑矩阵，我们能看这预料到的价值
和无论那实际上曾是真的或者不是。
如果我们看在什么时候哦失败是预料到的，
我们能看那这里，和这环境，
我们实际上有相当A高的数字的失败，
甚至尽管那里是不预料到的。
现在我们能交互地探索如何调整这临界点
实际上影响这准确性的这模型或者这错误分类费率。
或者在一些案例，我们能还放
一个强调在什么是真的更差比一个其他失败。
我们能做这和这所以被称为利润矩阵。
如果我们去这里，我们能放A价值
在哪个的这错误分类是实际上更差比这其他一。
在这案件，我们真的做不是想
到有A预言的不失败
什么时候那里实际上是A失败正在发生。
我们会放某物喜欢20次。
更多的重要的，我们做不是得到这错误分类
和我们放它和打好的，
和然后它将要自动地更新这图形
和然后我们能看那这价值观为了这错误分类
有掉落现在在每个的这楷模
和我们能使用这作为一个额外的工具
到选择A模型那是或许最多合适的。
那是为了这第一的问题的如何我们能调整A预测性的模型
和尊重到这更高重要性的省略错误的消极的预测。
现在，其他问题这里是还什么时候我们思考的维护
和在哪里我们放我们的努力进入维护，
是如何能我们确认和交流
这全面的重要性的预测因子？
什么因素是驾驶这系统，这失败？
让我们去后退到这数据桌子到说那第一的，
我亲自喜欢视觉的和简单化的那些。
一的他们那我喜欢到使用是东西喜欢这平行线阴谋。
因为它是真的A好的概述总结
在哪里这失败团体以及哪个参数设置和所以在。
在这造型和机器学习边，
有A很少其他选项那我们能实际上使用。
一那我喜欢因为它是非常脆和清除，
是这预测器筛选。
预测器筛选给出我们非常袖珍的输出
关于什么是重要的和它是非常简单的到做
和它是在下面分析过的筛选、
预测器筛选。
A二我们需要到做是说什么我们想到理解
和然后指定这参数
那我们想到使用为了这。
点击好的，和然后它重新计算
和我们有这输出。
为了我，它是A真的好的事物
因为正如我所说，脆和清除和消耗。
但我们已经谈过关于这前
和拉斯，什么时候是在职的和楷模特别，
做你有任何其他建议或者做你有任何事物到添加
到我的方法到理解这因素
的哪个预测因子是重要的。
是的，它是A好的事物到尝试。
作为我提及早些时候，你得到到是真的小心
关于过度拟合。
我倾向于工作和A很多的这些宽的问题，
说从基因组学和其他应用程序，
在哪里你可能甚至有
许多更多的预测因子比你有观察。
在这样的A案件，如果你是到跑步预测器筛选、
说或许挑选这顶部10最好的
和然后去转动正确的大约和合身A新的模型
和那些10仅有的，你已经实际上只是放你自己向上
为了过拟合如果你做过这预测器筛选在这全部的数据放。
那是这设想我是担心的关于。
它是一个简单的陷阱到落下进入，
因为你思考你是只是过滤事物向下，
但你已经得到到重用这相同的数据两次。
这危险会是如果你是到然后插上申请那模型
到一些新的数据，它可能惯于做几乎作为出色地。
如果你是在这游戏在哪里你想到减少预测因子，
我趋向到喜欢到更喜欢到做它之内每个折叠的A K 折。
这退税的那是你会得到
A不同的放每一个时间，但你不能总计的那些事物。
如果你得到A肯定预测器
这只是显示向上始终如一地穿过褶皱。
它是非常好的证据的。 那是A非常重要的一。
我预计那是什么会发生在这案件和，说，扭矩。
甚至如果你是到做这锻炼，
说10次和10不同的褶皱，你可能得到A漂亮的相似的排行，
但它是更多的的A微妙
但再次， A危险那你有到手表出去为了。
工作能制作它A小的少量更轻松只是因为事物是所以快的和干净的，
喜欢你提及，那你可能落下进入那陷阱如果你是不是小心。
是的，那是非常有价值的添加到这方法。
只是陪伴到这额外的信息，
有还这其他选项那我们有，
特别什么时候我们有已经
消失了通过这过程的创造A模型在哪里我们能然后
实际上再次，使用这预言分析器和这多变的重要性。
它是其他方式在哪里我们能评估
哪个的这变量有这更高重要性。
拉斯，做你想到说单词在那还
在对比或许到这预测器筛选？
是的。 诚实地，沃格特,我喜欢这重要性这是一个小的更好的。
只是潜水正确的进入这造型。
再次，我会更喜欢和K 折。
然后你能只是使用这多变的重要性措施，
哪个是经常真的信息丰富的直接地。
他们是非常相似的。 在事实，预测器筛选、
我相信，它是只是呼叫引导程序森林在这背景
和收集这最多重要的变量。
它是基本上这相同的事物。
然后下列的向上和这分析器，哪个能是出色的为了看见确切地
如何肯定变量是边际地影响这回复，
和然后钻孔那甚至更远和沙普利
到是有能力的到休息向下个人预测
进入他们的成分。
到我，它是A非常引人注目的和有趣的方式
到潜水进入A预测性的模型
和理解什么是真的去在和它，
一种拆包这黑色的盒子
和出租你看什么是真的正在发生。
是的，谢谢。
我思考那是这所有的观点，
制作它可以理解的和制作它消耗品
除了，的课程，实际上得到到这结果，
哪个是理解哪个因素是影响这结果。
谢谢。
现在，我有一更多的问题，和你已经已经提及它。
什么时候我们分数新的数据，在特别的，
什么能我们做到确认
哪个预测因子有实际上影响这模型结果？
现在，和什么我们有完毕所以远的，
我们有获得A好的理解的这系统和知道
哪个的这因素是这最多主导的和我们能甚至派生操作范围。
如果这系统变化，什么如果A不同的因素实际上驱动器A失败？
然后作为它会是预期的在这案件我们已经交谈过劳拉预先，
和沙普利五世价值再次是A伟大的添加那将要帮助我们到解释。
我们已经见过如何我们能产生他们，
和你已经学到了在哪个平台他们会是可用的。
现在，这输出那你得到什么时候你节省得出的 Shapley 值是，
为了例子，还A图形那节目我们每实际的每排。
在这案件，
我们有10,000行在这数据选项卡，所以我们有 10,000 个堆栈条形图，
和然后我们能已经看除了常见的模式之外，
有还次什么时候有其实还有其他影响因素
那驾驶这决定的这模型。
它是真的A有帮助的工具到不是仅提出个人预测，
但还添加在到那什么拉斯只是说，
理解的这系统，哪个因素贡献。
什么时候我们移动A小的咬上
在这可以理解的或者探索之路，
我们能使用这些沙普利价值观在不同的方法。
什么我亲自喜欢是建议
到实际上阴谋这沙普利价值经过他们的实际参数设置，
因为那允许我们到确认地区的设置。
为了例子，
如果我们拿旋转的速度这里，我们能看那有实际上
地区的这范围那趋向到贡献A很多
在条款的这模型结果，但还在条款的这实际的失败。
那还帮助我们得到更多的理解
和尊重到这实际的机器故障的问题及其原因，
和还和尊重到为什么这模型预测某事。
现在，最后，我喜欢到回答这问题。
什么时候我们拿这些图表的沙普利值，
和我们有见过它前在有几次，
库存是当然A主导的因素。
但从全部的这些，我有只是挑选的A很少预测，
和我们能看那有时它股票,有时它是不是。
和这沙普利价值观，我们确实有一个很棒的方法
到口译A具体的预言经过这模型。
全部正确的，所以那些是这事物我们通缉到展示。
我希望这给出一些伟大的洞察力
进入如何我们能制作人工智能楷模更多的可以解释的,
更多的可以理解，
更多的简单的到消化和到工作和，因为那是这意图这里。
是的， ID喜欢到总结A小的少量。
皮特，或许你想来在和帮助我这里。
我思考什么是希望到展示是那
作为这些人工智能楷模变得更多的和更多的流行
和是靠之上为了决定制作，那理解，口译,
和存在有能力的到交流那些楷模是非常重要的。
我们希望那和这些沙普利诉价值，
和这多变的重要性，并且通过分析器，
我们已经显示你A夫妻的方法那你可以分享分享这些结果
和有他们容易地可以理解。
那曾是这拿-家在那之间和存在有能力的到利用
模型筛选之类的事情，
希望，你成立A很少技巧
那将要制作这更多的可以理解的和较少的的A黑色的盒子。
是的，我绝对地同意。
只是到总结，我真的喜欢到感谢拉斯和劳拉
为了贡献这里和你的专业知识。
谢谢，皮特. 它是A乐趣。
谢谢，大家来听听。
是看着向前到拥有讨论和问题到回答。
