歡迎 到 這 談話E 可解釋的 人工智慧: 拆箱 這 黑色的 盒子。
讓我們 介紹 我們自己 和 讓我們 開始 和 勞拉。
你好， 我是 勞拉 蘭開斯特， 和 我是 作為 統計開發者 在 跳轉
和 我是 位於 在 這 卡里 辦公室。
謝謝。
什麼 關於 你， 拉斯？
嘿，大家好。 Russ 沃爾芬格。
我是 導演 的 生活 科學 研發 在 這 跳轉 團體
和 一項研究 同伴 作為 出色地。
尋找 向前 到 這 演講 今天。
和 皮特？
我的 名字的 彼得 赫希。
我是 部分 的 這 全球的 技術的 賦能 T 她
和 我是 位於 在 丹佛， 科羅拉多州。
偉大的 和 我的 姓名 是 佛洛里安 沃格特。
我是 系統 工程師 為了 這 化學 團隊 在 歐洲
和 我是 位於 在 美麗的 海德堡， 德國。
歡迎 到 這 講話。
人工智慧 是 a 熱的 話題 在 這 片刻 和 a 很多 的 人們 想 到 做 它。
但 什麼 做 那 意思是 為了 這 行業？
做 它 意思是 那 科學家 和 工程師 需要 到 變得 程式設計師,
為了 流程 在 這 未來 跑步 經過 數據 科學家？
A 最近的 出版品 稱為 工業的 數據 科學 - a 審查
的 機器 學習 應用 為了 化學 和 流程 產業
解釋 工業的 數據 科學 基本面，
評論 工業的 應用程式 使用
狀態 的 這 藝術 機器 學習 科技
和 它 點 出去 一些 重要的 方面 的 工業的 人工智慧.
這些 是 這 可訪問性 的 人工智慧, 這 易懂 的 人工智慧
和 這 可消費性 人工智慧, 和 在 特別的 這 輸出。
出色地 展示 你 一些 的 這 特徵 那 我們 思考
是 貢獻 到 這 話題 非常 出色地 在 跳轉。
前 我們 開始 進入 這 程式 的 今天， 讓我們 簡要地 審查
什麼 人工智慧 涵蓋 和 什麼 我們的 重點 今天 是 位於 在。
我已經 挑選 a 來源 那 實際上 分離 它 進入 四 組。
那些 群組 是： 第一的， 支援 人工智慧 也 稱為 反應式 機器
和 這 目標 在 決定 支持。
這 第二 團體 是 稱為 增強 人工智慧
或者 有限的 理論 和 那 焦點 在 流程 最佳化
和 這 第三 團體 是 自動化 人工智慧,
或者 理論 的 頭腦， 哪個， 作為 這 姓名 建議， 目標 在 自動化，
和 這 第四 是 稱為 自主 人工智慧
或者 自己 意識到的 人工智慧, 哪個 涵蓋 自主 最佳化.
今天的 重點 是 真的 在 這 第一的 和 這 第二 話題。
我們 有 a 簡短的 討論 前。
拉斯， 什麼 是 你的 想法 在 這些 也 和 尊重 到 什麼 跳轉 能 覆蓋？
出色地， 當然 這 學期 人工智慧 獲取 拋出 大約 a 很多。
它是 用過的 在 許多 種類 的 不同的 細緻入微 會議。
I 趨向 到 更喜歡 會議 那 是
確實 更多的 有形 和 可用的 和 更多的 專注。
喜歡 是 去 到 飛漲 在 在 今天 和 一些 具體的 例子。
這 術語 能 得到 a 小的 令人困惑 儘管。
I 猜測 I 只是 趨向 到 種類 的 保持 它 相當 廣闊， 打開 頭腦
每當 任何人 用途 這 學期 人工智慧 和 嘗試 到 推論 它是 意義 從 這 情境.
正確的。 這是 條款 的 介紹，
現在 出色地 得到 a 小的 位元 更多的 進入 這 細節 和 具體來說 進入
為什麼 它 是 重要的 到 實際上 理解 你的 人工智慧 模型。
超過 到 你， 皮特。
完美的。 謝謝， 弗洛里安。
I 思考 什麼 拉斯 曾是 擊中 在 那裡 和 弗洛里安的 介紹 是，
我們 常常 不 知道 什麼 一個 人工智慧 模型 是 告訴 我們 和 什麼是 在下面 這 兜帽。
什麼時候 是 思維 關於 如何 出色地 a 模型 表演，
我們 思考 關於 如何 出色地 那 適合 這 數據。
如果 我們 看 這裡， 是 尋找 在 a 神經 網路 圖表
和 作為 你 能 看， 這些 能 得到 漂亮的 複雜的。
這些人工智慧 模型 是 成為 更多的 和 更多的 流行
和 依賴 之上 為了 決定 製作。
真的嗎， 理解 為什麼 一個 人工智慧 模型 是 製作 a 肯定 決定，
什麼 標準 它是 基礎 那 決定，
勢在必行 到 服用 滿的 優勢 的 這些 模型。
什麼時候 a 模型 變化 或者 更新，
尤其 和 那 自主 人工智慧 或者 這 自動化 人工智慧,
我們 需要 到 理解 為什麼。
我們 需要 到 確認 那 這 模型 是 或許 不是
外推 或者 基礎 它 在 a 很少 點 外部 的 我們的 普通的 操作 範圍。
抓住 在。
讓 我 偷 這 螢幕 這裡 從 弗洛里安，
和 我是 去 到 去 前方 和 走 透過 a 案件 學習 這裡。
全部 正確的， 所以 這 案件 學習
是 基於 在 定向 鑽孔 從 井 靠近 堡 值得， 德克薩斯州。
這 主意 和 這 類型 的 鑽孔 是
不像 傳統的 井， 在哪裡 你 會 只是 去 垂直方向，
你 去 向下 a 肯定 深度， 和 然後 你 開始 去 水平的。
這 主意 是 這些 是 很多 更多的 高效率的 比 這 傳統的 井。
你 有 這些 區域 的 被困 油 和 氣體 那 你 能
得到 在 和 一些 特別的 完成 參數。
是 尋找 在 這 數據 這裡 從 這些 井，
和 是 嘗試 到 數位 出去 什麼 是 這 最多 重要的 因素，
包括 這 地質學， 這 地點， 和 這 完成 因素，
和 能 我們 最佳化 這些 因素 到 增加 或者 最佳化 我們的 出色地 生產？
到 給 你 一個 主意， 這是 a 地圖 的 那 盆地，
所以 喜歡 I 提及， 這 是 堡 值得， 德克薩斯州。
你 能 看 我們 有 井 全部 大約 這。
我們 有 肯定 區域 在哪裡 我們的 每年 生產 是 更高，
其他的 在哪裡 它是 降低。
我們 通緝 到 問 a 很少 問題 尋找 在 這 數據。
什麼 因素 有 這 最大 影響 在 生產？
如果 我們 知道 肯定 等級 為了 a 新的 出色地，
能 我們 預測 什麼 我們的 生產 將要 是？
是 那裡 a 方式 到 改變 我們的 因素， 或許 一些 的 這 完成 參數
和 影響 我們的 生產？
是 去 到 去 前方 和 回答 一些 問題 和 a 模型。
但 前 我們 得到 進入 那， I 通緝 到 問 拉斯，
自從 他是 得到 很多 的 經驗 和 這。
什麼時候 你是 開始 到 你 進入 數據， 拉斯，
什麼是 這 最好的 地方 到 開始 和 為什麼？
出色地， I 猜測 或許 我是 有偏見的， 但 I 愛 跳轉
為了 這 類型 的 應用， 皮特，
只是 因為 它是 所以 出色地 適合 為了 快的 探索性的 數據 分析。
你 想 到 得到 a 感覺 為了 什麼 目標 你是 嘗試 到 預測
和 這 預測變數 你是 關於 到 使用， 尋找 在 他們的 分佈，
檢查 為了 異常值 或者 任何 例外 模式 在 這 數據。
你 可能 甚至 想 到 做 一些 快的 圖案 發現 聚類
或者 主成分分析 類型 分析 只是 到 得到 a 感覺 為了 任何 結構 那是 在 這 數據。
然後 也 是 思維 小心 關於
什麼 表現 公制 會 製作 這 最多 感覺 為了 這 應用 在 手。
通常 這 常見的 一， 明顯地 為了 連續的 預測變數 將會
喜歡 根 方法 方塊 錯誤， 但 那裡 可以 是 案例 在哪裡
可能是 不是 相當 合適的， 尤其 如果 有
直接的 成本 涉及， 有時 絕對 錯誤是 更多的 相關的
為了 a 真的 利潤- 損失 類型 決定。
這些 是 全部 事物 那 你 想 到 開始 思維 關於
作為 出色地 作為 如何 你是 去 到 證實 你的 模型。
我是 a 大的 扇子 的 k 折交叉驗證。
在哪裡 你 分裂 你的 數據 進入 清楚的 子集 和 抓住 一 出去
和 存在 非常 小心 關於 不是 允許 洩漏 或者 也 小心 關於 過度擬合。
這些 是 全部 擔憂 那 趨向
到 來 頂部 的 頭腦 為了 我 什麼時候 I 開始 出去 和 a 新的 問題。
完美的。 謝謝，拉斯 .
我是 去 到 走 透過 這 在 跳轉
一些 的 這 工具 我們 能 使用 到 開始 尋找 在 我們的 問題。
然後 是 去 到 覆蓋 一些 的 這 事物 那 幫助 我們 決定
哪個 的 這些 因素 是 擁有 這 最大 影響 在 出色地 生產。
我是 去 到 展示 多變的 重要性 和 然後 沙普利 價值觀
和 出色地 有 勞拉 演講 到 那 和 如何 我們 做 那。
但首先， 讓我們 去 前方 和 看 在 這 數據 裡面 a 跳轉。
喜歡 我們 提及 這裡， I 有 我的 生產 從 這些 井。
I 有 一些 地點 參數 所以 在哪裡 它 是 緯度 和 經度，
I 有 一些 地質 參數。
這 是 關於 這 岩石 形成 是 鑽孔 通過。
然後 I 有 一些 完成 參數
和 這 是 因素 那 我們 能 改變 儘管 是 鑽孔 作為 出色地，
一些 的 這些 我們可以 有 影響 在。
如果 我們 通緝 到 去 透過 和 這 數據集 僅有的 有 5,000 行。
什麼時候 說 到 拉斯 在 開始 到 準備 這 講話， 他 說 只是 去 前方
和 跑步 一些 模型 篩檢 和 看 什麼 類型 的 模型 適合 這 數據 最好的。
到 做 那， 是 去 到 去 前方 和 去 在下面 這 分析 選單，
去 到 預測 模型 和 打 模型 篩選。
我是 去 到 放 我的 回覆, 哪個 是 那 生產，
拿 全部 的 我們的 因素， 地點， 地質學 和 完成 參數，
放 那些 進入 這 X 和 抓住 我的 驗證 和 放 它 進入 驗證。
向下 這裡 我們 有 全部 排序 的 不同的 選項 在 類型 的 模型 我們 能 跑步。
我們 能 挑選 和 選擇 哪個 一 或許 製作 感覺
或者 不 製作 感覺 為了 這 類型 的 數據。
我們 能 挑選 出去 一些 不同的 造型 選項 為了 我們的 線性 模型。
甚至， 喜歡 拉斯 提及 這裡， 如果 我們 不 有 足夠的 數據
到 抓住 後退 和 做 我們的 驗證。
那 方式 我們 能 利用 a 這裡進行 k 倍交叉驗證。
現在 到 節省 一些 時間， 我已經 走了 前方 和 跑步 這 已經 所以 你 不 有
到 手錶 跳轉 創造 全部 這些 模型。
這是 這 結果。
為了 這 數據， 你 能 看
那 這些 樹 基於 方法： 增強 樹， 引導程式 小時 和 XGB 東方
全部 做過 非常 出色地 在 配件 這 數據， 比較的 到 一些 的 這 其他 技術。
我們 可以 去 透過 和 跑步 一些 的 這些，
但 為了 這 一， 我是 去 到 只是 挑選
這 增強 樹 自從 它 有 這 最好的 遙感 為什麼 和 根 平均的 方塊 錯誤
為了 這 數據集。
出色地 去 前方 和 跑步 那。
後 我們已經 跑步 這 篩檢， 是 去 到 去 前方 和 挑選 a 模型
或者 a 夫妻 的 模型 那 合身 出色地 和 只是 跑步 他們。
鋁 正確的， 所以 這是 這 全面的 合身 在 這 案件。
取決於 在 什麼 類型 的 數據 你是 尋找 在，
或許 一個 遙感 為什麼 的 .5 是 偉大的， 或許 一個 R方 的 .5 是 不是 所以 偉大的。
只是 取決於 在 什麼 類型 的 數據 你 有，
你 能 法官 如果 這 是 a 好的 足夠的 模型 或者 不是。
現在 那 I 有 這， I 想 到 回答 那 第一的 問題。
會心 a 很少 參數 去 在，
什麼 能 I 預計 我的 生產 等級 到 是？
一個 簡單的 方式 到 做 那 裡面 a 跳轉 和 任何 類型 模型 是 和 這 分析器。
好的， 所以 我們 有 這 分析器 這裡，
我們 有 全部 的 這 因素 那 是 包括 在 這 模型，
和 我們 有 什麼 我們的 預期的 12 月 生產 到 是。
這裡 I 能 調整 如果 I 知道 我的 肯定 地點。
I 知道 這 緯度 和 經度 進去
或許 I 知道 一些 的 這些 地質 參數。
I 能 或許 調整 一些 的 這些 因素
和 數位 出去 的 這 完成 參數
和 數位 出去 a 方式 到 最佳化 這。
但 I 思考 這裡 和 a 很多 的 因素， 這 能 是 複雜的。
讓我們 演講 關於 這 第二 問題，
在哪裡 我們 是 想知道 哪個 一 的 這些 因素 曾是 擁有 這 最大 影響。
你 能 看 基於 在 哪個 的 這些 線 是 奉承
或者 有 更多的 形狀 到 他們， 什麼 是 這 最大 影響。
但 讓我們 跳轉 做 那 為了 我們。
在下面 評估 多變的 重要性，
我是 去 到 只是 讓 跳轉 去 透過
和 挑選 這 因素 那 是 最多 重要的。
這裡 你 能 看 它是 概述 這 最多 重要的
向下 到 一 那 是 較少的 重要的。
I 喜歡 這 特徵 著色 這 分析器。
現在 它是 突出顯示 這 最多 重要的 因素
和 走了 向下 到 這 至少 重要的 因素。
再次， I 能 調整 這些 和 看， 哦， 它 看起來 喜歡
或許 調整 這 深度 的 這 出色地，
添加 一些 更多的 [聽不清楚 00:15:51]， 它 可能 提升 我的 生產。
那 是 這 方式 我們 可以 做 這 但 我們 有 a 新的 方式 的 尋找
在 這 影響 的 每個 一 的 這些 因素 在 a 肯定 出色地。
我們 能 發射 那 在下面 這 紅色的 三角形 在 跳轉 17 和 沙普利 值。
I 能 放 我的 選項 或者 節省 出去 這 沙普利 值。
一次 I 做 那， 它 將要 創造 新的 列 在 我的 數據 桌子
那 節省 出去 這 貢獻 從 每個 一 的 那些 因素。
這 是 在哪裡 我是 去 到 讓 勞拉 演講 到 一些 沙普利 值。
I 只是 通緝 去 到 演講 簡要地 關於 什麼 沙普利 價值觀 是
和 如何 我們 使用 他們。
沙普利 價值觀 是 a 模型 不可知論者 方法 為了 解釋 模型 預測
和 他們 是 真的 有幫助的 為了 黑色的 盒子 模型
那 是 真的 難的 到 解釋 或者 解釋。
這 方法 來 從 合作社 遊戲 理論
和 I 不 有 時間 到 演講 關於 這 背景
或者 這 數學 在後面 這 計算， 但 我們 有 a 參考
在 這 底部 的 這 滑動 和 如果 你 Google 它， 你 應該 是 有能力的 到 尋找
a 很多 的 參考 到 學習 更多的 如果 你是 有興趣的。
什麼 這些 沙普利 價值觀 做，
他們 告訴 你 如何 很多 每個 輸入 多變的
是 貢獻 到 一個 個人 預言 為了 a 模型。
那是 離開 從 這 平均的 預測 價值
穿過 這 輸入 數據集
和 你的 輸入 數據集 是 去 到 來 從 你的 訓練資料。
Shapley 值 是 添加劑，
哪個 使 他們 真的 好的 和 簡單的 到 解釋 和 理解。
每一個 預言 能 是 書面 作為 a 和 的 你的 Shapley 值
加 那 平均的 預測 價值，
哪個 我們 參考 到 作為 這 沙普利 截距 在 跳轉。
他們 能 是 計算上 密集的
到 計算 如果 你 有 a 很多 的 輸入值， 輸入變數 你的 模型
或者 如果 你是 嘗試 到 創造 Shapley 值 為了 a 很多 的 預測。
我們 嘗試 到 給 一些 選項 為了 幫助 到 減少 時間 在 JMP 中 .
這些 沙普利 價值觀， 作為 彼得 提及，
是 額外 到 這 預言 分析器 為了 相當 a 很少 的 這 模型 在 跳轉 Pro17
和 他們是 也 可用的 在 這 圖形 分析器。
他們是 可用的 為了 擬合最小值 方塊 名目邏輯，O 序數詞 後勤，
神經， 將軍，P 分區， 引導程式 森林 和 增強 樹。
他們是 也 可用的 如果 你 有 這 XB 東方 添加 -在。
除了 在 那 附加-I n， 他們是 可用的 從 這 模型 選單
和 不是 從 這 預言 分析器。
好的， 下一個 滑動。
在 這 滑動 I 想 到 只是 看 在 一些 的 這 預測 從 彼得的 模型。
這 是 從 a 模型 使用 五 輸入 變數。
這些 是 堆疊 酒吧 圖表 的 這 第一的 三 預測
未來 從 這 第一的 三 列 的 他的 數據。
在 這 左邊 你 看 a 堆疊 長條圖 的 這 沙普利 價值觀 為了 這 第一的 排。
那 第一的 預言 是 11.184 生產 桶
數十萬。
每個 顏色 在 那 酒吧 圖形 是 分裂 出去 經過 這 不同的 輸入 變數。
裡面 這 酒吧 是 這 Shapley 值。
如果 你 添加 向上 全部 的 那些 價值觀， 加 這 沙普利 截距
那 I 有 在 這 中間 的 這 圖形， 你 得到 那 預言 價值。
這 是 顯示 你 那 第一的 的 全部， 全部 的 這些 是 製作
積極的 貢獻 到 這 生產 和 他們 展示 你 如何 很多， 所以 尺寸，
I 能 看 那 經度 和 支撐劑
是 貢獻 這 最多 為了 這 特別的 預言。
然後 如果 I 看 到 這 正確的 邊 到 這 第三 預言，
哪個 是 2.916 生產 桶 和 數百 的 數千，
I 能 看 那 二 的 我的 輸入 變數
是 貢獻 積極地 到 我的 生產
和 三 的 他們 是 擁有 消極的 貢獻，
這 底部 三 這裡。
你 能 使用 圖表 喜歡 這 到 幫助 視覺化 你的 夏普利值 .
那 幫助 你 真的 理解
這些 個人 預測。
下一個 滑動。
這 是 只是 一 的 許多 類型 的 圖表
你 能 創造。
這 沙普利 價值觀 得到 已儲存 進入 你的 數據 桌子。
你 能 操縱 他們
和 創造 全部 種類 的 圖表 在 圖形 建造者 和 跳轉。
這 圖形 是 只是 a 圖形 的 全部 這 沙普利 價值觀
從 超過 5,000 列 的 這 數據 分裂 出去 經過 每個 輸入 多變的。
它只是 給出 你 一個 主意 的 這 貢獻 的 那些 變數，
兩個都 積極的 和 消極地 到 這 預測。
現在 我是 去 到 手 它 後退 超過 到 彼得。
偉大的。 謝謝， 勞拉。
I 思考 現在 出色地 去 前方 和 過渡 到 我們的 第二 案件 學習
那 佛洛里安 是 去 到 做。
應該 I 經過 這 螢幕 分享 後退 到 你？
是的， 那 會 是 偉大的。
進行轉變。
謝謝 為了 這 第一的 案件 學習 和 謝謝 為了 這 貢獻。
真的 有趣的。
我希望 我們 能 帶來 一些 光 到 a 不同的 種類 的 應用
和 我們的 第二 案件 學習。
I 有 給定 它 這 字幕， 曾是 它 扭力？
因為 那是 a 問題 出色地 有 希望 回答
經過 這 結尾 的 這 第二 案件 學習 推介會。
這 第二 案件 學習 是 關於 預測 維護
和 這 特別的 方面 的 為什麼 它 是 重要的 到 理解
你的 模型 在 這 設想。
最多 可能 每個人 能 思考 那 它是 非常 重要的
到 有 a 感覺 為了 什麼時候 機器 要求 維護。
因為 如果 機器 失敗， 那就是 a 很多 的 麻煩，
a 很多 的 成本， 什麼時候 植物 有 到 關閉 向下 和 所以 在。
它是 真的 必要的 到 做 預防性 維護
到 保持 系統 跑步。
A 主要的 任務 在 這 是 到 決定
什麼時候 這 維護 應該 是 執行
和 不是 也 早期的， 不是 也 晚的， 當然。
所以， 它是 a 任務 到 尋找 a 平衡
哪個 限制 失敗 和 也 儲存 成本 在 維護。
有 a 案件 學習 那 是 使用 到 強調 一些 函數 特徵
和 它是 實際上 a 合成的 數據 放
哪個 來 從 a 已發布 學習。
這 來源是 向下 那裡 在 這 底部。
你 能 尋找 它。
它 曾是 已發布 在 這 人工智慧 為了 產業 事件 在 2020年。
這 基本的 內容 的 這 數據集
是 那 它 有 六 不同的 特徵 的 流程 設定,
哪個 是 產品 或產品類型
哪個 表示 為了 不同的 品質 變體。
然後 我們 有 空氣 溫度，
流程 溫度， 旋轉 速度， 扭力， 和 工具磨損。
我們 有 一 主要的 回覆 和 那 是 無論 這 機器 失敗 或者 不是。
什麼時候 我們 思考 的 問題
那 我們 可以 回答 和 a 模型 或者 模型 或者 一般來說 數據。
有 一些 那 來 到 頭腦。
現在， 這 最多 明顯的 問題
是 大概 如何 我們 能 解釋 和 解釋 設定,
哪個 可能 帶領 到 機器 失敗。
這 是 某物 那[聽不清楚 00:24:38]
到 創造 和 比較 多種的 模型
和 然後 選擇 這 一 那是 最多 合適的。
現在， 在 這 特別的 環境 在哪裡 我們 想 到 預測
無論 一台機器 失敗 或者 不是。
我們 也 有 到 帳戶 為了 錯誤分類
那 是 任何一個 a 錯誤的 積極的 或者 a 錯誤的 消極的 預言。
和 JMP的 決定 臨界點 圖表
和 這 利潤 矩陣， 我們 能 實際上 指定 一個 強調
或者 重要性 到 哪個 結果 是 較少的 可取的。
為了 例子，
它 是 通常 較少的 理想的 到 實際上 有 a 失敗
什麼時候 這 模型 沒有 預測 一
比較的 到 這 對面的， 錯誤分類。
然後 除了 這 二進位 分類， 的 課程，
你會 是 也 有興趣的 在 理解 什麼 驅動器 失敗 通常。
那裡 是 當然 一些 方法 到 交易 和 這 問題。
I 思考 視覺化 是 總是 a 部分 的 它。
但 什麼時候 是 使用 模型 我們 能 考慮，
為了 例子， 這 自己 解釋 模型
喜歡 決定 樹木 或者 我們 能 使用 內建 在 功能
喜歡 這 預言 分析器 和 這 多變的 重要性 特徵。
這 最後的 觀點 這裡
什麼時候 我們 調查並評分 哪個 因素 是 最多 重要的
為了 這 預測 結果，
我們 認為 那 那裡 是 一個 潛在的 行為。
這 最多 重要的 因素 是 XYZ，
但 我們 做 不是 知道 哪個 因素 實際上
有 貢獻 到 什麼 程度 到 一個 個人 預言。
A 獲得， 沙普利 價值觀 是 a 非常 有幫助的
添加 那 能 允許 我們 到 理解 這 貢獻
為了 每個 的 這 因素 在 個人 預言。
在 一般的 等級，
現在， 讓我們 拿 a 看 進入 三 具體的 問題
和 如何 我們 能 回答 那些 和 這 軟體.
這 第一的 一 是 如何 做 我們 調整 預測 模型
和 尊重 到 這 高的 重要性 的 省略 錯誤的 消極的 預測？
這 假設 a 小的 位元 那 我們已經 已經 完畢 a 第一的 步
因為 我們已經 已經 見過 模型 篩檢 和 如何 我們 能 得到 那裡。
我是 開始 一 步 前方。
讓我們 移動 進入 跳轉 到 實際上 拿 a 看 在 這。
我們 看 這 數據集， 我們可以看到它 相當 小的，
不是 也 許多 列。
它 看起來 非常 簡單的。
我們 僅有的 有 這些 很少 預測變數 和 有 一些 更多的 列。
有 也 a 驗證 柱子 那 我已經 額外，
但 它是 不是 顯示 這裡。
作為 為了 這 第一的 問題，
讓我們 認為 我們 有 已經 完畢 這 模型 篩選。
再次， 這 是 無障礙
在 分析 預測 模型 篩檢
在哪裡 我們 不 指定 什麼 我們 想 到 預測
和 這 因素 那 我們 想 到 調查。
再次， I 有 已經 準備好 這。
我們 有 一個 結果 那 看起來 喜歡 這。
它 看起來 a 小的 位元 不同的 比 在 這 第一的 使用 案件
因為 現在 我們 有 這 二進位 結果
和 所以 我們 有 一些 不同的 措施
那 我們 能 使用 到 比較。
但 再次， 什麼是 重要的 是 那 我們 有 一個 概述
的 哪個 的 這 方法 是 表演 更好的 比 其他 個。
作為 我們 說， 在 命令 到 現在 提升
這 模型 和 強調 在 省略 這些
錯誤的 消極的 預測。
讓我們 只是 挑選 這 一 和 看 什麼 我們 能 做 這裡。
讓我們 或許 甚至 挑選 這 第一的 三 這裡，
所以 我們 能 只是 做 那 經過 保持 這 控制 鑰匙。
其他 特徵 那 將要 幫助 我們 這裡
是 稱為 決定 臨界點
和 它是 位於 在 這 紅色的 三角決策 臨界點。
這 決定 臨界點 給出 我們 一些 內容。
我們 有 這些 圖表 這裡， 這些 節目 這 實際的 數據 點。
我們 有 這 錯亂 矩陣
和 我們 有 一些 額外的 圖表 和 矩陣，
但 我們 將要 重點 在 這 上 部分 這裡。
讓我們實際上 拿 a 看 在 這 測試 部分 的 這 放。
什麼時候 我們 拿 a 看 在 這，
我們 能 看 那 我們 有 不同的 類型 的 結果。
這 預設 的 這 機率 臨界點
是 這 中間， 哪個 會 是 這裡 在 .5.
我們 有 現在 一些 選項 到 看 和 最佳化 這 模型
和 如何 有效的 它 是 和 尊重 到 這 錯亂 矩陣。
錯亂 矩陣， 我們 能 看 這 預測 價值
和 無論 那 實際上 曾是 真的 或者 不是。
如果 我們 看 在 什麼時候 o 失敗 是 預測，
我們 能 看 那 這裡， 和 這 環境，
我們 實際上 有 相當 a 高的 數位 的 失敗，
甚至 儘管 那裡 是 不 預測。
現在 我們 能 互動式地 探索 如何 調整 這 臨界點
實際上 影響 這 準確性 的 這 模型 或者 這 錯誤分類 率。
或者 在 一些 案件， 我們 能 也 放
一個 強調 在 什麼是 真的 更糟 比 一個 其他 失敗。
我們 能 做 這 和 這 所以 稱為 利潤 矩陣。
如果 我們 去 這裡， 我們 能 放 a 價值
在 哪個 的 這 錯誤分類 是 實際上 更糟 比 這 其他 一。
在 這 案件， 我們 真的 做 不是 想
到 有 a 預言 的 不 失敗
什麼時候 那裡 實際上 是 a 失敗 正在發生。
我們 會 放 某物 喜歡 20 次。
更多的 重要的是， 我們 做 不是 得到 這 錯誤分類
和 我們 放 它 和 打 好的，
和 然後 它 將要 自動地 更新 這 圖形
和 然後 我們 能 看 那 這 價值觀 為了 這 錯誤分類
有 掉落 現在 在 每個 的 這 模型
和 我們 能 使用 這 作為 一個 額外的 工具
到 選擇 a 模型 那是 或許 最多 合適的。
那是 為了 這 第一的 問題 的 如何 我們 能 調整 a 預測 模型
和 尊重 到 這 更高 重要性 的 省略 錯誤的 消極的 預測。
現在， 其他 問題 這裡 是 也 什麼時候 我們 思考 的 維護
和 在哪裡 我們 放 我們的 努力 進入 維護，
是 如何 能 我們 確認 和 交流
這 全面的 重要性 的 預測因子？
什麼 因素 是 駕駛 這 系統， 這 失敗？
讓我們 去 後退 到 這 數據 桌子 到 說 那 第一的，
I 親自 喜歡 視覺的 和 過於簡單 個。
一 的 他們 那 I 喜歡 到 使用 是 東西 喜歡 這 平行線 陰謀。
因為 它是 真的 a 好的 概述 總結
在哪裡 這 失敗 團體 以及哪個 參數 設定 和 所以 在。
在 這 造型 和 機器 學習 邊，
有 a 很少 其他 選項 那 我們 能 實際上 使用。
一 那 I 喜歡 因為 它是 非常 脆 和 清除，
是 這 預測器 篩選。
預測器 篩檢 給出 我們 非常 袖珍的 輸出
關於 什麼 是 重要的 和 它是 非常 簡單的 到 做
和 它是 在下面 分析 篩檢，
預測器 篩選。
A 二 我們 需要 到 做 是 說 什麼 我們 想 到 理解
和 然後 指定 這 參數
那 我們 想 到 使用 為了 這。
點選 好的， 和 然後 它 重新計算
和 我們 有 這 輸出。
為了 我， 它是 a 真的 好的 事物
因為正如我所說， 脆 和 清除 和 消耗。
但 我們已經 談論 關於 這 前
和 拉斯， 什麼時候 是 在職的 和 模型 特別，
做 你 有 任何 其他 建議 或者 做 你 有 任何事物 到 添加
到 我的 方法 到 理解 這 因素
的 哪個 預測變數 是 重要的。
是的， 它 是 a 好的 事物 到 嘗試。
作為 I 提及 早些時候， 你 得到 到 是 真的 小心
關於 過度擬合。
我傾向於工作 和 a 很多 的 這些 寬的 問題，
說 從 基因組學 和 其他 應用程式,
在哪裡 你 可能 甚至 有
許多 更多的 預測變數 比 你 有 觀察結果。
在 這樣的 a 案件， 如果 你 是 到 跑步 預測器 篩檢，
說 或許 挑選 這 頂部 10 最好的
和 然後 去 轉動 正確的 大約 和 合身 a 新的 模型
和 那些 10 僅有的， 你已經 實際上 只是 放 你自己 向上
為了 過度擬合 如果 你 做過 這 預測器 篩檢 在 這 全部的 數據 放。
那是 這 設想 我是 擔心的 關於。
它是 一個 簡單的 陷阱 到 落下 進入，
因為 你 思考 你是 只是 濾 事物 向下，
但 你已經 得到 到 重複使用 這 相同的 數據 兩次。
這 危險 會 是 如果 你 是 到 然後插上 申請 那 模型
到 一些 新的 數據， 它 可能 慣於 做 幾乎 作為 出色地。
如果 你是 在 這 遊戲 在哪裡 你 想 到 減少 預測因子，
I 趨向 到 喜歡 到 更喜歡 到 做 它 之內 每個 折疊 的 a K 折。
這 退稅 的 那 是 你會 得到
a 不同的 放 每一個 時間， 但 你 不能 總計的 那些 事物。
如果 你 得到 a 肯定 預測器
這只是表明 向上 始終如一 穿過 摺痕。
它是 非常 好的 證據 的那個。 那是 a 非常 重要的 一。
I 預計 那是 什麼 會 發生 在 這 案件 和， 說， 扭力。
甚至 如果 你 是 到 做 這 鍛煉，
說 10 次 和 10 不同的 褶皺， 你會 可能 得到 a 漂亮的 相似的 排行，
但 它是 更多的 的 a 微妙之處
但 再次， a 危險 那 你 有 到 手錶 出去 為了。
工作 能 製作 它 a 小的 位元 更輕鬆 只是 因為 事物 是 所以 快的 和 乾淨的，
喜歡 你 提及， 那 你 可能 落下 進入 那 陷阱 如果 你是 不是 小心。
是的， 那是 非常 有價值的 添加 到 這 方法。
只是陪伴 到 這 額外的 資訊,
有 也 這 其他 選項 那 我們 有，
特別 什麼時候 我們 有 已經
走了 透過 這 流程 的 創造 a 模型 在哪裡 我們 能 然後
實際上 再次， 使用 這 預言 分析器 和 這 多變的 重要性。
它是 其他 方式 在哪裡 我們 能 評估
哪個 的 這 變數 有 這 更高 重要性。
拉斯， 做 你 想 到 說 單字 在 那 也
在 對比 或許 到 這 預測器 篩檢？
是的。 誠實地， 沃格特， I 喜歡 這 重要性 它是一個 小的 更好的。
只是 潛水 正確的 進入 這 造型。
再次， I 會 更喜歡 和 K 折。
然後 你 能 只是 使用 這 多變的 重要性 措施，
哪個 是 常 真的 資訊豐富 直接地。
他們是 非常 相似的。 在 事實， 預測器 篩檢，
I 相信， 它是 只是 呼叫 引導程式 森林 在 這 背景
和 收集 這 最多 重要的 變數。
它是 基本上 這 相同的 事物。
然後 下列的 向上 和 這 分析器， 哪個 能 是 出色的 為了 看到 確切地
如何 肯定 變數 是 略 影響 這 回覆,
和 然後 鑽孔 那 甚至 更遠 和 沙普利
到 是 有能力的 到 休息 向下 個人 預測
進入 他們的 成分。
到 我， 它是 a 非常 引人注目 和 有趣的 方式
到 潛水 進入 a 預測 模型
和 理解 什麼是 真的 去 在 和 它，
拆包 這 黑色的 盒子
和 出租 你 看 什麼是 真的 正在發生。
是的， 謝謝。
I 思考 那是 這 所有的 觀點，
製作 它 可以理解 和 製作 它 消耗品
除了， 的 課程， 實際上 得到 到 這 結果，
哪個 是 理解 哪個 因素 是 影響 這 結果。
謝謝。
現在， I 有 一 更多的 問題， 和 你已經 已經 提及 它。
什麼時候 我們 分數 新的 數據， 在 特別的，
什麼 能 我們 做 到 確認
哪個 預測變數 有 實際上 影響 這 模型 結果？
現在， 和 什麼 我們 有 完畢 所以 遠的，
我們 有 獲得 a 好的 理解 的 這 系統 和 知道
哪個 的 這 因素 是 這 最多 主導的 和 我們 能 甚至 衍生 操作 範圍。
如果 這 系統 變化， 什麼 如果 a 不同的 因素 實際上 驅動器 a 失敗？
然後 作為 它 會 是 預期的 在 這 案件 我們已經談過了 勞拉 預先，
和 沙普利五世 價值觀 再次 是 a 偉大的 添加 那 將要 幫助 我們 到 解釋。
我們已經 見過 如何 我們 能 產生 他們，
和 你已經 學到了 在 哪個 平台 他們會 是 可用的。
現在， 這 輸出 那 你 得到 什麼時候 你 節省 Shapley 值是
為了 例子， 也 a 圖形 那 節目 我們 每 實際的 每 排。
在 這 案件，
我們 有 10,000 列 在 這 數據 選項卡，所以我們有 10,000 個堆疊長條圖，
和 然後 我們 能 已經 看 除了常見的模式之外，
有 也 次 什麼時候 有 其實還有其他影響因素
那 駕駛 這 決定 的 這 模型。
它是 真的 a 有幫助的 工具 到 不是 只提出個人預測，
但 也 添加 在 到 那 什麼 拉斯 說，
理解 的 這 系統， 哪個 因素 貢獻。
什麼時候 我們 移動 a 小的 有點
在 這 可以理解 或者 探索之路，
我們 能 使用 這些 夏普利值 在 不同的 方式。
什麼 I 親自 喜歡 是建議
到 實際上 陰謀 這 沙普利 價值 經過 他們的 實際參數設置，
因為 那 允許 我們 到 確認 區域 的 設定.
為了 例子，
如果 我們 拿 旋轉 速度 這裡， 我們 能 看 那 有 實際上
區域 的 這 範圍 那 趨向 到 貢獻 a 很多
在 條款 的 這 模型 結果， 但 也 在 條款 的 這 實際的 失敗。
那 也 幫助 使我們獲得更多的理解
和 尊重 到 這 實際的 機器故障問題及其原因，
和 也 和 尊重 到 為什麼 這 模型預測某事。
現在， 最後， I 喜歡 到 回答 這 問題。
什麼時候 我們 拿 這些 圖表 的 Shapley 值，
和 我們 有 見過 它 前 在 多次，
庫存 是 當然 a 主導的 因素。
但 從 全部 的 這些， 我已經 只是 挑選 a 很少 預測，
和 我們 能 看 那 有時 它 股票， 有時 它是 不是。
和 這 沙普利 價值觀，我們確實有一個好方法
到 口譯 a 具體的 預言 經過 這 模型。
全部 正確的， 所以 那些 是 這 事物 我們 通緝 到 展示。
I 希望 這 給出 一些 偉大的 洞察力
如何 我們 能 製作 人工智慧 模型 更多的 可解釋的，
更多的 可以理解，
更多的 簡單的 到 消化 和 到 工作 和， 因為 那是 這 意圖 這裡。
是的， ID 喜歡 到 總結 a 小的 位元.
皮特， 或許 你 想 即將到來 在 和 幫助 我 這裡。
I 思考 什麼 是 希望 到 展示 是 那
作為 這些 人工智慧 模型 變得 更多的 和 更多的 流行
和 是 依賴 之上 為了 決定 製作， 那 理解， 口譯，
和 存在 有能力的 到 交流 那些 模型 是 非常 重要的。
我們 希望 那 和 這些 沙普利 價值觀，
和 這 多變的 重要性，以及分析器，
我們已經 顯示 你 a 夫妻 的 方法 那 你可以分享這些結果
和 有 他們 容易地 可以理解。
那 曾是 這 拿- 家 在那之間 和 存在 有能力的 到 利用
模型 篩檢之類的事情，
希望如此， 你 成立 a 很少 科技
那 將要 製作 這 更多的 可以理解 和 較少的 的 a 黑色的 盒子。
是的， I 絕對地 同意。
只是 到 總結， I 真的 喜歡 到 感謝 Russ 和 Laura
為了 貢獻 這裡 和 你的 專業知識。
謝謝， 皮特。 這是 a 樂趣。
謝謝， 謝謝大家的聆聽。
是 尋找 向前 到 擁有 討論 和 問題 到 回答。
