这
最多
著名的
引用
在
全部
的
统计数据
是
乔治
盒子的
“全部 模型 是 错误的， 但 一些 是 有用。”
我已经 听到 这 引用 在 几乎 每一个 会议
我已经 曾经 到过 到， 和 因为 的 这，
到 我的 回忆， 我已经 实际上 避免 使用 这 引用 在 任何 讲话 前。
但 什么时候 I 看起来 向上
这 第一的 时间 它 曾是 曾经 放 在 打印， 它 曾是 在 a 1976 杂志
的 这 美国人 统计 协会 文章。
它是 成立 在 a 部分 称为 吝啬。
立即地 后 那 第一的 实例
的 这 引用， 他 会谈 关于 这 重要性 的 发现
这 最简单的 模型 那 描述 这 观察到 现象。
这 金额 到 发现 模型 那 提供 a 合理的 平衡
的 拟合优度 相对 模型 复杂 和 是 确切地
什么 我是 去 到 是 说 关于 今天 在 这 推介会。
跳转 和 跳转 专业版 提供 a 很多 的 不同的 造型 能力，
每个 和 a 很多 的 输出 有关的 到 选择 a 模型。
今天 我是 去 到 去 进入 一些 细节 进入 一些 的 这 最多 重要的 的 这些，
突出显示 他们的 动机 和 这 假设 在后面 他们。
A 很多 的 这 讨论 将要 是 关于 这 人工智能 和 BIC模型 选择 标准，
哪个 是 直接的 和 非常 数据- 高效的 工具 为了 寻址 这 问题。
盒子 有 在 头脑 和 他的 引用，
哪个 是 如何 到 寻找 a 有用 模型 从 a 放 的 有缺陷 或者 错误的 个。
作为 I 曾是 放置 这 推介会 一起，
I 去了 通过 这 衍生词 的 这 AIC 和 这 比克。
I 通缉 到 得到 a 清除 理解
的 什么 这些 相似的- 寻找 方法 真的 是 和 什么 假设 他们 制成。
然后， 出去 的 好奇心，
I 做过 一个 互联网 搜索 的 AIC 相对 BIC 与 交叉验证。
它 曾是 有趣的 到 看 在 全部 这些 互联网 表格 那 那里 是 仍然
所以 很多 辩论， 甚至 尽管 这些 方法 有 到过 大约 为了 50 年。
拥有 最近 已审核 这 衍生词 的 这 方法，
它 看起来 喜欢 那里 是 仍然 a 很多 的 误解 出去 那里。
I 思考 这 原因 为了 这 是 那 两个都 模型 选择 标准
有 非常 深的 和 技术的 衍生词
尽管 这 简单 的 他们的 公式， 两个都 的 他们 是 平等的 到 减 二 次
这 对数似然 的 这 已安装 模型，
加 a 简单的 惩罚 基于 在 这 数字 的 模型 参数。
你 不能 猜测 这 原因
为了 这 惩罚 条款 从 这 公式 独自的，
哪个 使 他们 似乎 神秘 和 随意的。
一 的 我的 目标 今天 是 到 尝试
到 揭开神秘面纱 这些 没有 去 落水 在 这 数学。
到 放 这 全部 在 这 语境 的 一个 分析 工作流程，
我们 能 思考 的 一个 分析 项目 作为 拥有 四 主要的 步骤。
我们 第一的 有 到 获得 这 数据， 得到 它 有组织的 和 已清理 向上。
然后 我们 合身 一些 模型 到 它 在 a 方式
那 是 任何一个 手动的 或者 自动化 经过 软件 喜欢 跳转 或者 跳转 赞成。
一次 我们已经 完毕 那， 然后 我们 需要 到 选择 一 的 他们
作为 这 模型 那 是 去 到 工作 和 移动 向前。
这 是 a 批判的 步 在 这 过程 那 出色地 是 聚焦 在 今天。
它是 重要的 那 我们 得到 这 模型 选择 正确的
因为 这 质量 的 这 结果 和 这 结论 我们 制作
在 这 结尾 需要 那 我们 有 a 合理地 好的 模型。
这里 是 这 主要的 方法 那 我已经 见过 人们 制作 决策 关于 模型。
假设 测试 是 大概 这 第一的 一 人们 学习 关于。
这些 是 最多 通常 用过的 到 决定 如果 a 回归 系数
是 统计上 显著地 不同的 从 零，
哪个 声音 喜欢 a 模型 选择 问题。
尽管 他们 是 经常 用过的 在 那 方式，
假设 测试 是 衍生的 在下面 a 具体的 放 的 假设
那 明确地 做 不是 帐户 为了 拥有 改变 这 模型
或者 拥有 用过的 a 模型 那 曾是 选择 作为 这 最好的
其中 一些 替代品。
然后 我们 有 这 一般的 经验 程序 那 评估 模型 基于
在 数据 握住 出去 从 这 模型 配件 过程。
这些 技术 能 是 应用 到 两个都 古典 统计 模型
作为 出色地 作为 机器 学习 模型。
在 我的 观点， 坚持 验证， 在 特别的， 是 这 方式 到 去
如果 你 有 a 所有的 很多 的 数据。
然后 我们 有 什么 全部 称为 这 小的 数据 分析 程序。
这些 是 衍生的 为了 情况 什么时候 你 有 到 制作 a 决定
关于 哪个 模型 到 使用， 但 你 不 有 足够的 数据
到 抓住 出去 任何 观察结果。
这 最多 通常 用过的 的 这些 是 这 AIC 和 这 比克。
但 那里 是 其他 出色地- 已知 技术
喜欢 广义C 交叉验证 和 锦葵属C 页。
它 转弯 出去 那 这些 二 是 实际上 渐近地 相等的
到 这 AIC， 所以 在 大的 样品 你 应该 得到 这 相同的 结论 从 重型商用车，
锦葵 CP， 和 这 AIC， 在 特别的， 为了 在 至少 正方形- 基于 模型。
然后 我们 还 有 什么 患病的 称呼 模型- 具体的 方法 喜欢 贵宾
和 部分 正方形 模型 和 这 立方体 聚类 标准
在聚类中 模型。
这些 是 漂亮的 利基 和 I 惯于 是 说 关于 他们 任何 更多的 这里 今天。
然后 我们 还 有 视觉的 工具 喜欢 实际由 预测 情节
和 鹏 曲線。
不管 的 如何 你 选择 你的 模型，
这些 情节 是 好的 到 拿 a 看 在 前 移动 向前 和 a 模型
因为 他们 提供 更多的 有趣的 信息
比 任何 个人 统计 将要 和 能 告诉 我们 如果 这 最好的 模型
那 我们已经 经过考虑的 所以 远的 是 仍然 a 好的 足够的 模型 为了 我们 到 使用。
我的 自己的 第一的 遇到 和 模型 选择 标准 在 我的 专业的 生活
曾是 后退 在 这 中- 2000年， 大约 什么时候 JMP 5 和 跳转 6 是 出去。
跳转 有 额外 这 能力 到 提供 能力 分析
为了 非 普通的 分布。
能力 分析 是 a 非常 重要的 工具
为了 评估 无论 a 制造业 过程 是 " 有能力的”
的 交付 产品 那 是 之内 规格。
跳转 用户 通缉 到 决定 这 ” 最好的 分配” 为了 这 数据
所以 他们的 过程 能力 指标 会 最好的 反映 这 现实
的 他们的 情况。
跳转 顾客 理解 那 你 可以 合身 不同的 分布 和 跳转
和 知道 那 许多 的 这 分布 来了 和 a 拟合优度 测试 在 a 案件
的 拥有 a 锤 导致 你 到 寻找 指甲 到处。
他们 是 尝试 全部 这 分布 他们 可以 寻找 和 是 选择 这 一
和 这 最大的 p 值 作为 这 分配
为了 他们的 能力 分析。
他们 通缉 我们 到 编纂 这 进入 a 新的 合身 全部 分布 特征
那 会 自动化 这 过程 为了 他们。
但 我们 是 相当 不舒服 和 这 要求 为了 a 数字 的 原因。
为了 一 事物， 这 不同的 分布 适应 跳转
来了 和 不同的 种类 的 拟合优度 測試。
这 普通的 有 a 夏皮罗 威尔克 测试。
这 威布尔 有 a 克拉默-冯·米塞斯 测试， 和 这 对数正态分布 有 a 柯尔莫哥洛夫 测试。
它是 非常 奇怪的 到 比较 测试
那 是 相当 不同的 从 一 其他。
其他 问题 和 这 方法 是 那 分布 和 更多的 参数
是 去 到 趋向 到 有 一个 边缘 在 那些 和 更少。
如果 我们 选择 这 分配 基于 在 这 最大的 p值，
它 将要 总是 青睐 分布
和 更多的 参数 作为 我们 看 这里 和 这 二- 范围 普通的 比较的
和 这 四 范围 约翰逊 是 分配。
然后 为了 一些 的 这 分布
喜欢 这 威布尔 克莱默 从 投注 W 测试，
我们 仅有的 有 桌子 价值观 的 p 值 去 向上 到 某物 喜欢 P 等于 25.
但 甚至 如果 我们 合并 全部 这 拟合优度 测试 向下
到 只是 一 和 得到 准确的 p 值 为了 全部 的 他们，
有 仍然 a 更大 哲学的 问题 在 赌注 和 那是 那 假设 测试
喜欢 这些 能 仅有的 量化 证据 反对 这 无效的 假设。
如果 这 无效的 假设 是 真的，
然后 这 p 值 是 a 统一地 分布式 随机的 多变的。
在 其他 字， 如果 这 无效的 假设 是 真的，
然后 这 可能性 那 这 p 值 是 之间 0.1 和 0.2 是 确切地
这 相同的 作为 这 可能性 那 它 是 之间 0.8 和 0.9。
S eeing a p 值 的 0.9 不是 更多的 证据 那 这 假设
是 真的 比 a p 值 的 0.3。
返回 到 我们的 例子， 因为 全部 四 的 这些 分布
有 善良- 的- 合身 p 值 更大 比 0.05。
通过 这 镜片， 全部 四 分布
合身 这 数据 合理地 出色地， 甚至 尽管 这 拟合优度 测试 说
全部 这 分布 是 好的， 这 结论 关于 这 过程
生成 这 数据 是 不同的 取决于 在 这 分配。
如果 你 使用 a 顶峰 参考 价值 的 1.33
到 决定 如果 这 过程 是 有能力的， 然后 选择 这 可行的 表示
那 这 过程 是 不是 足够 有能力的 到 见面 这 规格，
然而 这 其他 分布 表明 那 这 过程 是 有能力的。
我们 认出 那 那里 有 到 是 a 更好的 方式 到 决定
这 分配 自动地 和 来了 到 这 结论
那 这 应该 是 见过 作为 a 非常 基本的 种类 的 模型 选择 问题。
在 我们的 搜索 为了 a 声音 方法 为了 选择 a 分配，
我们 跌倒了 之上 这 非常 好的 书 在 模型 选择 经过 伯纳姆 和 安德森。
他们 给 小心 衍生词 的 这 AIC 从 这 观点
的 信息， 理论， 和 交叉验证。
他们 还 给 a 推导 的 这 比克 进入 如何 这 AIC 能 是 衍生的
在 这 相同的 方式 和 a 不同的 假设 关于 这 事先的 分配。
伯纳姆 和 安德森 还 小心 展示
假设 测试 是 相当 不连贯 作为 a 模型 选择 战略。
这 书 有 a 漂亮的 大的 影响 在 我的 自己的 视图 的 造型
和 还 在 跳转 统计 造型 平台。
返回 到 这 分配 选择 问题 为了 这 片刻，
什么时候 我们 去了 前方 和 额外 a 分配 选择器，
我们 结束 向上 呼叫 它 合身 全部 和 我们 根据 它 在 这 AICc。
这里 在 这 左边，
我们 有 二 分布 的 这 能力 分析 数据
我们 是 寻找 在 前， 这 普通的 和 这 约翰逊 是的。
这 约翰逊 苏氏 拟合优度 p 值 是 更大 比 这 正常的 因为 它 有
二 更多的 参数 比 这 普通的 分配。
现在 在 这 正确的，
我们 看 这 结果 的 a 合身 全部 使用 这 AICc。
这 普通的 来 出去 作为 这 最好的- 配件 分配，
但 这 苏约翰逊 是 靠近 这 底部。
这 是 因为 这 人工智能 是 惩罚 它 为了 拥有 这些 二 额外的 参数。
这 特征 有 现在 到过 用过的 许多， 许多 次
和 I 相信 人们 是 一般来说 漂亮的 快乐的 和 它。
现在 我是 去 到 去 通过
a 有些 数学 但 希望 无障碍 解释
的 什么 这 人工智能 真的 是。
全部 正确的。
现在 我是 去 到 去 进入 一些 基本的 理论 在后面 这 AIC。
患病的 是 作为 简短的 作为 可能的 和 使用 这 最好的 类比 作为 I 能，
但 I 思考 它 是 重要的 到 是 裸露 到 这 潜在的 概念 所以 你 能 看
那 这 AIC 有 a 严格的 基础 那 有 一些 感觉 到 它。
这 AIC- 类型 选择 标准 是 基于 在 a 距离- 类型 公制
之间 可能性 分布 称为 这 库尔巴克- 莱布勒 或者 氯 分歧。
它 量化 这 数量
的 信息 丢失的 经过 使用 可能性 分配 二
一 可能性 分配 一 是 这 正确的 一。
氯 分歧 有 这 财产 的 总是 存在 更大 比 或者 平等的 到 零
和 是 仅有的 平等的 到 零 什么时候 这 二 可能性 分布
是 这 相同的。
这 是 到 说 那 使用 这 错误的 分配 总是 线索
到 a 理论上 可量化的， 严格 积极的 信息 损失。
这 是 漂亮的 令人陶醉 抽象的 东西，
所以 我是 去 到 翻译 它 进入 这 语言 的 统计 造型。
什么时候 我们 是 使用 数据 在 统计数据 到 学习 关于 如何 某物 作品，
我们 是 明确地 或者 隐含地 配件 可能性 模型 到 这 数据
到 近似 这 真的 模型 那 生成 它。
如果 我们 知道 这 真的 可能性 生成 机制， 我们 可以 使用 这 氯 分歧
到 量化 如何 远的 或者 如何 错误的 这 模型 是 从 这 真相。
我们 可以 然后 尝试 一些 模型 和 寻找 这 一 那 是 这 最近
到 这 真相。
Akaike 认可 这 和 插上 这 真的
和 这 模型 可能性 公式 进入 这 氯 分歧 公式
和 用过的 a 小的 代数 到 看 那 这 氯 分歧 有 二 條款。
这 第一的 学期 仅有的 包含 这 真的 可能性- 生成 机制
为了 这 数据， 哪个 我们 能 绝不 知道 自从 我们 能 仅有的 工作 和 模型。
然而， 这 是 a 持续的 那 是 这 相同的 为了 全部 模型
那 你 合身 到 这 数据
作为 长的 作为 我们 玩 经过 a 夫妻 简单的 规则。
这 第二 学期 是 什么 Akaike 发现 是 经验上 可估计 和 和 a 很多
的 数学， 他 成立 a 简单的 公式 到 估计 这 第二 学期。
在 特别的，
他 发现 那 二 次 这 氯 分歧 是 平等的 到 a 持续的
那 是 这 相同的 为了 全部 模型， 加 二 次 这 消极的 对数似然
的 这 数据 用过的 到 合身 这 模型， 加 二 次 这 数字 的 参数。
一切 有 到过 乘以 经过 a 因素 的 二 只是 到 跟随 这 相同的 习俗
作为 a 可能性 比率 测试， 自从 这 持续的 学期 是 这 相同的
为了 全部 模型 作为 长的 作为 我们 不 改变
这 回复 数据， 我们 能 合身 一些 模型，
和 这 一 谁 AIC 是 这 最小 是 这 一 那 是 估计的
到 有 这 最小的K L 分歧 从 这 真相 和 在 a 感觉 是 这 一
那 是 这 至少 错误的。
使用 这 AIC 为了 模型 选择 是 完全 类似的 到 那里 存在
a 收藏 的 岛屿 和 你 想 到 知道 哪个 的 这 岛屿 你 知道 的
是 最近 到 其他 岛 那 你 知道 你会 绝不 是 有能力的
到 得到 到。
这 直接的 解决方案 到 这 问题 会 是 到 计算 这 距离
从 每个 的 这 岛屿 到 这 一 那 我们 想 到 得到 关闭 到。
现在， 什么 如果 这 岛 我们 通缉 到 得到 关闭 到 曾是 被包围
经过 a 圆 高的 栅栏 那 我们 可以 方法？
这 岛 是 完美 在 这 中间 的 这 栅栏，
所以 这 距离 从 这 中心 的 这 岛 到 这 栅栏
是 总是 这 相同的。
但 这 栅栏 曾是 远的 足够的 离开 从 这 岛 那 它 封闭式
那 我们 不能 看 它 或者 措施 这 距离
从 这 栅栏 到 这 内部的 岛。
我们 能 仍然 估计 这 距离 从 每个 岛 到 这 栅栏。
因为 这 主要的 岛 是 在 这 中心 的 这 栅栏，
我们 知道 那 这 岛 最近 到 这 栅栏 是 这 最近 岛。
这 是 确切地 这 情况 和 这 AIC。
和 这 AIC， 我们 能 估计 这 距离 从 这 真相 到 每个 的 这 模型。
每个 AIC 估计 是 离开 经过 这 相同的 数量。
尽管 我们 不能 估计 这 绝对 距离 的 这 模型
从 这 真相， 我们 能 知道 哪个 模型 是 这 最近
在 a 相对的 感觉。
这 原来的 AIC 是 基于
在 这 可能性 的 这 训练 数据 加 a 范围 惩罚。
这 训练 可能性 评估 这 善良 合身 的 这 模型。
我们 不能 使用 这 学期 经过 本身 尽管， 因为 它 是 有偏见 向下
作为 这 模型 参数 是 选择 到 最小化
这 消极的 对数似然。
和 a 很多 的 数学， Akaike 衍生的 a 非常 简单的 表达
那 纠正 为了 这 偏见。
这 原来的 惩罚 是 只是 2 K
在哪里 K是 这 全部的 数字 的 估计的 参数。
为了 线性 回归 和 a 坡
和 一个 截距， 我们 还 有 到 数数 这 方差。
为了 那 案件 你 会 有 K 等于 三 和 不是 二。
那里 是 重要的 假设 那 引领 到 2 K 惩罚。
我们 能 表征 他们 松散地 那 这 模型 有 到 是 合理地 好的。
这 AIC 是 仍然 去 到 是 强壮的 然而， 因为 如果 a 模型 是 坏的，
然后 这 可能性 成分 将要 是 大的 和 将要 支配
这 惩罚 其中 这 好的 模型。
这 2K 学期 将要 青睐 这 更小 模型 作为 长的
作为 这 样本 尺寸 是 大的。
然而， 它 没有 拿 长的 为了 人们 到 寻找 那 这 原来的 AIC
经常 节目 模型 那 过度拟合 在 小的 样品，
所以 a 更多的 准确的， 更高- 命令 近似 到 这 偏见 曾是 衍生的。
什么时候 这 额外的 学期 是 额外，
这 标准 变成 已知 作为 这 人工智能 或者 这 已更正 AIC。
很遗憾， 这 名声 那 这 AIC 过度拟合
有 变得 平凡 前 这 更正 曾是 发现
和 广泛 已知 关于。
这 更正 变成 无限 作为 K 接近 N
推动 这 模型 选择 标准 离开 从 模型 那 是 几乎 饱和。
注意 还 那 这 更正 学期 去 到 零 作为 N 去 到 无穷大。
在 大的 样品 这 AIC 和 人工智能 是 相等的。
这 人工智能 是 什么 我们 已报道 在 王牌 因为 它 作品 出色地 为了 小的 样品
和 虽然 它 曾是 衍生的 为了 高斯 分布，
经验 建议 那 它是 好的 足够的 和 其他 通常 用过的 分布。
现在 我是 去 到 阐明 这 人工智能
在 a 真实的 例子 那 曾是 a 五- 因素 中央 合成的 设计 和 31 跑步，
和 这 回复 曾是 这 数量 的 p 脱氧核糖核酸 制作 经过 a 生物反应器。
患病的 阐明 这 人工智能 使用 这 广义的 回归 平台，
给予 它 a 满的 回复 表面 模型
和 全部 主要的 效果 相互作用 和 第二- 命令 條款。
I 合身 四 模型 到 这 数据。
一 是 a 满的 回复 表面 模型 使用 至少 正方形 那 曾是 合身 自动地。
然后 I 使用 向前 选择
在下面 这 普通的， 对数正态， 和 指数 分布。
I 选择 这 指数 分配 到 阐明 贫穷的 模型 合身。
这 模型 有 2 2, 9, 9, 和 1 参数 分别，
和 这 模型 和 这 最低 人工智能 曾是 这 对数N 正常 和 一个 人工智能
的 关于 334.8.
我们 能 休息 这 AIC 和 人工智能 计算
向下 到 看 如何 不同的 部分 的 这 惩罚 是 贡献。
这 满的 至少 正方形 模型
有 这 最低 可能性， 但 这 最高 人工智能 全面的。
什么时候 我们 看 在 这 第二- 命令 修正 和 这 原来的 AIC 价值观，
我们 看 那 它是 这 第二 命令 更正 学期 那 是 推动
这 模型 选择 标准 到 是 非常 大的 为了 这 模型。
这 对数N 正常 向前 选择 日志 可能性 是 a 小的 降低
比 这 普通的 向前 选择 一。
他们 两个都 有 九 参数， 所以 他们的 处罚 是 这 相同的
和 这 对数N 正常 向前 选择 模型 有 这 降低 AICc。
这 指数 向前 选择 模型 有 这 最贫穷 模型 合身 作为 测量
经过 这 对数似然， 但 还 仅有的 有 一 范围
在 这 模型。
全面的 它 有 这 最小 惩罚 贡献 到 这 AICc。
但 这 贫穷的 合身 的 这 模型 是 这样的 那 这 可能性 占主导地位
和 这 指数 模型 是 这 第二 从 这 最差 作为 测量 经过 这 AICc。
如果 你 审查 这 一般的 推导
的 这 AIC 在 这 伯纳姆 和 安德森 书，
你会 看 那 什么 它是 实际上 估计的 是 这 预期的 价值
的 a 假想 测试 放 可能性 为了 a 数据 放 那 有 这 相同的 尺寸
和 回复 结构， 但 不是 价值观 作为 这 训练 放。
这 预期的 价值观 还 拿 进入 考虑 这 变异性
在 这 估计 的 这 最大似然比。
I 寻找 这 交叉验证 解释 的 这 AIC
到 是 漂亮的 引人注目。
I 思考 它是 还 重要的 到 观点 出去 那 这 交叉验证 推导
的 这 AIC 做 不是 认为 在 全部 那 我们 有 这 正确的 模型。
到 展示 那 这 交叉验证 解释 真的 作品，
I 创建 a 模拟 公式 使用 一个 平均的 的 这 模型 我已经 显示
在 这 以前的 幻灯片 作为 出色地 作为 一些 其他 个。
这 方式 我们 知道 那 没有任何 的 这 模型 是 实际上 这 正确的 一。
I 合身 每个 的 这 四 模型 到 新的 训练 数据 a 千 次
和 放 它 向上 所以 那 工作 会 报告 一个 独立的 坚持 可能性
使用 其他 新的 数据 放。
I 保留 每个 的 这 四 模型 结构
和 分布 完好无损的 和 做过 不是 申请 多变的 选择。
这 曾是 到 完美 模仿 这 精确的 交叉验证 解释
的 这 AIC。
从 那里， I 创建 a 桌子 的 模拟
坚持 可能性 和 计算 他们的 平均的 为了 每个 的 这 四 模型。
这 是 这 AIC 和 人工智能 概括 桌子 从 前，
和 这 模拟- 基于 平均的 坚持 对数似然
额外 超过 这里 到 这 正确的， 你 能 看 那 这 满的 普通的 模型
坚持 可能性 是 非常 关闭 到 它是 人工智能 价值
和 那 这 第二- 命令 更正 学期 曾是 基本的 为了 这 匹配 到 发生。
在 这 其他 手，
你 看 那 这 模拟 平均的 指数 坚持 对数似然
是 还 非常 关闭 到 这 AICc。
两个都 这 普通的 和 对数N 正常 坚持 可能性 是 关闭
到 这 原来的 日志 普通的 模型 A 国际刑事法院。
这 普通的 坚持 可能性 是 a 小的 更小。
I 属性 这 到 平均 a 束 的 模拟 模型，
制作 这 模拟 数据 a 小的 少量 更多的 通常情况下 分布式
比 这 原来的 数据 曾是。
那里 是 a 夫妻 简单的 规则 那 是 需要 到 制作 人工智能 比较
真的 有效的 之间 不同的 模型。
这 最多 重要的 是 那 这 随机 部分 的 这 数据
有 到 停留 这 相同的， 这 相同的 行 有 到 是 用过的
和 它 是 这 Y 的 在 特别的 那 必须 是 这 相同的。
这 X的 能 是 不同的， 的 课程， 甚至 如果 他们 是 起初 随机的，
不是 仅有的 必须 这 Y 的 是 这 相同的， 但 他们 不能 是 改变 或者 變成。
这 转换 会 有 到 是 建造 进入 这 模型 适当地。
这 AIC 是 还 仅有的 定义
为了 行为良好 最大限度 可能性 估计量
和 其他 密切 有关的 方法。
这 解释 为什么 你 不 看 人工智能
为了 神经 网络 和 其他 机器 学习 模型。
还， 你 有 到 保持 在 头脑 那 只是 因为 你 成立 a 模型 那 这 人工智能
说 是 这 最好的， 它 没有 意思是 那 它 是 a 好的 模型。
使用 你的 过去的 经验 和 模型 诊断 情节 到 确保
那 这 模型 是 正确的 足够的 到 是 有用。
返回 到 这 质粒DNA 数据， 我们 看 二 相等的 模型。
在 这 顶部， 我们 有 a 对数N 正常 模型
和 在 这 底部 我们 有 a 普通的 合身 到 这 日志- 转型 回复。
你 能 看 那 这 广义的 遥感 正方形
是 这 相同的 为了 这些 二 模型， 但 这 人工智能 是 非常 不同的。
这 是 因为 这 对数N 正常 合身
隐含地 构建 这 转换 进入 这 可能性。
但 这 日志 规模 普通的 合身 做 不是。
在 这 案件， 这 正确的 事物 到 使用 是 这 对数N 正常的。
这是 a 快的 示范 那 你 有 到 决定 这 分配
和 这 输入 变量 在 这 相同的 时间。
这里 是 模拟 数据 从 a 特 东方 类型 模型
二 组 的 通常情况下 分布式 数据 和 这 相同的 方差，
但 不同的 方法。
如果 你 合身 全部 在 这 分配 平台，
它 选择 这 普通的 二 混合物 和 一个 人工智能 的 1036.
这 是 这 正确的 分配
如果 你 不 知道 这 团体 身份 的 这 行。
一次 你 包括 这 分组 多变的 尽管，
你 看 那 这 普通的 来 出去 在 顶部 的 一个 人工智能 的 717 或者 所以。
我们 还 尝试过 这 威布尔 对数正态
和 伽马 和 这 普通的 仍然 来了 出去 在 顶部， 甚至 尽管 那些 分布
做过 更好的 在 分配 没有 包括 这 分组 多变的。
你会 有 到 尝试 不同的 模型 结构
和 分布 一起 到 寻找 这 正确的 组合。
现在 我是 去 到 改变 齿轮 和 讲话 a 小的 少量 关于 这 BIC，
哪个 是 这 其他 主要的 分析 模型 选择 标准 和 跳转。
这 BIC 是 有动力 在 a 完全地 不同的 方式
比 这 AIC。
施瓦茨 用过的 a 大的 样本 争论 在 a 贝叶斯 语境 到 近似
这 日志 可能性 的 这 数据 后 拥有 融合的 这 模型 出去，
假设 a 平坦的 事先的 在 这 参数， 一个 表达 相似的 到 这 AIC 爆米花 出去
和 a K 日志 在 类型 惩罚 学期 相当 比 二 次 k.
那里 是 还 其他 条款 在 这 不可缺少的 那 是 总是 忽略。
一 是 K 日志 2 π， 哪个 曾是 经过考虑的 也 小的
到 交易 和 和 这 其他 一
是 a 规范化 方差 的 这 最大似然估计， 哪个 会 还 是 的 订单 K。
I 没有 学习 这 AIC 或者 BIC 进入 任何 深度 在 学校。
I 只是 记住 听力 这 避免 AIC 过度拟合，
BIC 旗下 适合 一些 次 在 不同的 课程，
哪个 I 解释 作为 a 强的 怀疑论 关于 两个都 的 他们。
比较 这 人工智能 和 BIC罚款， 我们 看 那 这 人工智能 将要 防止
大的 模型 从 存在 选择 什么时候 这 样本 尺寸 是 小的，
然而 这 比克 将要 仍然 允许 大的 模型。
I 看 这 K 日志 和 正常化 持续的 惩罚 在 这 BIC 作为 有些
较少的 引人注目 比 这 交叉验证 解释 的 这 AIC- 类型 处罚。
某物 那 线索
到 a 边缘 可能性 的 这 数据 是 更多的 抽象的 到 我 比 某物
那 是 直接地 可解释的 作为 a 交叉验证 公制
服用 进入 帐户 范围 不确定。
我是 完全 意识到的
那 我是 社论 这里， 但 这 是 什么是 工作 出色地
为了 我 所以 远的。
返回 到 这 p 脱氧核糖核酸 美国能源部 一 更多的 时间。
这里 是 这 相同的 模型 合身 在 这 质粒DNA 例子
使用 这 BIC 第一 选择 在 顶部 和 这 人工智能 在 这 底部。
注意 那 这 BIC 这 满的 普通的 模型
是 不是 作为 远的 离开 从 这 其他 模型 作为 和 这 AICc。
这 最好的 模型 全面的 作为 额定 经过 这 比克 是 a 对数正态，
但 和 十三 参数 这 时间 大约 相当 比 九。
这 向前 已选择 BIC 正常 模型 还 有 a 夫妻 更多的 参数。
在 小的 样品， 相反 到 这 AIC 过度拟合，
BIC 旗下 适合， 这 人工智能 能 选择 更小 模型 比 这 比克 在 小的 样品。
这里 我们 看 这 效果 选择 经过 这 BIC 和 这 AICc。
这 放 的 BIC 精选 效果 是 a 超集 的 这 一 选择
经过 这 AICc。
A 伊索 注意， 有趣的是， 那 全部 四 效果 不是 选择
经过 这 人工智能 是 统计上 在 BIC 下具有重要意义。
在下面 这 BIC， 这 pH平方 学期 是 高度 重要的，
但 它 不是 展示 在 这 人工智能 模型， 为了 例子。
I 会 说 那 全部 这 重要的 效果
应该 有 星号 经过 他们，
但 全部 重要的 p 值 有 星号 经过 他们 和 J 议员 報告。
反而， 患病的 只是 说 那 I 拿 p 值 的 效果
后 选择 和 a 粮食 的 盐。
虽然 这 二 模型 选择 不同的 效果，
一些 的 他们 高度 统计上 重要的 在 这 模型。
如果 我们 看 在 这 轮廓
或者 多变的 重要性 从 这些 二 模型，
他们 告诉 a 非常 相似的 故事。
喂养 速度 是 经过 远的 这 最多 重要的
和 后 那 这 订购 是 这 相同的 之间 这 二 模型。
仅pH值 影响 3% 的 这 变化 在 这 回复 表面 在下面 这 比克
最好的 模型 和 不是 包括 在 全部 在 这 人工智能 最好的 模型。
这 是 a 非常 清除 例子
的 统计 意义 和 实际的 关联
存在 二 不同的 事物。
那里 是 a 很多 的 意见 出去 那里 关于 这 人工智能 和 这 比克。
为了 例子， 伯纳姆 和 安德森
说 那 两个都 方法 是 持续的 为了 这 几乎- 真的 模型 作为 N 去
到 无穷大。
但 然后 有 其他的 那 说
那 这 BIC 是 这 仅有的 一 持续的 为了 这 真相。
伯纳姆 和 安德森 说 那 你 能 放 向上 模拟 到 制作 一 看 好的，
改变 这 方式 它是 放 向上 a 小的 少量 和 它会 翻动 这 结果。
伯纳姆 和 安德森，
WHO 是 关于 这 最多 顽固 人工智能 粉丝 出去 那里 在 他们的 模拟，
成立 那 这 人工智能 选择 更少 真的 坏的 模型 比 这 比克。
I 思考 它是 不是 a 坏的 主意 到 看 在 两个都 BIC 和 人工智能
后 申请 多变的 选择。
如果 这 最好的 模型 在下面 两个都 是 漂亮的 很多 这 相同的， 哪个 是 经常 这 案件，
你 能 感觉 漂亮的 好的 关于 任何一个 的 他们， 如果 他们是 不同的
它是 好的 到 思考 关于 这 原因 为什么 和 使用 你的 主题 事情 专业知识
到 帮助 制作 a 决定。
我的 最后的 话题 是 模型 选择 标准 和 线性 混合 模型。
这 是 a 漂亮的 复杂的 情况， 尤其 因为 那里 不是 共识
之间 软件 供应商 在 如何 到 计算 这 模型 选择 标准。
到 阐明 这， I 创建 a 分裂 阴谋 设计 和 四 因素。
那里 是 二 所有的 阴谋 效果 和 二 分裂 阴谋 效果。
如果 你 拿 这 相同的 数据 和 合身 这 相同的 模型 在 跳转 专业版
和 SAS 使用 合身 混合 和 过程 混合，
你 将要 看 那 这 可能性 和 模型 选择 标准 不 匹配，
但 这 方差 估计 做， 你 得到 不同的 固定的 效果
范围 估计， 但 这 固定的 效果 测试 同意。
一 的 这 原因 为了 这 是 那 跳转 和 SAS 固定的 效果 设计 矩阵
使用 a 不同的 编码 战略 为了 分类 效果。
在 这 左边 I 有 这 跳转 设计 矩阵 为了 这 分裂 阴谋 例子，
和 在 这 正确的 你 看 这 SAS 一。
跳转 创建 a 排 的 减 一
为了 这 最后的 等级 的 分类 效果 哪个 是 见过 在 蓝色的 这里
然而 SAS 创建 a 排 的 零。
两者都不 一 的 这些 是 正确的 或者 错误的。
它是 喜欢 改变 单位 或者 改变 协调 系統。
跳转 分类 效果 和 到 零， 然而 SAS 分类 效果
能 是 解释 作为 差异 从 这 最后的 等级。
虽然 这 生的 范围 估计 不同，
预测 将要 是 这 相同的 之间 这 二 编码 因为 这 模型
是 从根本上来说 相等的。
最多 事物 那 事情
惯于 是 不同的 之间 这 二 软件 产品。
然而， REML， 方法 用过的 到 估计 混合 效果 模型
有 一个 歧义 在 它。
这 根据 高斯 可能性 在 这 顶部
将要 是 这 相同的 在 任何一个 软件 因为 它是 a 真实的 可能性。
但 这 雷米勒 或者 残差 可能性 已报道 经过 过程 混合
和 跳转 专业人士 合身 混合 不是 a 真实的 可能性。
如果 它 曾是 a 真实的 可能性， 然后 我们 会 得到 这 相同的 价值观
不管 的 哪个 编码 或者 软件 我们 用过的。
这 是 因为 有 一个 额外的 惩罚 额外 到 这 高斯 可能性
为了 雷米勒 那 减少 这 偏见 的 这 方差 估计。
但 这 取决于 在 这 设计 矩阵
在 a 方式 那 是 敏感的 到 这 编码 用过的。
跳转 报告， 这 生的 高斯 可能性， 和 这 人工智能 和 BIC 它 报告
是 基于 在 那 相当 比 这 残差 可能性。
这 数字 的 参数 合身 混合 计数
是 这 全部的 包括 两个都 固定的 效果 和 方差 参数。
我们 做过 它 这 方式 到 制作 它 所以 那 你 能 使用 跳转 到 比较 模型
和 不同的 固定的- 影响 结构 作为 出色地 作为 方差 模型。
在 SAS， 他们 仅有的 报告 这 残差 或 REML 对数似然
和 它 报告 模型 选择 标准 基于 在 它。
你 能 看 这里 那 它 还 仅有的 计数 方差 参数 作为 出色地
因为 这 不同之处 之间 这 SAS 可能性
和 它是 AIC 是 为了 暗示 二 参数，
a 方差 成分 和 a 残差。
全部 这 方法 是 那
你 能 仅有的 使用 p 鹏 混合 为了 比较 方差 模型
和 这 AIC 因为 这 模型 选择 标准
包括 这 雷米勒 惩罚 和 它是 仅有的 计数 方差 参数。
和 全部 到期的 尊重，
I 能 思考 的 一些 好的 原因 为了 这 SAS 方法，
和 那里 是 大概 一些 其他 好的 原因 I 不 甚至 知道 的。
但 I 亲自 更喜欢 这 灵活性 负担得起 经过 这 跳转 方法。
到 总结， 如果 你 比较 结果 穿过 软件
为了 非 混合 模型， 这 意思是 范围 估计 可能 不同，
但 否则 一切 别的 应该 是 这 相同的。
作为 长的 作为 这 软件 计算
这 常量 和 这 可能性 正确地 作为 跳转 做。
什么时候 我们 得到 到 高斯 混合 模型，
那里 是 非常 重要的 软件 差异
和 这 范围 的 这 决策 你 能 制作 关于 这 模型
使用 这 软件 可能 是 非常 不同的
取决于 在 这 细节 的 如何 它是 可能性 是 计算。
跳转 模型 选择 标准
是 可比 两个都 之内 这 相同的 平台
和 穿过 其他 造型 平台。
患病的 关闭 和 这 滑动， 哪个 给出 我的 基本的 建议
为了 申请 这 工具 讨论 今天。
假设 测试 是 a 工具 为了 什么时候 你 需要 到 证明 某物
和 是 最好的 用过的 在 情况 什么时候 你 有 a 好的 主意
的 这 模型 结构 在 进步。
什么时候 你是 在职的 在 a 问题 在 行业 和 这 样本 尺寸 是 小的，
I 会 戳 到 古典 统计 模型
和 使用 这 人工智能 作为 这 基本的 工具 为了 选择 之间 他们。
和 更大 数据 套， 什么时候 I 有 足够的 数据 到 抓住 出去
在 至少 a 第三 的 这 观察， I 使用 坚持 交叉验证 到 比较
古典 统计 模型 作为 出色地 作为 机器 学习 模型。
在 我的 自己的 工作， I 趋向 到 避免 K- 折叠 交叉验证
和 它是 方差。
这 模型 选择 标准 是 相等的 到 它 在 更大 样品，
和 I 趋向 到 戳 和 更简单 模型 和 更小 数据 套。
I 知道 那 不是 每个人 是 去 到 同意 和 我 在 这，
但 这 是 什么 作品 为了 我 和 是 a 漂亮的 安全的 方式
到 方法 模型 选择。
选择 这 最多 有用 模型 从 a 放 的 替代方案 那 必须 全部 是 错误的
在 一些 等级 是 一个 重要的 决定， 和 这些 是 这 主要的 注意事项
I 有 什么时候 决定 之上 a 模型 选择 战略。
感谢 你 为了 你的 注意力 和 I 看 向前 到 说 和 你
在 这 见面 这 专家 會議。
