欢迎回到我的有关离群值的博客系列。 在以前的情节中，我们研究了：
今天，在对马哈拉诺比斯进行了快速（但必要的）回顾之后，我们将看一下折刀的距离。
马哈拉诺比斯距离的快速回顾
还记得第3集中的三维10点数据集吗？ 多元散点图矩阵如下所示JMP ：
图1：10个数据点的散点图矩阵和一个异常值（红色）
与其他九个点相比，红点似乎是离群值。 在突出显示的图中，这一点尤其明显。
但是，当我们进行马氏距离计算时，红点似乎并不是“可怕的”异常值：
图2：图1所示的10个数据点样本的马氏距离
在图2中，红点在有效线上方，但幅度不大。 根据图1的散点图矩阵，这似乎违反直觉，其中红点似乎是明显的异常值。
但是请记住，马哈拉诺比斯的计算需要在考虑数据的协方差结构时测量与整体的距离。 如果我们从图1中选择突出显示的散点图并对其拟合一条直线，则会得到类似的结果（来自Graph Builder）：
图3：X1与X2的简单图，包括最佳拟合线（来自普通最小二乘法）
直线拟合是这两个变量（X1和X2）之间协方差结构的直观表示。 注意，红色离群点对线条的位置有很大的影响。它会将线拉向它，使其自身到线的距离小于应有的距离。
此外，拟合度差的线还使得其他数据点看起来比如果红点没有那么强烈地影响它，则实际距离线要远。 例如，数据点6（在图3中标记）似乎远离直线，并且如果选择了此最佳拟合线，则可能位于离群值的边界上。
有没有更好的方法来检测离群值？
折刀技术
折刀技术非常简单，但功能非常强大，它依赖于使用“留一法”技术的计算。 从概念上讲，如果我们将红色离群值排除在线拟合计算之外，则会生成具有最佳拟合线的散点图，如下所示：
图4：X1与X2的简单图，包括基于除红色离群点以外的所有点的最佳拟合线
现在很明显，红色离群值确实被认为是离群值，有待进一步研究。
通常，回想一下从第3集开始计算马氏距离的等式：
要计算折刀距离，请使用“留一法”技术并计算
向量和
所有点的矩阵除了兴趣点。 接下来，只需将兴趣点放入
向量并计算马哈拉诺比斯距离，该距离现在称为折刀距离。
重复计算所有点，每次离开感兴趣点
从...的计算中
和
。
折刀图如下所示：
图5：10点样本的折刀距离图
现在很明显，红点是一个异常值。
折刀的历史
每维基百科John Tukey的名字叫“ jackknife”，因为它是一种强大的多功能工具，可以在各种情况下使用，尽管该技术最初是由Maurice Quenouille在1950年代中期开发的。
与其他技术平行
如果您熟悉其他验证方案（例如K折验证）或诸如引导森林和增强树技术之类的东西，您将认识到，将一个（或多个）观察结果排除在分析之外是一种非常常见且有效的方法，从统计分析中获得更多收益。
下一集
回来的路第1集，我提到第5集将涉及T 2个距离。 但是，我已经指出第3集那个T 2个只是马哈拉诺比斯距离的平方，所以我们不需要另一集来讨论。
相反，我在离群值上的第五篇也是最后一篇博客文章将讨论离群值的多变量K最近邻居检测。 敬请关注！
感谢Jackknife异常值计算的详尽解释。 我真的很喜欢这些系列的帖子！
