欢迎回到我的离群值博客系列。 在前几集中,我们已经了解了:
今天,在快速(但必要)回顾马哈拉诺比斯之后,我们将研究折刀距离。
快速回顾马哈拉诺比斯距离
还记得第 3 集中的三维 10 点数据集吗? 多元散点图矩阵如下所示联合管理计划:
Figure 1: Scatterplot matrix of 10 data points with one outlier (red)Figure 1: Scatterplot matrix of 10 data points with one outlier (red)Figure 1: Scatterplot matrix of 10 data points with one outlier (red)Figure 1: Scatterplot matrix of 10 data points with one outlier (red)Figure 1: Scatterplot matrix of 10 data points with one outlier (red)图 1:包含 10 个数据点和 1 个异常值(红色)的散点图矩阵
与其他九个点相比,红点似乎是异常值。 这一点在突出显示的图中尤其明显。
然而,当我们执行马氏距离计算时,红点似乎并不是“可怕的”异常值:
Figure 2: Mahalanobis distance for 10 data point sample shown in Figure 1Figure 2: Mahalanobis distance for 10 data point sample shown in Figure 1Figure 2: Mahalanobis distance for 10 data point sample shown in Figure 1Figure 2: Mahalanobis distance for 10 data point sample shown in Figure 1Figure 2: Mahalanobis distance for 10 data point sample shown in Figure 1图 2:图 1 中所示 10 个数据点样本的马哈拉诺比斯距离
在图 2 中,红点位于显着线上方,但幅度不大。 根据图 1 的散点图矩阵,这似乎违反直觉,其中红点似乎是明显的异常值。
但请记住,马氏计算涉及在考虑数据的协方差结构时测量与整体的距离。 如果我们从图 1 中选取突出显示的散点图并为其拟合一条直线,我们会得到如下所示的结果(来自图形生成器):
Figure 3: Simple plot of X1 vs X2, including best-fit line (from ordinary least squares)Figure 3: Simple plot of X1 vs X2, including best-fit line (from ordinary least squares)Figure 3: Simple plot of X1 vs X2, including best-fit line (from ordinary least squares)Figure 3: Simple plot of X1 vs X2, including best-fit line (from ordinary least squares)Figure 3: Simple plot of X1 vs X2, including best-fit line (from ordinary least squares)图 3:X1 与 X2 的简单图,包括最佳拟合线(来自普通最小二乘法)
直线拟合是这两个变量(X1 和 X2)之间协方差结构的直观表示。 请注意,红色离群点对线的位置影响很大;它将线拉向它,使其自身到线的距离小于应有的距离。
此外,如果红点没有对它产生如此强烈的影响,拟合不佳的线还使得其他数据点看起来离线比实际距离更远。 例如,数据点 6(在图 3 中标记)似乎远离该线,如果选择了这条特定的最佳拟合线,则可能位于离群值的边界上。
有没有更好的方法来检测异常值?
折刀技术
折刀技术非常简单,但非常强大,依赖于使用“留一”技术的计算。 从概念上讲,如果我们将红色离群值排除在直线拟合计算之外,它将生成具有最佳拟合线的散点图,如下所示:
Figure 4: Simple plot of X1 vs X2, including best fit line based on all points EXCEPT for red outlierFigure 4: Simple plot of X1 vs X2, including best fit line based on all points EXCEPT for red outlierFigure 4: Simple plot of X1 vs X2, including best fit line based on all points EXCEPT for red outlierFigure 4: Simple plot of X1 vs X2, including best fit line based on all points EXCEPT for red outlierFigure 4: Simple plot of X1 vs X2, including best fit line based on all points EXCEPT for red outlier图 4:X1 与 X2 的简单图,包括基于除红色异常值之外的所有点的最佳拟合线
现在很明显,红色异常值确实被视为异常值,值得进一步调查。
一般来说,回想一下第 3 集中用于计算马哈拉诺比斯距离的方程:

要计算折刀距离,请使用“留一法”技术并计算

向量和

所有点的矩阵除了兴趣点。 接下来,只需将兴趣点放入

向量并计算马哈拉诺比斯距离,现在称为折刀距离。
对所有点重复计算,每次离开兴趣点

的计算中

和
。
折刀图如下所示:
Figure 5: Jackknife distance plot for 10 point sampleFigure 5: Jackknife distance plot for 10 point sampleFigure 5: Jackknife distance plot for 10 point sampleFigure 5: Jackknife distance plot for 10 point sampleFigure 5: Jackknife distance plot for 10 point sample图 5:10 点样本的折刀距离图
现在很明显红点是异常值。
折刀的历史
每维基百科John Tukey 提出了“折刀”这个名字,因为它是一种强大的多用途工具,可以在各种情况下使用,尽管该技术最初是由 Maurice Quenouille 在 20 世纪 50 年代初中期开发的。
与其他技术的相似之处
如果您熟悉其他验证方案(例如 K 折验证)或引导森林和提升树技术等,您会认识到,在分析中保留一个(或多个)观察结果是一种非常常见且强大的方法。从统计分析中获得更多收益。
下一集
回来的路上第1集,我提到第 5 集将涉及 T 2距离。 然而,我已经指出第3集那个T 2只是马哈拉诺比斯距离的平方,所以我们不需要另一集来讨论它。
相反,我关于异常值的第五篇也是最后一篇博客文章将讨论异常值的多元 K 最近邻检测。 敬请关注!
感谢您对 Jackknife 离群值计算的精彩解释。 我真的很喜欢这一系列的帖子!
有没有办法获得刀切分析后每个数据点的详细距离计算,而不仅仅是图形/数字?