歡迎回到我的有關離群值的博客系列。 在以前的情節中，我們研究了：
今天，在對馬哈拉諾比斯進行了快速（但有必要）回顧之後，我們將看一下折刀距離。
馬哈拉諾比斯距離的快速回顧
還記得第3集中的三維10點數據集嗎？ 多元散點圖矩陣如下所示JMP ：
圖1：10個數據點的散點圖矩陣和一個異常值（紅色）
與其他九個點相比，紅點似乎是離群值。 在突出顯示的圖中，這一點尤其明顯。
但是，當我們進行馬氏距離計算時，紅點似乎並不是“可怕的”異常值：
圖2：圖1所示的10個數據點樣本的馬氏距離
在圖2中，紅點在有效線上方，但幅度不大。 根據圖1的散點圖矩陣，這似乎違反直覺，其中紅點似乎是明顯的異常值。
但是請記住，馬哈拉諾比斯的計算需要在考慮數據的協方差結構時測量與整體的距離。 如果我們從圖1中選擇突出顯示的散點圖並對其擬合一條直線，則會得到類似的結果（來自Graph Builder）：
圖3：X1與X2的簡單圖，包括最佳擬合線（來自普通最小二乘法）
直線擬合是這兩個變量（X1和X2）之間協方差結構的直觀表示。 注意，紅色離群點對線條的位置有很大的影響。它會將線拉向它，使其自身到線的距離小於應有的距離。
此外，擬合度差的線還使得其他數據點看起來比如果紅點沒有那麼強烈地影響它，則實際距離線要遠。 例如，數據點6（在圖3中標記）似乎遠離直線，並且如果選擇了此最佳擬合線，則可能位於離群值的邊界上。
有沒有更好的方法來檢測離群值？
折刀技術
折刀技術非常簡單，但功能非常強大，它依賴於使用“留一法”技術的計算。 從概念上講，如果我們將紅色離群值排除在線擬合計算之外，它將生成具有最佳擬合線的散點圖，如下所示：
圖4：X1與X2的簡單圖，包括基於除紅色離群點以外的所有點的最佳擬合線
現在很明顯，紅色離群值確實被認為是離群值，有待進一步研究。
通常，回想一下從第3集開始計算馬氏距離的等式：
要計算折刀距離，請使用“留一法”技術併計算
向量和
所有點的矩陣除了興趣點。 接下來，只需將興趣點放入
向量併計算馬哈拉諾比斯距離，該距離現在稱為折刀距離。
重複計算所有點，每次離開感興趣點
從...的計算中
和
。
折刀圖如下所示：
圖5：10點樣本的折刀距離圖
現在很明顯，紅點是一個異常值。
折刀的歷史
每維基百科John Tukey的名字叫“ jackknife”，因為它是一種強大的多功能工具，可以在各種情況下使用，儘管該技術最初是由Maurice Quenouille在1950年代中期開發的。
與其他技術平行
如果您熟悉其他驗證方案（例如K折驗證）或諸如引導森林和增強樹技術之類的東西，您將認識到，將一個（或多個）觀察結果排除在分析之外是一種非常常見且有效的方法，從統計分析中獲得更多收益。
下一集
回來的路第1集，我提到第5集將涉及T 2個距離。 但是，我已經指出第3集那個T 2個只是馬哈拉諾比斯距離的平方，所以我們不需要另一集來討論。
相反，我在離群值上的第五篇也是最後一篇博客文章將討論離群值的多變量K最近鄰居檢測。 敬請關注！
感謝Jackknife異常值計算的詳盡解釋。 我真的很喜歡這些系列的帖子！
