外れ値に関する私のブログシリーズへようこそ。 以前のエピソードでは、次のことを確認しました。
今日は、マハラノビスの簡単な（しかし必要な）レビューの後、ジャックナイフの距離を見ていきます。
マハラノビス距離のクイックレビュー
エピソード3の3次元の10ポイントのデータセットを覚えていますか？ 多変量散布図行列は、次のようになります。 JMP ：
図1：1つの外れ値（赤）を持つ10個のデータポイントの散布図行列
赤い点は、他の9つの点と比較すると外れ値のように見えます。 これは、強調表示されたプロットで特に明確です。
しかし、マハラノビス距離の計算を実行したとき、赤い点は「ひどい」外れ値ではないようでした。
図2：図1に示す10個のデータポイントサンプルのマハラノビス距離
図2では、赤い点は重要な線の上にありますが、それほどではありません。 これは、赤い点が明らかな外れ値であるように見える図1の散布図マトリックスに基づくと直感に反しているように見えます。
ただし、マハラノビスの計算では、データの共分散構造を考慮に入れて、全体からの距離を測定する必要があることを忘れないでください。 図1から強調表示された散布図を取得し、それに直線を当てはめると、次のようになります（グラフビルダーから）。
図3：X1とX2の単純なプロット（通常の最小二乗からの最適な線を含む）
直線近似は、これら2つの変数（X1とX2）間の共分散構造を視覚的に表したものです。 赤い外れ値は線の位置に大きな影響を与えることに注意してください。ラインをそれに向かって引き上げ、それ自体からラインまでの距離を本来よりも小さくします。
さらに、線の適合度が低いと、他のデータポイントが、赤い点がそれほど強く影響しなかった場合に実際よりも線から離れているように見えます。 たとえば、データポイント6（図3でラベル付けされている）は線から遠く離れているように見え、この特定の最適な線が選択された場合、外れ値の境界にある可能性があります。
外れ値を検出するためのより良い方法はありますか？
ジャックナイフ法
ジャックナイフ法は非常に単純ですが、非常に強力であり、「1つを除外する」法を使用した計算に依存しています。 概念的には、ラインフィットの計算から赤い外れ値を除外すると、次のような最適なラインの散布図が生成されます。
図4：X1とX2の単純なプロット（赤い外れ値を除くすべての点に基づく最適な線を含む）
これで、赤い外れ値が本当に外れ値と見なされることは明らかであり、さらに調査する必要があります。
一般に、エピソード3からのマハラノビス距離を計算するためのこの方程式を思い出してください。
ジャックナイフ距離を計算するには、「リーブワンアウト」手法を使用して、
ベクトルと
すべての点の行列興味のあるポイントを除いて。 次に、興味のあるポイントを
ベクトルを作成し、マハラノビス距離を計算します。これは現在、ジャックナイフ距離と呼ばれています。
関心のあるポイントを離れるたびに、すべてのポイントに対して計算を繰り返します
の計算から
そして
。
ジャックナイフのプロットは次のようになります。
図5：10ポイントのサンプルのジャックナイフ距離プロット
これで、赤い点が外れ値であることは明らかです。
ジャックナイフの歴史
あたりウィキペディア、ジョン・テューキーは、1950年代の初めから中頃にモーリス・ケヌイユによって開発された技術ですが、さまざまな状況で使用できる堅牢な多目的ツールであるため、「ジャックナイフ」という名前を思いつきました。
他の技術との類似点
他の検証スキーム（Kフォールド検証など）やブートストラップフォレストやブーストツリー手法などに精通している場合は、分析から1つ（または複数）の観測値を除外することが非常に一般的で強力な方法であることがわかります。統計分析からより多くを得る。
次のエピソード
帰り道エピソード1 、エピソード5にはTが含まれると述べました2距離。 しかし、私はすでに指摘しましたエピソード3そのT 2は単にマハラノビス距離の二乗なので、それについて議論するために別のエピソードは必要ありません。
代わりに、外れ値に関する私の5番目で最後のブログ投稿では、外れ値の多変量K最近傍検出について説明します。 乞うご期待！
ジャックナイフの外れ値の計算についてのすばらしい説明をありがとう。 私はこれらの一連の投稿を本当に楽しんでいます！
