多変量メソッドでは、幅の広い（数千列）データがある場合は別の方法で処理する必要があります。
広いデータに対する伝統的なアプローチのアキレス腱は、それらが列数の2乗で成長する共分散行列で始まるということです。例えば、ゲノミクス研究は幅広いデータを持つ傾向があります。
あるゲノミクス研究では、たった230行しかありませんが、10,787の遺伝子発現列があります。その共分散行列は5800万以上の要素を持ち、465MBのメモリを消費します。私たちが取り組んでいる別の研究では、249人の個人に対して49,041個の遺伝子があり、その結果9.6GBのメモリを使用する共分散行列が得られます。さらに別の研究では1,824,184の遺伝子列があり、13.3TBの共分散行列が得られています。コンピュータはそれほど多くのメモリを持っていません - 実際、彼らはそれほど多くのディスクスペースを持っていません。これらの広い問題のためにメモリがあるとしても、共分散行列を計算するのに非常に長い時間がかかるでしょう。 2 ここで、nは行数、pは列数です。さらに、共分散行列を反転する必要があると、さらに悪くなります。 3 。さらに、データ内の列よりはるかに少ない行があるため、共分散行列は非常に特異です。
したがって、多変量法はこれらの状況では非実用的または不可能であると考えるでしょう。幸いなことに、もう1つの方法があります。それは、広い問題を実用的なだけでなく合理的に高速にしながら、巨大な共分散行列で得られるのと同じ答えを出す方法です。
多変量空間の有効次元数は、列数よりはるかに小さいので、行数のオーダーです。その広い行列におけるすべての変動は、主成分、すなわち正の分散に関連するもの、すなわち、非ゼロ固有値によって表すことができる。（標準化された）データの特異値分解を使用して主成分を取得するもう1つの方法があります。あなたは主成分空間にいるので、これらの主成分の次元は小さいです。実際、主成分の共分散行列は対角行列であるため、すべての計算が単純化されます。
たとえば、249行、1,824,184列のゲノミクスデータセットを見てみましょう。私の6コアMac Proでは、わずか94分でJMP 12を使用してそのデータの主成分を確認することができました。他の方法でそれをすることは明らかに不可能でした。
判別分析では、主な作業は各点から各グループの（多変量）平均までの距離を計算することです。ただし、その距離は単純なユークリッド距離ではなく、多変量形式の距離で、マハラノビス距離と呼ばれ、逆共分散行列を使用します。
標準化されたデータについて考えてみましょう。主成分は同じデータですが、さまざまな角度で回転します。違いは、元のデータには10,000列ありますが、ワイドデータの場合は主成分には数百列しかないことです。したがって、点間または点と多変量平均の間の距離を測定したい場合は、重心それから、はるかに少ない次元でそれを行うことができます。それだけでなく、主座標は無相関です。つまり、マハラノビス距離計算の中央にある行列は対角行列であるため、距離は個々の座標距離の2乗和になります。
平均値中心データの主成分をグループ別に取ります。次に、この新しい縮小次元データに平均値を加えます。変換された平均は、元のグループの平均の主成分変換にすぎません。
例
Microarray Quality Consortiumが230行と10,787の遺伝子発現を持つベンチマークである一連の乳がんゲノム発現データがあります。ワイドリニア法を使用した判別分析の実行時間はわずか5.6秒（Mac Proの場合）で、分類が最も難しいカテゴリER_statusでの交差検定の誤分類率はわずか13.7％です。他の方法が高価であることを考えると、この誤分類率はこの問題に対して最も良く達成されるものに近い。
注意： これはの一部です大きな統計 John Sallによる一連のブログ投稿。彼のすべてを読むビッグ統計の投稿 。
