<meta http-equiv="Content-Type" content="text/html; charset=UTF-8" />この記事は JMPerケーブル、第30号、2015年夏 。
John Sall著 john.sall 、SASの共同創設者兼エグゼクティブバイスプレジデント
多変量メソッドでは、幅の広い（数千列）データがある場合は別の方法で処理する必要があります。
ボトルネック
ワイドデータに対する伝統的なアプローチのアキレス腱は、それらが列数の2乗で成長する共分散または相関行列で始まるということです。例えば、ゲノミクス研究は幅広いデータを持つ傾向があります。
- あるゲノミクス研究では、たった230行しかありませんが、10,787の遺伝子発現列があります。その共分散行列は5800万以上の要素を持ち、465MBのメモリを消費します。
- 私たちが取り組んでいる別の研究では、249人の個人に対して49,041個の遺伝子があり、その結果9.6GBのメモリを使用する共分散行列が得られます。
- さらに別の研究では1,824,184の遺伝子列があり、13.3TBの共分散行列が得られています。コンピュータはそれほど多くのメモリを持っていません - 実際、彼らはそれほど多くのディスクスペースを持っていません。
これらの広い問題のためにメモリがあるとしても、共分散行列を計算するのに非常に長い時間がかかるでしょう。 2 ここで、nは行数、pは列数です。さらに、共分散行列を反転する必要があると、さらに悪くなります。 3 。さらに、データ内の列よりはるかに少ない行があるため、共分散行列は非常に特異です。
したがって、多変量法はこれらの状況では非実用的または不可能であると考えるでしょう。幸いなことに、もう1つの方法があります。それは、広い問題を実用的なだけでなく合理的に高速にしながら、巨大な共分散行列で得られるのと同じ答えを出す方法です。
SVD
高度多変量空間内の有効次元数は、列数よりはるかに小さいので、行数のオーダーです。その広い行列内のすべての変動は、主成分、すなわち正の分散に関連するもの、すなわち、非ゼロ固有値によって表すことができます。（標準化された）データの特異値分解を使用して主成分を取得するもう1つの方法があります。あなたは主成分空間にいるので、これらの主成分の次元は小さいです。実際、主成分の共分散行列は対角行列であるため、すべての計算が単純化されます。
Xが標準化データのn×p行列で、pがnよりはるかに大きいと仮定します。したがって、共分散行列はp×p行列計算X'X / nです。
SVDは、任意のXを回転、拡大縮小、そして別の回転という変換として表します。
X = U diag（M）V '
ここで、Uは直交行列のn行m列の行列、Mはm個の正の特異値のベクトル、Vはap列のm列の直交列の行列 共分散行列の固有値分解を行った場合、その固有値は次のようになります。 2 そして、固有ベクトルはVになります。したがって、主成分にはMとVだけが必要なので、共分散行列の固有値の代わりにデータのSVDを実行できます。、これはずっと速いです。主成分はちょうどX * Vです。
たとえば、10,787列と230行の問題では、相関行列の主成分は81分かかりますが、SVDの場合は7.5秒しかかからず、600倍以上速くなります。249行、1,824,184列のゲノミクスデータセットで試しました。私の6コアMac Proでは、わずか94分でJMP 12を使用してそのデータの主成分を確認することができました。他の方法でそれをすることは明らかに不可能でした。
判別分析
判別分析では、主な作業は各点から各グループの（多変量）平均までの距離を計算することです。ただし、その距離は単純なユークリッド距離ではなく、多変量形式の距離 - 逆共分散行列を使用するマハラノビス距離です。
標準化されたデータについて考えてみましょう。主成分は同じデータですが、さまざまな角度で回転します。違いは、元のデータには10,000列ありますが、ワイドデータの場合は主成分には数百列しかないことです。したがって、点間または点と多変量平均の間の距離を測定したい場合は、重心それから、はるかに少ない次元でそれを行うことができます。それだけでなく、主座標は無相関です。つまり、マハラノビス距離計算の中央にある行列は対角行列であるため、距離は個々の座標距離の2乗和になります。
平均値中心データの主成分をグループ別に取ります。次に、この新しい縮小次元データに平均値を加えます。変換された平均は、元のグループの平均の主成分変換にすぎません。
例
Microarray Quality Consortiumが230行と10,787の遺伝子発現を持つベンチマークである一連の乳がんゲノム発現データがあります。ワイドリニア法を使用した判別分析では（Mac Proでは）わずか5.6秒で、分類が最も難しいカテゴリER_statusでの交差検定の誤分類率はわずか13.7％です（図1）。他の方法が高価であることを考えると、この誤分類率はこの問題に対して最も良く達成されるものに近い。
図1 主成分分析プラットフォームでの広域判別分析
これまで、SVDベースの多変量オプションを判別式、主成分分析、階層型クラスター、および欠損値の代入の形式で実装してきました。我々はさらにそれを使用して実験していてそしてまた多変量解析において有用な他の同様の方法を探求することにおいて。 「ビッグデータ」をめぐる話題の多くは、多数の行に関するものですが、多数の列もまたますます重要になっています。
