@jordanwalters PCAとFAに関するすばらしい記事と説明をありがとう。次の記事を楽しみにしています。
ここで使用したデータテーブルを共有することは可能でしょうか？
ありがとう、
明細書
構造方程式モデリングに関する私のシリーズにようこそ。 私の最初の投稿構造方程式モデリングを紹介し、過去に使用された場所と将来使用できる場所について簡単に説明しました。 この2番目の投稿では、SEMで使用される主要な基本概念の1つ、典型的な代替案、およびSEMで使用する概念を採用する理由について説明することを目的としています。 この投稿で取り上げる基本的な概念は、次元削減手法のトピックと、それらがSEMでどのように適用されるか、およびこれらの手法の利点です。 読者は次元削減についてある程度の予備知識を持っていると思います。そのため、この投稿の主な焦点は、手法の違いと、特定の手法をSEMに適したものにする方法にあります。
次元削減
では、次元削減とは何ですか、なぜそれを使用するのですか？ 次元削減は、データを高次元空間から低次元空間に削減するためにデータサイエンスで採用されている手法です。 言い換えると、より大きなデータセットからの意味のある情報を保持しながら、より少ない数の変数でデータを表現する方法を見つけようとします。
データのより単純なモデルを作成するために、次元削減が実行されます。 通常、システムでは、測定された変数は他の根本的な原因と相関しており、通常、モデルをこれらの根本的な原因に還元することが可能です。 次元削減を実行するには、主成分分析（PCA）と因子分析（FA）の2つの主要な方法があります。 これらの2つの方法は似ていますが、いくつかの固有の違いがあります。これについては、この投稿で説明します。
次の画像は、データセットで次元削減を使用する方法の一例を示しています。 データが緑色の円内にクラスター化されており、最初はX、Y、Zの3次元であるとします。 データセットを減らすために、Z軸など、データの重要性の低いディメンションの一部を削除して、すべてのデータポイントを含むXYプロットを作成することができます。 この方法の代わりにZYプロットを作成することもできますが、この方法でモデルの次元を縮小すると、多くの値データが失われます。 この例からわかるように、最適な次元削減手法を見つけることは、データセット内の重要な情報を保持するために不可欠であり、一部のデータは常に失われます。
ケーススタディの背景
この複雑なアイデアの説明を助けるために、実際のデータセットを使用して、私たちが何をしているのかを理解するのに役立つケーススタディを使用します。 このケーススタディでは、78種類の溶媒と、各溶媒で測定されたさまざまな特性データを調べます。 すべての溶媒について4つの測定変数があります：融点、沸点、親油性、およびH 2 O溶解性。 最初の5つの溶媒とその測定値を以下に示します。
このケーススタディの目的は、データの次元を減らして、化学者が溶媒を簡単に選択できるようにすることです。 これを行うために、4つの電流測定値を2つの主成分または因子に減らすことを目指しています。 主成分と要因のアイデアを以下で検討します。
主成分分析
主成分は、初期変数の線形結合または混合として構築される新しい変数です。 PCAの目的は、データの元の変動を可能な限り多くキャプチャするこれらのコンポーネントの少数を導出することです。 最終的な目標は、重要な情報を保持しているシステムの最も縮小された形式を見つけることです。 PCAは、システム内の元の変数間にすでに強い相関関係がある場合に特に役立ちます。これは、変数を相関させている根本的な原因が存在する可能性があることを意味するためです。
主成分分析は、エンジニアリングで適用される次元削減の典型的な方法です。 これの主な理由は、エンジニアリングで行われる測定には、ほとんどの場合、関連する測定誤差があるためです。 PCAを実行することにより、システムを定義するために使用される主成分を見つけることができます。これには、測定誤差や他のソースからの変動が含まれます。
PCAは、の主成分分析プラットフォームで実行できます。 JMPとJMPプロ。 このプラットフォームは、ケーススタディで各溶媒の変数を使用してここで示されています。 PCAを設定するには、4つの変数を選択してプラットフォームに追加し、「OK」を押すだけです。 次に、JMPはシステムの主成分を自動的に計算し、元の変数が主成分とどのように相関しているかを示す負荷プロットとともに、各成分の固有値を提供します。
固有値から、主成分1がデータ内の変動の大部分を占めており、主成分2がより少ないが、それでも重要な部分を占めていることがわかります。 固有値が1未満の他のコンポーネントは、それぞれ元の変数よりも変動が少なくなります。 右側の負荷プロットは、元の変数が主成分1と2（それぞれ水平軸と垂直軸）とどのように整列するかを示しています。 これは、主成分軸のそれぞれと整列する変数が主成分を介して相互に相関していることを意味します。
たとえば、このケーススタディでは、沸点と融点が主成分2の軸に沿って集まっていることがわかります。これは、これら2つの変数が高度に相関していることを意味します。 化学物質の観点からは、化学物質の融点と沸点は通常、分子間の力と相関しているため、これが当てはまると考えられます。 これは、主成分2が分子間の分子間引力である可能性が高いことを意味します。
同じように主成分1の軸を見ると、親油性とH 2 Oの溶解度は主成分1と高い相関がありますが、軸の両側にあるため、互いに逆相関しています。 したがって、グラフ上の直角の変数には相関関係がありません。 化学的文脈では、主成分1が分子の極性である可能性が高いと想定できます。 これは、分子の極性が、分子が極性溶媒と非極性溶媒のどちらに溶解できるかに影響するためです。これがHだから2 Oの溶解度と親油性はの尺度であり、これらがこの主成分と高度に相関していることは驚くべきことではありません。 また、分子のサイズに関係なく分子が溶解する可能性があることもわかっています。つまり、これら2つの測定値は、負荷プロットに表示される沸点または融点と相関してはなりません。
因子分析
因子分析はPCAと非常に似ていますが、いくつかの重要な違いがあります。 PCAと比較したこの方法の主な違いは、主成分と比較した因子の定義の違いにあります。
主成分は、データの可能な限り多くの変動をキャプチャすることを目的とした、観測された変数の誘導型です。 これは、観測された変数からの測定誤差が含まれているため、主成分が必ずしも「実際の」変数であるとは限らないことを意味します。 ただし、FAの要因はわずかに異なります。 因子は潜在変数とも呼ばれ、SEMの重要な概念です。 潜在変数は、システムで観測された変数の原因となる根本的な理由（または要因）と考えることができます。
注意として、SEMで使用される観測変数の別の言葉はマニフェスト変数であるため、これからこれらの変数を参照する方法を説明します。 このように、FAでは、マニフェスト変数は、システムでは測定できない「実際の」潜在変数の測定結果と考えることができます。
FAは、JMPProの因子分析プラットフォームを介して実行できます。 これはPCAプラットフォームとほぼ同じ方法で行われるため、同じ4つの要素を使用して同じ分析を実行します。 このプラットフォームの唯一の違いは、因子分析に関連するカスタマイズオプションが多いことです。簡単にするために、これらのオプションはすべてデフォルトとして保持されます。
プラットフォームから、2つの主な要因があることがわかります。 これらの要因は、各要因が説明する変動のパーセンテージを示すために、上記の負荷プロットにプロットされます。 このプロットとPCAプラットフォームから見つかったプロットは似ていますが、同じではありません。
主な違いは、各因子または主成分が説明する分散の量に見ることができます。これは各軸で報告されます。 もう1つの違いは、各変数が両方のグラフにプロットされる正確なポイントです。これは、それらが因子および主成分と異なる相関関係にあることを示しています。 これらの違いは、上で説明したように、因子と主成分を定義する方法に固有の違いによるものです。 この主な例は、沸点変数の位置です。 PCA分析では、融点とほぼ正確に相関します。 FA分析では、沸点と融点はそれほど相関していません。 これはさらに、因子2と主成分2が2つの異なるアイデアであることを示しています。
これを簡単に化学的文脈で言えば、主成分1はすべての分子間相互作用の尺度であり、そのため、沸点と融点はその負荷プロットでほぼ同じです。 一方、因子分析の負荷プロットでは、融点と沸点が同じではないことがわかります。 これは、FAで見つかった要因が、分子間力の中で最大の力の寄与であるファンデルワールス力であるためと考えられます。 さまざまな化学的理由から、これはこの因子が物質の融点に大きな役割を果たすことを意味しますが、沸点に関しては、他の分子間力が作用します。 これらの他の力は、ファクター1では考慮されませんが、PCAを介して取得される測定誤差のため、主成分1に含まれます。
この考えの結論として、各因子の軸上で、各因子が主成分よりも変動が少ないことがわかります。 モデルの構築に使用されたデータは経験的であり、したがって測定誤差が含まれているため、これは予想されることです。 したがって、主成分（測定誤差を含む）が元のデータの変動の多くを説明することは理にかなっています。
SEMの次元削減
PCAとFAはどちらも複雑な概念であり、本がそれらを完全に理解する権利がありますが、これらのトピックの調査から取り除くことができるのは、FAがエラーを含まない潜在変数を生成するのに対し、PCAは他を含む主成分を生成することです。エラーの原因。 2番目の重要な注意点は、FAでは潜在変数がマニフェスト変数を生成するのに対し、PCAでは主成分がマニフェスト変数を「単純化」した結果であるということです。
両方のポイントは、PCAとFAの違いを示す上の図に視覚化されています。 基礎となるシステムを理解するという点では、FAがより良い方法です。 これは、PCAにある主成分が、システムに影響を与える「実際の」変数ではないためです。 これらはモデルに適合したパラメータです。 これは、PCAは依然として有用ですが、予測モデリングなどの他の分野ではるかに優れたアプリケーションを備えていることを意味します。これにより、モデルの適合性が向上する可能性があるためです。 したがって、SEMでは、システム内のマニフェスト変数の根本的な原因をより包括的に理解できるため、FAを採用しています。 このように、SEMを使用することにより、顕在変数の回帰を通じて潜在変数を定量化できます。 実際、このアイデアはパス図の基礎を構成します。これは、次の投稿で取り上げるSEMの重要な概念です。
これにより、次元削減手法と、これらの手法がSEMで採用されている理由と採用されていない理由についての洞察が得られたことを願っています。 今後のブログ投稿で検討するSEM内の興味深いアイデアは、確認的因子分析（CFA）のSEMの特殊なケースです。これは、基本的に、SEMを設定しながら因子分析を使用する方法にすぎません。 これについては後で詳しく説明します。
@Bill_Worleyビルに興味を持ってくれてありがとう！ もちろん、データセットをアップロードします。 この投稿で実行されたPCAとFAの両方を実行するスクリプトがデータファイルにあります。
