構造方程式モデリングのシリーズへようこそ。 私の最初の投稿は、構造方程式モデリングを紹介し、それが過去に使用された場所と、将来使用される可能性がある場所について簡単に説明しました。 この 2 回目の投稿では、SEM で使用される主要な基本概念の 1 つ、典型的な代替案、および SEM で使用する概念を採用する理由について説明することを目的としています。 この投稿で取り上げる基本的な概念は、次元削減技術のトピックであり、これらの方法の利点とともに、それらが SEM にどのように適用されるかです。 読者は次元削減についてある程度の予備知識を持っていると想定しているため、この記事の主な焦点は、手法の違いと、特定の手法が SEM にとってより優れている理由についてです。
次元削減
では、次元削減とは何で、なぜそれを使用するのでしょうか? 次元削減は、高次元空間から低次元空間にデータを削減するためにデータ サイエンスで使用される手法です。 言い換えれば、より大きなデータセットからの意味のある情報を保持しながら、より少ない数の変数でデータを表現する方法を見つけようとします。
次元削減は、データのより単純なモデルを作成するために実行されます。 通常、システムでは、測定された変数は他の根本的な原因と相関しており、モデルをこれらの根本的な原因に還元することは通常可能です。 次元削減を実行するには、主成分分析 (PCA) と因子分析 (FA) の 2 つの主な方法があります。 これら 2 つの方法は似ていますが、いくつかの固有の違いがあります。この記事で詳しく説明します。
以下の画像は、データセットで次元削減を使用する方法の一例を示しています。 データは緑色の円内にクラスター化されており、最初は X、Y、Z の 3 次元であるとします。 データ セットを減らすために、Z 軸など、データにとってあまり重要でないディメンションをいくつか削除してみてください。これにより、すべてのデータ ポイントを含む XY プロットが得られます。 この方法の代わりに ZY プロットを作成することもできますが、この方法でモデルの次元を縮小すると、多くの値データが失われます。 この例からわかるように、最適な次元削減手法を見つけることは、データ セット内の重要な情報を保持するために不可欠であり、一部のデータは常に失われます。
ケーススタディの背景
この複雑なアイデアの説明を助けるために、実際のデータセットを使用して、私たちが何をしているのかを理解するのに役立つケーススタディを使用します. このケース スタディでは、78 種類の異なる溶媒と、各溶媒について測定されたさまざまな特性データを調べます。 すべての溶媒には、融点、沸点、親油性、H の 4 つの測定変数があります。 2 〇溶解性。 最初の 5 つの溶媒とその測定値を以下に示します。
このケース スタディの目的は、データの次元を削減して、化学者が溶媒を簡単に選択できるようにすることです。 これを行うために、4 つの電流測定値を 2 つの主成分または要因に減らすことを目指します。 主成分と要因の考え方を以下に説明します。
主成分分析
主成分は、初期変数の線形結合または混合として構築される新しい変数です。 PCA の目的は、データの元の変動性を可能な限りキャプチャする少数のこれらのコンポーネントを導出することです。 最終的な目標は、重要な情報を保持しているシステムの最も縮小された形式を見つけることです。 PCA は、システム内の元の変数間にすでに強い相関がある場合に特に役立ちます。これは、変数を相関させる根本的な原因が存在する可能性が高いことを意味するためです。
主成分分析は、工学で適用される次元削減の代表的な手法です。 この主な理由は、エンジニアリングで行われる測定には、ほとんどの場合、関連する測定誤差があるためです。 PCA を実行することにより、システムを定義するために使用される主成分を見つけることができます。これには、測定誤差や他のソースからの変動が含まれます。
PCA は、主成分分析プラットフォームで実行できます。 JMPとJMP プロ. このプラットフォームは、ケース スタディの各溶媒の変数を使用してここに示されています。 PCA を設定するには、4 つの変数を選択してプラットフォームに追加する必要があります。その後、「OK」を押すだけです。 次に、JMPは系の主成分を自動的に計算し、各成分の固有値と、元の変数が主成分とどのように相関しているかを示す負荷プロットを提供します。
固有値から、主成分 1 がデータ内の変動の大部分を占めており、主成分 2 はそれより少ないものの重要な部分を占めていることがわかります。 固有値が 1 未満のその他の成分は、元の各変数よりも変動が小さくなっています。 右側の負荷プロットは、元の変数が主成分 1 と 2 (それぞれ水平軸と垂直軸) とどのように一致するかを示しています。 これは、各主成分軸に沿った変数が主成分を介して相互に相関していることを意味します。
たとえば、このケース スタディでは、沸点と融点が主成分 2 軸に沿ってまとめられていることがわかります。これは、これら 2 つの変数が高度に相関していることを意味します。 化学の観点からは、化学物質の融点と沸点は通常、分子間の力と相関するため、これが事実であると想定します。 これは、主成分 2 が分子間の分子間引力である可能性が高いことを意味します。
同様に主成分1軸を見ると、親油性とH 2 O 溶解度は、主成分 1 と高度に相関していますが、軸の両側にあるため、互いに逆相関しています。 したがって、グラフ上で直角の変数には相関関係がありません。 化学的な文脈では、主成分 1 が分子の極性である可能性が高いと仮定できます。 これは、分子の極性が、分子が極性溶媒または非極性溶媒に溶解できるかどうかに影響するためです。これがHだから2 O 溶解度と親油性は測定値ですが、それらがこの主成分と高度に相関していることは驚くべきことではありません。 また、分子は分子サイズに関係なく溶解できることもわかっています。つまり、これら 2 つの測定値は、ローディング プロットに見られる沸点または融点と相関するべきではありません。
因子分析
因子分析は PCA と非常に似ていますが、重要な違いがいくつかあります。 この方法と PCA との主な違いは、主成分とは因子の定義が異なることです。
主成分は、観測された変数の縮小された形式であり、データの変動を可能な限り捉えることを目的としています。 これは、観測された変数からの測定誤差が含まれているため、主成分は必ずしも「実際の」変数ではないことを意味します。 ただし、FA の要因はわずかに異なります。 因子は潜在変数とも呼ばれ、SEM における重要な概念です。 潜在変数は、システムで観測された変数の原因となる根本的な理由 (または要因) と考えることができます。
注として、SEM で使用される観測された変数の別の言葉はマニフェスト変数です。 このように、FA では、顕在変数は、システムでは測定できない「本当の」潜在変数の測定結果と考えることができます。
FA は、JMP Pro の因子分析プラットフォームを通じて実行できます。 これは PCA プラットフォームとほぼ同じ方法で行われるため、同じ 4 つの因子で同じ分析を実行します。 このプラットフォームの唯一の違いは、因子分析に関連するより多くのカスタマイズ オプションがあることです。簡単にするために、これらのオプションはすべてデフォルトのままにします。
プラットフォームから、2 つの主な要因があることがわかります。 これらの要因は、上記の負荷プロットにプロットされ、各要因が説明する変動のパーセンテージを示しています。 このプロットと PCA プラットフォームから見つかったプロットは似ていますが、同じではありません。
主な違いは、各因子または主成分が説明する分散の量に見られます。これは各軸で報告されます。 もう 1 つの違いは、各変数が両方のグラフにプロットされている点です。これは、因子と主成分との相関が異なることを示しています。 これらの違いは、上記で説明したように、因子と主成分を定義する方法に固有の違いによるものです。 この主な例は、沸点変数の位置です。 PCA 分析では、融点とほぼ正確に相関します。 FA 分析では、沸点と融点はあまり相関しません。 これは、因子 2 と主成分 2 が 2 つの異なる概念であることをさらに示しています。
これを化学的な文脈で簡単に言えば、主成分 1 はすべての分子間相互作用の尺度です。そのため、ローディング プロットで沸点と融点がほぼ同じです。 一方、因子分析の負荷プロットでは、融点と沸点が同じではないことがわかります。 これは、FA で見つかった要因が、分子間力における最大の力の寄与であるファン デル ワールス力であるためと考えられます。 さまざまな化学的理由により、これは、この要因が物質の融点においてより大きな役割を果たすことを意味しますが、沸点になると、他の分子間力が作用します. これらの他の力は因子 1 では考慮されませんが、主成分 1 に含まれます。これは、PCA によって取得される測定誤差のためです。
この考え方の結論として、各因子の軸上で、各因子は主成分よりも変動が小さいことがわかります。 モデルの構築に使用されたデータは経験に基づいており、測定誤差が含まれているため、これは予想されることです。 したがって、主成分 (測定誤差を含む) が元のデータの変動の多くを説明することは理にかなっています。
SEMでの次元削減
PCA と FA はどちらも複雑な概念であり、それらを完全に理解するためにそれ自体で本を読む価値がありますが、これらのトピックの調査から得られることは、FA はエラーを含まない潜在変数を生成するのに対し、PCA は他の要素を含む主成分を生成するということです。エラーの原因。 2番目の重要な注意点は、FAでは潜在変数が顕在変数を生成するのに対し、PCAでは主成分は顕在変数を「単純化」した結果であるということです。
画像 - Laura Castro-Schilo構造方程式モデリングの基礎 (2021-EU-45MP-752) - JMP User Community
両方のポイントが上の図に視覚化されており、PCA と FA の違いが示されています。 基礎となるシステムを理解するという点では、FA の方が優れた方法です。 これは、PCA で見つかった主成分が、システムに影響を与える「実際の」変数ではないためです。 それらは単なるモデル適合パラメーターです。 これは、PCA が依然として有用であることを意味しますが、より適切なモデルにつながる可能性があるため、予測モデリングなどの他の分野ではるかに優れたアプリケーションがあることを意味します。 その結果、SEM では、システム内のマニフェスト変数の根本的な原因をより包括的に理解できるようになるため、FA を採用しています。 このように、SEM を使用することで、マニフェスト変数の回帰を通じて潜在変数を定量化できます。 実際、この考え方はパス ダイアグラムの基礎を構成しています。パス ダイアグラムは、次の記事で取り上げる SEM の重要な概念です。
これにより、次元削減技術と、これらの技術が SEM で使用されている理由と使用されていない理由についての洞察が得られたことを願っています。 今後のブログ投稿で検討する SEM 内の興味深いアイデアは、確証因子分析 (CFA) の SEM における特殊なケースです。これは、基本的に、SEM を設定しながら因子分析を使用する方法にすぎません。 これについては後で詳しく説明します。
@Bill_Worleyご関心をお寄せいただきありがとうございます。 もちろん、データセットをアップロードします。 データ ファイルには、この投稿で実行された PCA と FA の両方を実行するスクリプトがあります。
@ジョーダンウォルターズ素晴らしい記事と PCA と FA の説明をありがとう。次回作もお楽しみに。
ここで使用したデータ テーブルを共有することは可能でしょうか?
ありがとう、
明細書
