구조 방정식 모델링에 대한 제 시리즈에 다시 오신 것을 환영합니다. 내 첫 게시물 구조방정식 모델링을 소개하고 과거에 사용된 곳과 앞으로 사용될 수 있는 곳에 대해 간략히 설명하였다. 이 두 번째 게시물에서는 SEM에서 사용되는 주요 기본 개념 중 하나, 일반적인 대안 및 SEM에서 수행하는 개념을 사용하는 이유를 설명하는 것을 목표로 합니다. 이 게시물에서 다루는 기본 개념은 차원 축소 기술의 주제와 이러한 방법의 장점과 함께 SEM에 적용되는 방법입니다. 독자가 차원 축소에 대한 사전 지식이 있다고 가정하고 있으므로 이 게시물의 주요 초점은 기술이 어떻게 다른지와 특정 기술을 SEM에 더 좋게 만드는 방법에 있습니다.
차원 축소
그렇다면 차원 축소란 무엇이며 왜 사용합니까? 차원 축소는 데이터 과학에서 고차원 공간의 데이터를 저차원 공간으로 줄이는 기술입니다. 즉, 더 큰 데이터 세트에서 의미 있는 정보를 유지하면서 더 적은 수의 변수로 데이터를 나타내는 방법을 찾으려고 시도합니다.
데이터의 더 간단한 모델을 만들기 위해 차원 축소가 수행됩니다. 일반적으로 시스템에서 측정된 변수는 다른 근본적인 원인과 관련이 있으며 일반적으로 모델을 이러한 근본적인 원인으로 축소할 수 있습니다. 차원 축소를 수행하는 두 가지 주요 방법은 주성분 분석(PCA)과 요인 분석(FA)입니다. 이 두 가지 방법은 유사하지만 몇 가지 고유한 차이점이 있으므로 이 게시물에서 살펴보겠습니다.
아래 이미지는 차원 축소가 데이터 세트와 함께 사용될 수 있는 방법의 한 예를 보여줍니다. 데이터가 녹색 원 안에 모여 있고 처음에는 X, Y, Z의 3차원에 있다고 가정합니다. 데이터 세트를 줄이기 위해 Z축과 같이 데이터에서 덜 중요한 일부 차원을 제거하려고 시도할 수 있습니다. 그러면 모든 데이터 포인트가 여전히 포함된 XY 플롯이 생성됩니다. 이 방법의 대안은 ZY 플롯을 형성하는 것이지만 이러한 방식으로 모델의 치수를 줄이면 많은 값 데이터가 손실됩니다. 이 예제에서 알 수 있듯이 최적의 차원 축소 기술을 찾는 것은 데이터 세트의 중요한 정보를 보존하는 데 필수적이며 일부 데이터는 항상 손실됩니다.
사례 연구 배경
이 복잡한 아이디어에 대한 설명을 돕기 위해 사례 연구를 사용하여 실제 데이터 세트를 사용하여 우리가 무엇을 하고 있는지 이해를 돕겠습니다. 이 사례 연구에서는 78개의 서로 다른 용매와 각 용매에 대한 다양한 측정 속성 데이터를 살펴봅니다. 모든 용매에 대해 네 가지 측정 변수가 있습니다: 녹는점, 끓는점, 친유성 및 H 2 O 용해도. 처음 5가지 용매와 측정값은 다음과 같습니다.
이 사례 연구의 목적은 데이터의 차원을 줄여 화학자들이 용매를 더 쉽게 선택할 수 있도록 하는 것입니다. 이를 위해 우리는 네 가지 전류 측정을 두 가지 주요 구성 요소 또는 요소로 줄이는 것을 목표로 합니다. 주요 구성 요소 및 요인에 대한 아이디어는 아래에서 살펴봅니다.
주요 구성 요소 분석
주성분은 선형 조합 또는 초기 변수의 혼합으로 구성된 새로운 변수입니다. PCA의 목적은 가능한 한 데이터의 원래 변동성을 최대한 많이 캡처하는 이러한 구성 요소 중 소수를 파생시키는 것입니다. 최종 목표는 여전히 중요한 정보를 보유하고 있는 가장 축소된 형태의 시스템을 찾는 것입니다. PCA는 시스템의 원래 변수 사이에 이미 강한 상관관계가 있을 때 특히 유용합니다. 이는 변수를 상관시키는 근본적인 원인이 있을 가능성이 있음을 의미하기 때문입니다.
주성분 분석은 엔지니어링에 적용되는 치수 축소를 위한 일반적인 방법입니다. 그 주된 이유는 엔지니어링에서 수행된 측정에는 거의 항상 관련된 측정 오류가 있기 때문입니다. PCA를 수행하면 시스템을 정의하는 데 사용되는 주요 구성 요소를 찾을 수 있으며 여기에는 측정 오류와 다른 소스의 변동이 포함됩니다.
PCA는 주성분 분석 플랫폼에서 수행할 수 있습니다. JMP 그리고 JMP 프로 . 이 플랫폼은 사례 연구에서 각 용매에 대한 변수를 사용하여 여기에서 시연됩니다. PCA를 설정하려면 4개의 변수를 선택하고 플랫폼에 추가한 다음 "확인"을 누르기만 하면 됩니다. 그런 다음 JMP는 시스템의 주성분을 자동으로 계산하고 원래 변수가 주성분과 어떻게 상관관계가 있는지를 보여주는 로딩 도표와 함께 각 성분에 대한 고유값을 제공합니다.
고유값에서 주성분 1이 데이터 내 변동의 대부분을 담당하고 주성분 2가 작지만 여전히 중요한 부분을 차지한다는 것을 알 수 있습니다. 고유값이 1 미만인 다른 구성요소는 각각 원래 변수보다 적은 변동을 설명합니다. 오른쪽의 적재 플롯은 원래 변수가 주성분 1과 2(각각 가로 및 세로 축)에 어떻게 정렬되는지 보여줍니다. 이는 각 주성분 축에 정렬되는 변수가 주성분을 통해 서로 상관 관계가 있음을 의미합니다.
예를 들어, 이 사례 연구에서 끓는점과 녹는점이 주성분 2축을 따라 함께 모여 있음을 알 수 있습니다. 이는 이 두 변수가 높은 상관관계가 있음을 의미합니다. 화학적 관점에서 화학 물질의 녹는점과 끓는점은 일반적으로 분자 사이의 힘과 관련이 있기 때문에 이것이 사실이라고 가정합니다. 이는 주성분 2가 분자 사이의 분자간 인력일 가능성이 높다는 것을 의미합니다.
같은 방법으로 주성분 1축을 보면 친유성과 H 2 O 용해도는 주성분 1과 높은 상관관계가 있지만 축의 양쪽에 있기 때문에 서로 반비례 관계에 있습니다. 결과적으로 그래프에서 직각에 있는 변수는 상관 관계가 없습니다. 화학적 맥락에서 우리는 주성분 1이 분자의 극성일 가능성이 높다고 가정할 수 있습니다. 이는 분자 극성이 분자가 극성 또는 비극성 용매에 용해될 수 있는지 여부에 영향을 미치기 때문입니다. 이것이 H이기 때문에 2 O 용해도 및 친유성은 이들의 척도이며, 이들이 이 주성분과 높은 상관관계가 있다는 것은 놀라운 일이 아닙니다. 우리는 또한 분자가 분자 크기에 관계없이 용해될 수 있다는 것을 알고 있습니다. 즉, 이 두 측정값이 로딩 플롯에서 볼 수 있는 끓는점 또는 녹는점과 상관관계가 없어야 합니다.
요인 분석
요인 분석은 PCA와 매우 유사하지만 몇 가지 중요한 차이점이 있습니다. PCA와 비교하여 이 방법의 주요 차이점은 주성분과 비교하여 요인의 정의가 다르다는 것입니다.
주성분은 데이터에서 가능한 한 많은 변화를 포착하는 것을 목표로 하는 관찰된 변수의 축소된 형태입니다. 이는 주성분이 관찰된 변수의 측정 오류를 포함하기 때문에 반드시 "실제" 변수일 필요는 없음을 의미합니다. 그러나 FA의 요인은 약간 다릅니다. 인자는 잠재변수라고도 하며 SEM에서 중요한 개념이다. 잠재 변수는 시스템에서 관찰된 변수를 담당하는 근본적인 이유(또는 요인)로 생각할 수 있습니다.
참고로 SEM에서 사용되는 관측변수의 또 다른 말은 매니페스트 변수(manifest variables)이므로 앞으로 이러한 변수를 언급하겠습니다. 이와 같이 FA에서 매니페스트 변수는 시스템에서 측정할 수 없는 "실제" 잠재 변수의 측정 결과라고 생각할 수 있습니다.
FA는 JMP Pro의 요인 분석 플랫폼을 통해 수행할 수 있습니다. 이는 PCA 플랫폼에서와 거의 동일한 방식으로 이루어지므로 동일한 4개의 요소로 동일한 분석을 수행합니다. 이 플랫폼의 유일한 차이점은 요인 분석과 관련된 더 많은 사용자 지정 옵션이 있다는 것입니다. 단순화를 위해 이러한 옵션은 모두 기본값으로 유지됩니다.
플랫폼에서 우리는 두 가지 주요 요인이 있음을 발견했습니다. 이러한 요인은 각 요인이 설명하는 변동의 백분율을 표시하기 위해 위의 로딩 도표에 표시됩니다. 이 플롯과 PCA 플랫폼에서 찾은 플롯이 유사해 보이지만 동일하지는 않습니다.
주요 차이점은 각 요인 또는 주성분이 설명하는 분산의 양에서 볼 수 있습니다. 이것은 각 축에서 보고됩니다. 또 다른 차이점은 각 변수가 두 그래프에 표시되는 정확한 지점입니다. 이는 이들이 요인 및 주성분과 다르게 상관관계가 있음을 보여줍니다. 이러한 차이는 위에서 설명한 것처럼 요소와 주성분을 정의하는 방식의 고유한 차이로 인해 발생합니다. 이에 대한 주요 예는 끓는점 변수의 위치입니다. PCA 분석에서 녹는점과 거의 정확하게 상관 관계가 있습니다. FA 분석에서 끓는점과 녹는점은 그다지 상관관계가 없습니다. 이는 요소 2와 주성분 2가 서로 다른 두 가지 아이디어임을 보여줍니다.
간단히 화학적 맥락에서 설명하자면, 주성분 1은 모든 분자간 상호 작용의 척도이며, 이것이 로딩 플롯에서 끓는점과 녹는점이 거의 동일한 이유입니다. 반면에 요인 분석 부하 그림에서는 이제 녹는점과 끓는점이 같지 않음을 알 수 있습니다. 이는 FA에서 발견되는 요인이 분자간 힘에서 가장 큰 힘 기여인 Van der Waal의 힘이기 때문일 가능성이 높습니다. 다양한 화학적 이유로 이것은 이 요소가 물질의 녹는점에서 더 큰 역할을 하지만 끓는점에 관해서는 다른 분자간 힘이 작용한다는 것을 의미합니다. 이러한 다른 힘은 PCA를 통해 캡처되는 측정 오류로 인해 요소 1에서 설명되지 않지만 주성분 1에 있습니다.
이 아이디어에 대한 결론으로 각 요인의 축에서 각 요인이 주성분보다 더 적은 변동을 설명한다는 것을 알 수 있습니다. 이는 모델을 구축하는 데 사용된 데이터가 경험적이므로 측정 오류가 포함되어 있기 때문에 예상할 수 있습니다. 결과적으로 주성분(측정 오류 포함)이 원래 데이터의 더 많은 변동을 설명한다는 것이 이치에 맞습니다.
SEM의 치수 축소
PCA와 FA는 둘 다 복잡한 개념이므로 철저히 이해할 권리가 있는 책이지만 이러한 주제에 대한 탐구에서 얻을 수 있는 것은 FA는 오류가 없는 잠재 변수를 생성하는 반면 PCA는 다른 요소를 포함하는 주성분을 생성한다는 것입니다. 오류 소스. 두 번째 중요한 점은 FA에서 잠재 변수가 매니페스트 변수를 생성하는 반면 PCA에서 주요 구성 요소는 매니페스트 변수를 "단순화"한 결과라는 것입니다.
이미지 - Laura Castro-Schilo 구조 방정식 모델링의 ABC(2021-EU-45MP-752) - JMP 사용자 커뮤니티
두 지점 모두 PCA와 FA의 차이점을 보여주는 위의 다이어그램에 시각화되어 있습니다. 기본 시스템을 이해하는 측면에서 FA가 더 나은 방법입니다. 이는 PCA에서 발견되는 주요 구성 요소가 시스템에 영향을 미치는 "실제" 변수가 아니기 때문입니다. 그것들은 모델 적합 매개변수일 뿐입니다. 이것은 PCA가 여전히 유용하지만 더 잘 맞는 모델로 이어질 수 있기 때문에 예측 모델링과 같은 다른 분야에서 훨씬 더 나은 응용 프로그램을 가지고 있음을 의미합니다. 결과적으로 SEM에서는 FA를 사용합니다. FA를 사용하면 시스템에서 매니페스트 변수의 근본 원인을 보다 포괄적으로 이해할 수 있습니다. 이와 같이 SEM을 사용하여 매니페스트 변수에 대한 회귀를 통해 잠재 변수를 정량화할 수 있습니다. 실제로 이 아이디어는 다음 게시물에서 다룰 SEM의 핵심 개념인 경로 다이어그램의 기초를 구성합니다.
이것이 치수 감소 기술에 대한 통찰력과 이러한 기술이 SEM에서 사용되는 이유와 사용되지 않는 이유를 제공했기를 바랍니다. 향후 블로그 게시물에서 살펴보게 될 SEM 내 흥미로운 아이디어는 확인 요인 분석(CFA)의 SEM 특수 사례입니다. 이에 대해서는 나중에 자세히 설명합니다.
