결과를 예측하기 위해 많은 수의 변수가 제시되면 예측 문제를 쉽게 해결할 수 있도록 변수의 수를 줄이는 것이 좋습니다. 가능한 한 차원 감소 기술은 잘 알려진 방법입니다. 주성분 분석 (PCA). 그러나 PCA로 인한 변수는 해석하기가 어려울 수 있습니다. 대체 전략은 변수 클러스터링 , JMP Pro .
작성자 : SAS / STAT Warren Sarle 개발 이사 VARCLUS 절차 , 변수 클러스터링은 유사한 변수를 그룹화하여 변수의 수를 줄입니다. 이렇게하면 클러스터 구성 요소 , 새로운 변수로서 각 클러스터 내의 변수들로부터의 첫 번째 주성분. 이 새로운 변수는 각 클러스터 내의 변수로만 구성된다는 점에서 유사점을 공유합니다. 공선 성을 줄이면서 해석을 더욱 향상 시키려면 각 클러스터 구성 요소 대신 각 클러스터에서 가장 대표적인 변수 만 사용할 수 있습니다.
변수 클러스터링의 작동 방식
변수 클러스터링 알고리즘은 단일 클러스터의 모든 변수로 시작하는 반복 알고리즘이며 새 분할 또는 할당이 가능하지 않을 때까지 변수를 반복적으로 분할하여 새 클러스터에 할당합니다. 보다 구체적으로, 클러스터는 클러스터의 주요 구성 요소에 따라 반복적으로 작은 클러스터로 분할됩니다. 알고리즘의 매 반복마다 가장 큰 두 번째 고유 값을 갖는 클러스터가 두 개의 새로운 클러스터로 분할되도록 선택됩니다. 분할되는 클러스터의 구성원은 분할되는 클러스터의 첫 번째 두 개의 정사각형 회전 된 주요 구성 요소와의 상관 관계에 따라 새 클러스터에 할당됩니다. 분할되면, 다른 모든 변수는 검사되고 다른 클러스터와의 상관도가 더 높을 경우 다른 클러스터로 재 지정됩니다. 변수 클러스터링은 모든 클러스터의 두 번째 고유 값이 1보다 작 으면 끝납니다.
예 : 와인 품질 예측
변수 클러스터링을 입증하기 위해 다음을 사용하여 와인 품질을 예측합시다. 와인 품질 데이터 세트 제공되는 UCI 머신 학습 리포지토리 . 레드 와인과 화이트 와인으로 구분 된이 데이터 세트는 고정 된 산도, 휘발성 산도, 구연산, 잔류 설탕, 염화물, 유리 이산화황, 총 이산화황, 밀도, pH, 황산염 등의 11 가지 변수로 구성되어 있습니다. 및 알코올.
변수 클러스터링을 사용하여 이러한 변수의 차원을 줄이려면 먼저 주요 구성 요소 플랫폼을 선택하십시오. 다음으로 변수를 다음과 같이 선택합니다. Y, 열 확인을 클릭하십시오.
그러면 와인 품질 데이터에 대한 Principal Components 플랫폼이 실행됩니다. 여기에서 주 구성 요소 빨간색 삼각형 메뉴 아래에있는 클러스터 변수 옵션을 선택하십시오. 변수 클러스터링 클러스터 요약이 표시됩니다. 이 요약에서 알 수 있듯이 11 개의 변수는 4 개의 클러스터로 요약되었으며 각 클러스터는 각각 4, 3, 2 및 2 개의 멤버를가집니다. 그만큼 가장 대표적인 변수 열은 각 변수 클러스터를 가장 잘 나타내는 변수를 표시합니다. 각 클러스터 내에서 설명 된 변동 비율이 열에 나열됩니다. 편차의 비율 설명 설명 된 변형의 전체 비율 인 0.558은 요약의 맨 아래에 나열되어 있습니다.
변수 클러스터링 빨간색 삼각형 메뉴를 사용하여 클러스터 구성원 테이블을 요청할 수 있습니다. 이 클러스터 구성원은 변수 간의 유사성에 대한 통찰력을 제공합니다. 예를 들어이 표는 클러스터 번호 1의 네 구성원이 고정 된 산도, 염화물, 밀도 및 황산염과 유사 함을 보여줍니다.
각 변수와 그것이 속한 클러스터의 RSquare가 열에 나열됩니다. 자체 클러스터와 RSquare . 그만큼 다음 가장 가까운 곳과 RSquare column은 각 변수와 그 다음으로 가장 유사한 클러스터 사이의 RSquare입니다. 그만큼 1-RSquare 비율 열은 변수가 속해있는 클러스터와 그 다음으로 가장 유사한 클러스터 사이의 상대적인 친밀도를 측정 한 것입니다. 예를 들어 고정 산도에 대한 1-RSQuare Ratio는 (1-0.527) / (1-0.106) = 0.473 / 0.894 = 0.529로 계산됩니다. 이것은이 양이 상대적 친밀도를 측정하는 방법을 설명합니다. 1-RSquare Ratio의 값이 1보다 크면 다음 가장 가까운 클러스터가 실제로 변수가 현재 속한 클러스터보다 더 유사하다는 것을 의미하므로 모든 1-RSquare Ratios는 1보다 작아야합니다.
와인 품질 감소 비교
이러한 다양한 환원 기술이 와인 품질을 예측하는 방법을 비교하기 위해 다음과 같은 세 가지 서로 다른 예측 변수 세트를 사용하여 선형 회귀 분석을 실시했습니다.
- 각 클러스터 (MRV)에서 가장 대표적인 4 가지 변수.
이 모델은 2/3 교육 데이터 세트에 적합하며 모델 비교 플랫폼을 사용하여 모델을 비교합니다.
훈련 샘플 인 RSQuare와 검증 샘플 RSquare도 비슷한 이야기를합니다. 가장 대표적인 변수를 사용하는 모델이 두 모델을 능가하는 반면 주 구성 요소가있는 모델은 클러스터 구성 요소를 사용하여 모델보다 약간 우수한 성능을 보입니다. 이것은 우리가보다 간략한 모델을 발견했을뿐만 아니라 결과를 더 쉽게 해석 할 수있는 모델을 찾은 이상적인 솔루션입니다.
변수 클러스터링 추가 고려 JMP Pro 귀하의 가변 축소 툴킷에 오늘!
참고 문헌
P. Cortez, A. Cerdeira, F. Almeida, T. Matos 및 J. Reis. 물리 화학적 특성으로부터 데이터 마이닝으로 와인 선호도 모델링. Decision Support Systems, Elsevier, 47 (4) : 547-553, 2009.
변수 함수의 클러스터링은 실제로 내 작업에 도움이되었습니다.
이 결정을 내리기 위해 어떤 기준이 사용되는지, 즉 고유치 (eigenvalue)를 결정하는 데 클러스터의 최종 개수가 어떻게 조절되는지 말해 줄 수 있습니까?
JMP 14의 경우 클러스터 수를 선택하는 옵션을 포함 할 생각입니까?
또한 관계를 보여주기 위해 덴 드로 그램이나 시각적 인 일을하는 것이 좋을 것입니다.
레네
Ryan Parker 쓴 :
안녕하세요, JMP 11 Pro에서는 현재 옵션이 없습니다. 미래를 JMP Pro의 미래 버전에 추가 할 계획입니다!
라이언
호세 게레로 쓴 :
여보세요,
JMP 11 프로 PC 용 VARCLUS에서와 같이 클러스터 수를 선택할 수 있습니까?
감사
