무료 온라인 과정에서 자세히 알아보십시오.
산업문제 해결을 위한 통계적 사고
이 동영상에서는 JMP Pro에서 일반화 회귀를 사용하여 불이익 회귀 모델을 적합시키는 방법을 보여줍니다. Bodyfat 07.jmp 파일을 사용하고 유효성 검사와 함께 Lasso를 사용하여 %Fat에 대한 모델을 적합합니다.
먼저 %Fat에 대한 선형 회귀 모델을 적합합니다.
이를 위해 Analyze 메뉴에서 Fit Model을 선택합니다. Y 역할에 대해 %Fat를 선택하고 모든 예측 변수를 모델 효과로 선택하고 검증 역할에서 검증 열을 사용합니다.
그런 다음 Personality 메뉴에서 Generalized Regression을 선택합니다.
기본 응답 분포는 정상입니다.정규 분포로 이 모델을 실행할 것입니다.
표준 최소 제곱 회귀 모델에 적합했음을 알 수 있습니다. Parameter Estimates 테이블을 보면 세 개의 예측 변수가 중요하다는 것을 알 수 있습니다.
그러나 다중 공선성에 문제가 있는지 확인하기 위해 VIF 또는 분산 인플레이션 요인을 살펴보겠습니다.
이를 위해 Parameter Estimates 테이블을 마우스 오른쪽 버튼으로 클릭하고 Columns를 선택한 다음 VIF를 선택합니다. 이러한 값 중 많은 값이 10보다 크고 두 값이 100보다 큰 것을 볼 수 있습니다. 이는 다중공선성이 실제로 이러한 데이터에 문제가 있음을 알려줍니다.
상관 예측 변수가 있는 경우 최소 제곱 회귀 대신 불이익 추정 방법을 사용할 수 있습니다.
기본 방법은 Least Absolute Shrinkage and Selection Operator의 줄임말인 Lasso입니다. 올가미는 매개변수 추정치를 축소하기 위해 페널티를 적용합니다. 추정치를 0으로 줄일 수 있기 때문에 올가미는 변수 선택에도 사용할 수 있습니다.
올가미에 사용할 수 있는 옵션이 많이 있지만 기본값으로 모델을 실행하겠습니다.
모델을 지정할 때 유효성 검사 열을 사용했으므로 유효성 검사 열이 기본 유효성 검사 방법입니다.
Go를 클릭하여 이 모델을 실행합니다.
올가미로 선택한 최상의 모델이 표시됩니다. 페널티 매개변수인 Lambda의 최적값을 가진 모델입니다.
모형의 모든 항부터 시작하겠습니다. 이것은 최소 제곱 모델과 동일합니다. 이를 위해 매개변수 추정 솔루션 경로의 빨간색 선을 오른쪽 끝까지 드래그합니다.
솔루션 경로는 중앙화되고 조정된 모수 추정값의 크기를 보여줍니다. 이러한 추정치를 표시하기 위해 모델의 빨간색 삼각형에서 회귀 보고서를 선택한 다음 중앙 및 스케일 예측자의 매개변수 추정치를 선택합니다.
맨 윗줄은 복부에 대한 모수 추정치로 117.87입니다.
위에서 두 번째 줄은 BMI입니다. 이 추정치는 88.9입니다.
빨간색 선을 오른쪽에서 왼쪽으로 드래그하면 페널티 매개변수인 Lambda 값이 증가합니다. 이렇게 하면 많은 매개변수 추정치가 작아지는 것을 볼 수 있습니다. 즉, 축소됩니다.
예를 들어 BMI 추정치는 88.9에서 51.25로 줄었습니다. 무게에 대한 모수 추정치가 0으로 줄었습니다. 이 항은 모델에서 제거됩니다.
여기에 큰 페널티가 적용되었습니다. 키와 복부를 제외한 모든 것이 모델에서 제거되었습니다.
모형에서 항 제거를 중지할 시기를 어떻게 결정합니까? 즉, 페널티 매개변수의 최적 값을 어떻게 결정합니까?
이 모델은 검증 열을 사용하여 작성되었으므로 JMP는 스케일링된 음의 로그 우도라는 통계를 사용합니다.
모델은 훈련 세트의 데이터를 사용하여 작성됩니다. 가장 좋은 모델은 검증 세트에 대해 스케일링된 음의 로그 우도의 최소값을 갖는 모델입니다.
이 모델에는 여러 매개변수가 포함되어 있습니다. 체중, BMI, 허벅지 및 무릎에 대한 추정치가 모델에서 제거되었습니다.
이 축소된 모델을 살펴보겠습니다. 이를 위해 모델의 빨간색 삼각형에서 예측 표현식 표시를 선택합니다.
모수 추정값은 다중 선형 회귀 모델을 적용한 경우와 마찬가지로 선형 모델의 단순한 계수입니다.
이렇게 하면 패널티 모델을 쉽게 해석하고 설명할 수 있습니다.
천 감사합니다!
선생님의 실습 수업이 많은 도움이 되었습니다.
행운을 빕니다,
마넬
