JMP 및 JMP Pro에서 단계적 회귀 방법 배포JMP와 JMP Pro를 사용하여 예측 모델링에 적합한 중요한 예측 변수를 식별하고, 불필요한 항 추정으로 인한 분산을 줄이고, 예측 모델을 구축하는 방법을 알아보세요. JMP 단계적 회귀를 사용하여 중요한 변수와 활성 모델 효과를 찾는 방법과 이 접근 방식을 변수 선택을 자동으로 통합하는 JMP Pro 일반화 회귀 기법과 비교하는 방법을 보여주는 사례 연구를 살펴보세요.
방법을 확인하세요:
- 단계적 회귀 분석 방법의 기초 이해
- 요인 선택을 자동화하려면 단계적 회귀 옵션을 선택하세요.
- 분석 > 적합 모형 > 성격: 단계적
- 중지 규칙/기준 설정
- 앞으로, 뒤로 또는 혼합 방향 설정
- 전진 선택은 p-값이 가장 낮은 변수를 선택하여 모형에 추가한 다음 p-값을 다시 계산하고 중지 기준이 충족될 때까지 중지 기준을 적용합니다.
- 후진 제거는 p-값이 가장 높은 변수를 선택하여 모델에서 제거한 다음 중지 기준이 충족될 때까지 p-값과 중지 기준을 다시 계산합니다.
- p-값을 중지 기준으로 사용하여 전진 선택과 후진 제거 간의 혼합 교대
- 모델 실행
- 추가 단계별 옵션 사용
- 대체 중지 규칙 - KFold 검증 R2
- 가능한 모든 모델 구축 및 비교
- 각 모델의 AICc 가중치를 기반으로 한 모델 평균 사용
- JMP Pro 일반화 회귀에서 단계별 방법을 구현하여 변수 선택, 검증, 페널티 회귀를 쉽게 배포하여 상관 요인 지원, 대화형 모델 시각화, 모델 비교, 고차 항으로 모델을 쉽게 다시 시작
- 단계적 회귀 및 일반화 회귀 접근 방식의 장점과 한계 이해
JMP Stepwise Regression FlowJMP Stepwise Regression FlowJMP Stepwise Regression FlowJMP Stepwise Regression FlowJMP 단계적 회귀 흐름
라이브 웹 세미나에서 Scott Allen @scott_allen 및 Byron Wingerd @Byron_JMP 가 답변한 질문:
Q: BIC보다 AICc를 선호하는 경우에 대한 지침이 있습니까?
A: BIC는 최소한의 항으로 최고의 모델을 제공합니다. AICc는 가장 많은 변동을 설명하는 모델을 제공하며 항 수에 따라 불이익을 받습니다. AICc의 소문자 c는 수정됨을 의미하며 작은 데이터 세트에 대해 수정됨을 의미합니다. AIC는 알려지지 않은 고차원 현실을 가장 적절하게 설명하는 모델을 선택하려고 합니다. 이는 현실이 고려 중인 후보 모델 집합에 포함되지 않음을 의미합니다. 반대로 BIC는 후보자 집합 중에서 TRUE 모델을 찾으려고 노력합니다.
짧은 대답은, 둘 다 실행하고 비교하거나 2개를 취한 다음 함께 평균을 낼 수도 있다는 것입니다. Stepwise 플랫폼에는 이러한 작업을 수행한 다음 비교하고 자동으로 결과를 그래프로 비교할 수 있는 도구가 있습니다. 일부 경우에. 더 많은 용어를 사용해도 괜찮은지, 아니면 실제로 이를 최소 세트로 줄이려는 것인지, 목표에 따라 다릅니다. 500개의 데이터 포인트가 있는 예에서는 BIC가 선호될 것입니다.
Q: 피팅 여부는 어떻게 확인하나요?
A: JMP에서 선형 모델을 피팅하는 경우에는 Stepwise를 사용하더라도 과적합 문제를 식별하기가 조금 더 까다로워집니다. JMP Pro에서는 테스트, 훈련, 부분 집합 검증을 설정하고(원하는 경우 최소한 테스트와 훈련도 가능) R-제곱을 비교할 수 있습니다. 따라서 훈련 세트의 R-제곱이 정말 훌륭하고 검증의 R-제곱이 정말 형편없다면 이는 데이터를 잘 적합시켰으며 향후 관측값을 잘 예측할 수 없다는 의미입니다.
Q: 모델에는 총 568개의 행에도 유효성 검사 행이 있습니다. 모델에 있는 모든 항목을 사용하고 있나요? 아니면 그대로 유지하고 있나요?
A: 검증을 위해 보류되고 검증 하위 집합으로 별도로 평가됩니다.
Q: 기존 SAS Enterprise Miner에서는 "Ensemble" 노드가 가장 좋은 성능을 발휘하는 경우가 많았습니다. 여러 모델을 실행하고 예측을 저장한 다음 모든 예측 값의 평균을 구하는 것에 대해 어떻게 생각하시나요?
답변: JMP에서는 신경망 플랫폼을 사용하여 앙상블 모델을 설정합니다. 그들은 일반적으로 개별 모델보다 성능이 뛰어난 경향이 있습니다.
Q: 상관관계에 대한 컬러맵은 어떻게 얻었나요?
A: 빨간색 삼각형 아래에서 색상 지도 옵션을 찾으세요.
Q: 다중공선성을 어떻게 감지하고 처리합니까?
A: JMP의 단계적 방법만으로는 다중 공선성을 처리할 수 없으므로 미리 이를 추출하거나 클러스터링을 사용하여 대표 변수를 찾아야 합니다. JMP Pro 일반화 회귀를 사용하는 경우 페널티 회귀 방법을 사용하면 이 문제를 해결하는 데도 도움이 됩니다. 따라서 걱정이 된다면 일반화 회귀를 사용하는 것이 좋습니다. 최소 제곱 모델을 구축하고 실행한 후 모수 추정치를 확인할 수 있습니다. VIF 값이 높으면 다중 공선성을 나타낼 수 있습니다. 아래 비디오를 참조하세요.
고급 통계 모델링Re: JMP 및 JMP Pro에서 단계적 회귀 방법 배포안녕하세요 @SeanL
Pic3에서 프로파일러의 "나비 넥타이"처럼 보이는 신뢰 구간은 상관 관계가 높은 변수가 있음을 나타내는 좋은 지표입니다. 단계적 회귀 분석은 각 변수가 모델에 미치는 영향을 독립적으로 확인하므로 상관 관계가 있는 변수를 항상 감지하지는 않습니다.
이를 확인하려면 Parameter Estimates 테이블에서 테이블을 마우스 오른쪽 버튼으로 클릭하고 VIF 열을 추가하여 VIF를 확인할 수 있습니다. VIF 값이 10보다 크면 공선성이 문제가 될 수 있음을 나타냅니다. 통계 지식 포털에는 여기에 대한 좋은 개요가 있습니다.
변수 중 하나를 수동으로 제거하면 그림 4에서 이 문제가 해결된 것 같습니다.
모든 변수에 대해 다변량 분석을 실행하여 상관 관계를 확인한 다음 모델링에 가장 적합한 변수를 선택할 수 있습니다. 상관관계가 있는 고차원 데이터를 위한 예측 모델 구축 에 관한 JMP 마스터링 웹 세미나를 시청하실 수도 있습니다.
Re: JMP 및 JMP Pro에서 단계적 회귀 방법 배포웹 세미나에 감사드립니다! 그리고 이 감사는 Scott Allen에게도 적용됩니다.
그것은 훌륭한 학습이었고 나는 새로운 학습을 내 데이터에 즉시 적용하고 싶었습니다.
새로 배운 K-폴더 회귀 방법을 적용했을 때 결과가 엇갈렸습니다.
- 이 웨비나 세션 전에 Stepwise가 수행한 원본 회귀 분석: 규칙, 방향 및 기타 항목에 대한 기본 설정을 사용하여 아래에 먼저 나열된 모델에 대해 실행했습니다(그림 1). p-값이 0.05보다 큰 항을 제거하고 더 단순화하여(합리적인 adj-R2 값 내의 감소 항) 모델의 범위를 더욱 좁혔습니다. 나는 그 결과에 만족했습니다.
- 이 웨비나 이후 동일한 Stepwise에 의한 향후 분석: 규칙을 'Max K-fold RSquare'로 변경하여 분석을 반복하여 예비 분석(Pic2)을 얻었습니다. 예비 결과에서는 13개의 용어가 가장 좋은 Max R 값을 보여줍니다. 나는 내 모델에 그렇게 많은 항을 원하지 않으며 Training과 K-Fold 모두에 대해 5~6항의 R-값 수준으로 괜찮았습니다. 그래서 6항의 결과를 본 대로 선택하고 모형을 실행해 보았습니다.
보시다시피 해당 모델에는 Pic3에 PValue >0.05라는 용어가 포함되어 있습니다. 또한 프로필에서 신뢰도/분산 수준은 대부분의 용어에 대해 매우 넓습니다. 그래서 원래 모델과 유사한 R-값 및 유사한 모델을 갖기 위해 AR 항을 제거했습니다. 단, 원래 모델의 'RV'가 새 모델에서 'Vol' 항으로 대체되었습니다. RV 및 Vol의 이 두 용어는 유사한 정보를 전달할 수 있지만 정확히 동일하지는 않습니다. K-fold가 다른 용어보다 K-fold를 지배하는 이유를 모르겠습니다.
어쨌든, 원래 모델이 그리 나쁘지 않았음을 확인하는 유사한 모델링 방식으로 나온 결과에 만족합니다(별도의 학습 및 검증 과정 없이). 이것이 데이터 세트를 다음과 같이 나누는 K-fold 방법에 대한 이해였습니다. 한 그룹은 훈련에 사용하고 다른 그룹은 검증에 사용하는 2개의 하위 집합 그룹입니다.
위의 내용이 첫 번째 질문으로 간주된다면 두 번째 질문은 다음과 같습니다.
K-Fold 방법은 R2 0.947을 산출하여 약간 더 나은 결과를 얻었지만 여전히 원래 결과 R2 0.942를 선호합니다. 이는 해당 모델이 K-Fold의 새로운 결과와 비교하여 Rad 및 RV 조건에 대한 모델링 프로파일러에서 불확실성이 적기 때문입니다. K-Fold 방법은 이러한 종류의 모델 검증에 간단히 사용할 수 있으며 원래 접근 방식이 충분하지 않은 경우 그 이상을 사용할 수 있습니다.
이 특정 예에서는 R2 값이 크게 다르지 않았기 때문에 어려운 결정은 아니었습니다.
그러나 원래 모델에서 R2 값이 0.1만큼 낮지만(항이 2~3개 적음) 예측 프로파일러에서는 분산이 훨씬 적다면(원래 모델 대 Pic3의 모델과 같이) 어떤 모델이 더 좋을까요?
현재 JMP 17을 사용하고 있습니다.
Pic1: 원본 분석
Pic2: K-겹 규칙에 의한 예비 회귀
Pic3: 모델: K-Fold
Pic4: K-Fold 방법에 의한 최종 결과
Re: JMP 및 JMP Pro에서 단계적 회귀 방법 배포앙상블 모델과 관련하여 @scott_allen 은 다음과 같이 썼습니다. Standard JMP 및 JMP Pro에서 앙상블 모델을 구축하는 다른 방법이 있습니다. 간단히 표준 JMP에서 모델의 평균을 수동으로 계산할 수 있습니다(합산하여 모델 수로 나눕니다). JMP Pro에서는 모델 비교 플랫폼을 사용하여 다양한 모델을 앙상블할 수 있습니다. 또한 @Peter_Hersh 의 2021 앙상블 모델 프레젠테이션을 참조하세요.
