JMP와 JMP Pro를 사용하여 예측 모델링에 적합한 중요한 예측 변수를 식별하고, 불필요한 용어를 추정하여 발생하는 분산을 줄이고, 예측 모델을 구축하는 방법을 알아보세요. JMP Stepwise Regression을 사용하여 중요한 변수와 활성 모델 효과를 찾는 방법과 해당 접근 방식이 변수 선택을 자동으로 통합하는 JMP Pro Generalized Regression 기술과 어떻게 비교되는지 보여주는 사례 연구를 확인하세요.
방법을 확인하세요:
- 단계적 회귀 방법의 기초를 이해하십시오
- 요인 선택을 자동화하기 위해 단계별 회귀 옵션을 선택하세요
- 분석 > 모델 적합 > 성격: 단계적
- 중지 규칙/기준 설정
- 앞으로, 뒤로 또는 혼합 방향으로 설정
- 전방 선택은 가장 낮은 p-값을 갖는 변수를 선택하여 모델에 추가한 다음 p-값과 중지 기준을 다시 계산하여 중지 기준이 충족될 때까지 계속합니다.
- 후방 제거법은 p-값이 가장 높은 변수를 선택하여 모델에서 제거한 다음, 중지 기준이 충족될 때까지 p-값과 중지 기준을 다시 계산합니다.
- 혼합은 p값을 중단 기준으로 사용하여 전방 선택과 후방 제거를 번갈아 가며 수행합니다.
- 모델 실행
- 추가 단계별 옵션 사용
- 대체 중단 규칙 - KFold 검증 R2
- 가능한 모든 모델을 구축하고 비교합니다.
- 각 모델의 AICc 가중치를 기반으로 모델 평균화를 사용합니다.
- JMP Pro 일반화 회귀에서 단계적 방법을 구현하여 변수 선택, 검증, 상관 관계 요인을 돕기 위한 페널티 회귀, 대화형 모델 시각화, 모델 비교, 고차 항을 사용하여 모델을 쉽게 다시 시작합니다.
- 단계적 회귀 및 일반화 회귀 접근 방식의 장점과 한계를 이해합니다.
JMP Stepwise Regression FlowJMP 단계적 회귀 흐름JMP 단계적 회귀 흐름
라이브 웨비나에서 Scott Allen @scott_allen 과 Byron Wingerd @Byron_JMP 가 답한 질문:
질문: AICc가 BIC보다 선호되는 경우에 대한 지침이 있나요?
A: BIC는 가장 적은 용어로 최상의 모델을 제공하고, AICc는 가장 많은 변형을 설명하는 모델을 제공하며 용어 수에 따라 페널티를 받습니다. AICc의 소문자 c는 수정됨을 의미하며 작은 데이터 집합에 대해 수정됨을 의미합니다. AIC는 알려지지 않은 고차원 현실을 가장 적절하게 설명하는 모델을 선택하려고 합니다. 즉, 현실은 고려되는 후보 모델 집합에 결코 포함되지 않습니다. 반대로 BIC는 후보 집합 중에서 참 모델을 찾으려고 합니다.
간단히 말해서, 저는 둘 다 실행해서 비교하거나 둘을 취해서 평균을 낼 수도 있습니다. Stepwise 플랫폼에는 이를 실행하고 비교한 다음 그래프에서 결과를 자동으로 비교할 수 있는 도구가 있습니다. 어떤 경우에는 목표에 따라 달라집니다. 더 많은 용어가 있어도 괜찮은지 아니면 정말 최소 세트로 줄이고 싶은지 말입니다. 500개의 데이터 포인트가 있는 예에서는 BIC가 더 선호될 것입니다.
질문: 과잉적합을 어떻게 확인하나요?
A: JMP에서 선형 모델을 피팅하는 경우, Stepwise를 사용하더라도 과적합 문제를 식별하는 것이 약간 더 까다로울 것입니다. JMP Pro에서 테스트, 훈련 및 검증 하위 집합(또는 원하는 경우 최소한 테스트 및 훈련)을 설정하고 R 제곱을 비교할 수 있습니다. 따라서 훈련 집합의 R 제곱이 정말 좋고 검증의 R 제곱이 정말 나쁘면 데이터를 잘 피팅한 것이고 향후 관찰을 잘 예측할 수 없다는 것을 의미합니다.
질문: 모델에서 총 568개 행에도 유효성 검사 행이 있습니다. 모델에서 이 모든 행을 사용할지, 아니면 보관할지 알려주세요?
대답: 이들은 검증을 위해 보류되고 검증 하위 집합으로 별도로 평가됩니다.
질문: 이전 SAS Enterprise Miner에서는 "Ensemble" 노드가 종종 가장 좋은 성능을 보였습니다. 여러 모델을 실행하고 예측을 저장한 다음 예측된 모든 값을 평균화하는 것에 대해 어떻게 생각하십니까?
A: JMP에서 우리는 신경망 플랫폼을 사용하여 앙상블 모델을 설정합니다. 일반적으로 개별 모델보다 성능이 더 좋습니다.
질문: 상관관계에 대한 색상 지도는 어떻게 얻었나요?
답변: 빨간색 삼각형 아래에서 색상 맵 옵션을 찾으세요.
질문: 다중공선성을 어떻게 감지하고 처리하나요?
A: JMP에서 단계적으로만 다중공선성을 처리할 수 없으므로 미리 꺼내거나 클러스터링을 사용하여 대표 변수를 찾아야 합니다. JMP Pro 일반화 회귀를 사용하는 경우 페널티 회귀 방법이 이를 해결하는 데 도움이 되므로 실제로 우려되는 경우 일반화 회귀가 확실히 방법입니다. 최소 제곱 모델을 빌드하고 실행한 다음 매개변수 추정치를 살펴볼 수 있습니다. 높은 VIF 값은 다중공선성을 나타낼 수 있습니다. 아래 비디오를 참조하세요.
