JMP 18을 사용한 영상은 2025년 5월에 게시되었습니다.
예측 모델을 사용하고 싶지만 먼저 기본 사항을 이해하거나 검토해야 하나요? 예측 모델링을 시도해 보셨는데, 개발한 모델의 정확도를 인정해야 할지 확신이 서지 않나요? 특정 한계를 초과하거나 그 이상을 측정할 수 없어 외삽법에 의존하고 계신가요?
이 세션 "JMP 마스터하기"에서는 JMP와 JMP Pro의 도구를 활용하여 예측 모델을 구축하고 흔히 저지르는 실수를 피하는 방법을 알아봅니다. 다음 내용을 다룹니다.
- 과도한 적합을 방지하기 위해 모델 검증을 수행합니다.
- 터무니없는 예측은 피하세요.
- 입력 변수의 다중공선성을 해결합니다.
@andreacoombs , Momena Monwar @모멘타 , @제드_캠벨 , @찰리_휘트먼 , @빌_워리 가 라이브 웨비나에서 질문에 답했습니다.
질문: 공선성이란 무엇을 의미합니까?
A: 공선성은 두 설명 변수 사이의 선형 관계를 나타냅니다. 두 변수 사이에 정확한 선형 관계가 존재하여 상관관계가 1 또는 -1일 때, 두 변수는 완벽하게 공선적입니다. 2개 이상의 요인 사이에 공선성이 있는 경우, 일반적으로 다중공선성이라고 합니다.
큐: 다중공선성에 Predictor Profiler를 사용할 수 있나요?
에이: Prediction Profiler에서는 기울기 변화를 기준으로 공선성이나 상호작용 효과가 있는지 확인할 수 있습니다.
큐: 예측 변수 스크리닝에서 상호 작용 항목을 살펴볼 수 있나요?
에이: Predictor Screening은 Bootstrap Forest 기반 열 기여도를 살펴보는 빠른 도구입니다. Predictor Screening 플랫폼 인터페이스에서는 상호작용 용어를 직접 확인할 수 없습니다. 하지만 Bootstrap Forest를 실행하고 Profiler를 활성화한 후 상호작용을 선택하여 살펴볼 수 있습니다.
큐: JMP가 예측 변수 스크리닝 플랫폼에 Null Factor를 추가하여 어떤 변수가 실제 무작위 변수와 비교해서 포함되어야 하는지 다시 한번 확인할 수 있을까요? 몇 년 전 자동 검증 발표에서 언급했던 Null Factor와 비슷한 기능을 생각하고 있습니다.
에이: 무작위 열 한두 개를 생성한 다음, 예측 변수 스크리닝 플랫폼의 X 범주에 해당 열을 포함할 수 있습니다. 그러면 해당 무작위 변수보다 낮은 값은 포함하지 않는 것이 좋습니다.
큐: 예측 변수가 너무 많으면 몇 개일까요? VIF 값을 기준으로 삼아야 할까요, 아니면 일부 모델에 50개 이상의 예측 변수를 포함할 수 있을까요?
에이: 일반적으로 5~10을 넘으면 공선성이나 다중공선성이 발생합니다. 이 영상과 자료에서는 VIF와 공선성에 대해 다룹니다.
큐: 상관관계가 있거나 동일선상에 있는 변수들을 왜 포함하지 않나요? 왜 삭제하는 건가요?
에이: 예를 들어 신경망이나 부트스트랩을 사용했다면 둘 다 그대로 둘 수 있습니다. 하지만 선형 모델을 구축하고 있고 해당 매개변수 추정값이 상관관계가 있다면 둘 다 포함할 필요가 없습니다. 하나는 유지하고 다른 하나는 제거할 수 있습니다.
큐: 모델 검증은 많은 양의 데이터로만 수행할 수 있나요? 일부 데이터를 보류하기 위해 필요한 최소 데이터는 얼마인가요?
에이: 데이터가 너무 적으면 과적합될 가능성이 있습니다. 또한, 이는 학습하려는 모델의 유형에 따라 달라집니다. 50/100 데이터로 시도해 볼 수 있으며, 데이터가 많을수록 좋습니다.
큐: 학습 행이나 홀드백 행에서 모델을 필터링했을 때, 원래 행을 적용하는 대신 홀드백 행에서 모델이 다시 학습되었나요?
에이: 훈련 세트는 모델을 훈련하는 데 사용되었습니다. 홀드백 부분은 처음에는 모델에 적용되지 않으며, 모델에 보이지 않는 데이터로 간주됩니다. 훈련 모델이 완료된 후, 홀드백 부분을 사용하여 모델이 보이지 않는 데이터에 대해 얼마나 잘 예측하는지 확인합니다.
큐: 적합성 부족을 제거하기 위해 박스콕스 변환을 사용해야 할까요?
에이: 가능합니다. 예측 변수와 반응 간의 관계를 선형화하는 데 도움이 됩니다.
큐: Box Cox 변환을 수행하는 동안 다시 맞춰야 하는 것을 결정하기 위한 람다 한계는 무엇입니까?
에이: 기본적으로 빨간색 선이 내려오는 곳과 파란색 수평선과 교차하는 곳을 살펴보는 겁니다. 따라서 해당 영역에 있는 것은 아마 다시 장착할 필요가 없겠지만, 수평선 위에 있는 것은 다시 장착하는 것이 좋습니다.
큐: 예를 들어 깊이와 같이 나무에 "한계"를 두는 방법이 있습니까?
에이: 표준 JMP에서는 Predictor Screening을 실행할 때 트리 수를 지정할 수 있습니다. JMP Pro에서는 모델을 조정하는 방법이 더 다양합니다. Predictor Selection Assistant 추가 기능 도 Predictor Screening에서 더 명확한 "선"을 그리는 데 도움이 됩니다. 이 기능은 JMP의 또 다른 시스템 엔지니어인 Scott Allen이 개발했습니다.
큐: 와이블과 노멀이 좋다고 말씀하셨는데, 어떻게 결정하시는 건가요?
에이: 제 예시에서는 검증 열을 포함하지 않았습니다. 검증 열이 없는 경우 정보 기준을 사용하여 어떤 모델이 가장 적합한지 확인할 수 있습니다. 여러 모델의 AICc 값을 비교합니다(예: 와이블 모델의 AICc와 정규 분포 모델의 AICc). 이러한 단위의 크기는 중요하지 않습니다. 중요한 것은 서로 비교하는 것입니다. 따라서 몇 단위 이내에서는 동일하다고 간주할 수 있습니다. 와이블과 로그 정규 분포는 여기에서 매우 유사하지만, 지수 분포와 정규 분포보다 훨씬 작습니다(AICC가 낮음). 또 다른 방법은 검증 열을 포함하는 것이었고, 검증 R 제곱 또는 검정 R 제곱을 나타내는 다른 열을 여기에 포함했을 것입니다. 따라서 실제 홀드아웃의 R 제곱을 보고 검정 모델을 비교하는 것은 가장 적합한 모델을 결정하는 또 다른 방법입니다. 비디오 보기:
이 비디오에서는 JMP Pro를 사용하여 상관관계가 있고 차원이 높은 데이터에 대한 예측 모델을 구축하는 방법을 보여줍니다.
큐: 다중공선형 반응이 유의미한 경우 어떻게 해야 합니까?
에이: 그 말은 믿지 마세요. 공선성이나 다중공선성이 있을 때는 p값과 모형을 신뢰할 수 없습니다. 모수 추정치나 모형의 유의성 검정을 수행하거나 예측을 하려면 먼저 다중공선성을 처리해야 합니다.