최근에 더 나은 모델 만들기 세미나에서 어떤 사람이 나에게 "응답과 곡선 관계가있는 요소가 있다면 그 관계를 모델링하는 데 의사 결정 트리 모델을 사용할 수 있습니까?"실제로 이것이 가능하다는 것을 보여주기 위해 간단한 시뮬레이션 데이터 세트를 만들었습니다. 모델을 기준으로 200 행
어디에 에이 , 비 , 기음 상수이고, 이자형 은 정규 분포 된 확률 변수입니다. 데이터의 플롯과 적합한 2 차 회귀 모델이 그림 1에 나와 있습니다.
그렇다면이 데이터에 적합 할 때 의사 결정 트리 모델은 어떻게 생겼을까요? 알아 내기 위해, 나는 분할 플랫폼 (분석> 모델링> 파티션)을 선택하여 간단한 의사 결정 트리에 맞 춥니 다. 의사 결정 트리 모델의 간략한보기가 그림 2에 나와 있습니다.
적합 모델 (그림 3)의 플롯을 검토하면 일반 2 차 모델 모양이 의사 결정 트리 모델에 포착됨을 알 수 있습니다. X 데이터의 범위 (-100 <100) 내에서이 모델은 이차 모델과 매우 유사한 예측을 만듭니다. 사실, 두 모델 모두 평균 예측 오차가 같고 R 2 두 모델 모두 0.98입니다. 결정 트리는 Y와 X 사이의 관계의 모양에 대한 가정을하지 않기 때문에 좋습니다.
의사 결정 트리 모델이 여기에 적합하다는 것은 트리에서 각 터미널 노드가 최소 5 개의 데이터 포인트를 가져야한다는 유일한 제한과 함께 가능한 가장 크고 복잡한 모델이라는 것을 아는 것이 중요합니다. 이 데이터의 노이즈는이 데이터의 전반적인 변동성에 비해 상대적으로 작아서 왜 2 차 모델과 파티션 모델이 그처럼 잘 맞는지 설명합니다.
그러나 잡음이 많은 데이터가 있다면 어떨까요? 동일한 2 차 모델에서 두 번째 시뮬레이션 데이터 세트를 고려해보십시오. 단, 임의 오류의 표준 편차는 10 배입니다. 그림 4에서 맞춰진 2 차 모델과 전체 의사 결정 트리 모델을 볼 수 있습니다.
이 경우 의사 결정 트리는 더 이상 데이터 우물의 2 차 특성을 포착하는 것처럼 보이지 않습니다. 이는 파티션 모델이 overfit. 데이터에있는 무작위 오류가 너무 많으면 모델에 할당되므로 모델이 너무 복잡합니다.
오버 피팅없이 데이터 본질을 포착 할 수있는 더 나은 의사 결정 트리 모델을 구축하기 위해 데이터의 20 %를 무작위로 보유하여 유효성 확인 집합으로 사용하여 의사 결정 트리 모델의 크기를 자동으로 선택하는 데 도움을줍니다. 이것은 내장 된 기능입니다. JMP Pro , JMP의 고급 분석 버전 결과 모델은 유효성 검증 세트를 기반으로 선택되었으며 5 개의 터미널 노드 만 있습니다. 이 간단한 결정 트리 모델 (그림 5)의 오버레이는 의사 결정 트리가 이제 데이터의 전반적인 2 차 특성을 포착하고 있음을 보여줍니다. 따라서 원래 질문에 대한 대답은 여전히 "예"이며 JMP Pro를 사용하면 빠르고 자동으로이 작업을 수행 할 수 있습니다.
에릭 카이 쓴 :
하이 샘,
이 매우 명확하고 유익한 게시물 주셔서 감사합니다. 교차 유효성 확인 대신 홀드 아웃 유효성 검사를 사용한 이유를 설명해주십시오. 홀드 아웃 유효성 검증이 데이터가 유효성 검증 세트로 유지되는 변형에 취약하지 않습니까? 교차 유효성 검사는이 변형을 극복 할 수 있으며 이는 일반적으로 사용하는 유효성 검사 방법입니다. 홀드 아웃 밸리데이션 (holdout validation)의 장점에 대해 배우게되어 기쁩니다.
시간 내 줘서 고마워.
에릭
