모델 검토에서 가장 좋은 성능을 보인 모델로 Boosted Tree 또는 회귀 문제를 선택했습니다.
부스트 트리의 성능을 더욱 최적화하기 위해 튜닝 테이블 디자인을 사용하는 방법에 대해 여쭤볼 수 있나요?
안녕 @AlphaPanda86751 ,
예측 성능을 향상시키기 위해 선택한 알고리즘의 하이퍼파라미터를 미세 조정하려는 경우 튜닝 테이블이 실제로 도움이 될 수 있습니다.
과적합을 방지하기 위해 이미 검증 전략이 있는지 물어봐도 될까요? k-폴드 교차 검증, 검증 열, 기타 ...? Boosted Tree는 다른 트리 기반 방법(예: 부트스트랩 포리스트)보다 과적합에 더 신속할 수 있으므로 성능을 최적화하기 전에 항상 검증 전략을 고정하고 설정하는 것이 가장 좋습니다.
튜닝 테이블 설계를 사용하려면 모든 조합("그리드" -검색 접근 방식") 또는 조사/미세 조정하려는 다양한 하이퍼파라미터 요인, 각각의 값 범위 및 모델/복잡성을 지정하여 "맞춤 설계" 플랫폼으로 튜닝 테이블 설계를 생성할 수도 있습니다. 이 하이퍼파라미터 공간에서 조사하고자 하는 다양한 조합/상호작용. 여기에서 더 많은 정보를 찾을 수 있습니다(정보는 Bootstrap Forest 플랫폼에서 제공되지만 기술은 Boosted Tree와 매우 유사합니다). 부트스트랩 포레스트 플랫폼(jmp.com) 런칭
첨부된 Custom Design 플랫폼에서 생성된 튜닝 테이블의 예를 찾을 수 있습니다.
그런 다음 이전에 설정한 검증 전략으로 Boosted Tree 플랫폼을 시작하고 JMP가 조정 테이블을 사용하여 다양한 하이퍼파라미터 값을 테스트하도록 할 수 있습니다.
다음은 "정상"(미세 조정되지 않음) Boosted Tree가 있는 Diamonds Dataset의 계층화 유효성 검사 열이 있는 결과의 예입니다.
다음은 Tuning 테이블을 사용한 결과입니다.
여기에서는 JMP의 "기본" 설정과 Boosted Tree의 미세 조정 버전 사이에 큰 변화가 없지만 성능 변화를 평가하기 위해 미세 조정을 시도하는 것이 유용하고 흥미로울 수 있습니다. 검증 수식 열을 사용한 경우(Rsquare, RASE 또는 기타 평가 메트릭을 마우스 오른쪽 버튼으로 클릭하고 "시뮬레이션"을 사용하여 검증 열을 전환하고 비교를 위해 재현 가능한 결과를 얻기 위해 임의의 시드를 설정합니다.)
여기서 다시 한 번 말하지만 JMP의 기본 설정은 훌륭하고 매우 강력하기 때문에 큰 차이는 없지만 직접 시도해 볼 수 있습니다.
첨부된 시뮬레이션 및 그래프 스크립트가 포함된 데이터 테이블을 찾을 수 있으며 샘플 인덱스 또는 여기에 첨부된 다이아몬드 데이터에 대한 데이터 테이블을 찾을 수 있습니다(유효성 검사 열을 포함하고 여기에 제시된 단계를 재현하기 위해).
이것이 도움이 되기를 바랍니다.
