Boosted Trees에 대한 "예상"은 무엇을 나타냅니까?안녕하세요
예측 모델링 플랫폼에서 부스트된 트리에 대한 질문:
1- 스플릿 엔드에서 "추정"은 수학적으로 무엇을 나타냅니까? 매개변수(예: 민감도)의 단위 변화당 응답의 예상되는 변화입니까?
2- 예를 들어 부스트 트리 모델의 200개 레이어를 가정할 때, 최종 예측 모델은 200번째, 즉 마지막 레이어 모델 또는 모든 200개 모델의 평균과 동일합니까? 부스트된 트리가 이전 트리의 잔차에서 배우는 것이 확실하지 않습니다. 그래서 아마도 마지막 모델일 것이라고 생각하는 경향이 있지만 앙상블 방법은 과장된 방법입니다(반론).
3- 부스트 트리 모델에서 신뢰 구간을 추정하는 실용적인 방법이 있습니까? 아마도 각 레이어의 결과를 얻은 다음 분포를 만들 수 있습니까?
지원에 감사드립니다. 감사해요.
해석학Re: Boosted Trees에 대한 "추정치"는 무엇을 나타냅니까?고마워 빅터. 감사합니다.
Re: Boosted Trees에 대한 "추정치"는 무엇을 나타냅니까?안녕하세요 @altug_bayram ,
1- 부스팅된 트리 모델의 각 개별 트리는 이전 트리의 잔차(오류)에 구성되므로 추정치는 결과의 평균(모델링/예측하려는 항목)에 추가할 숫자라고 말하고 싶습니다. 카테고리/스플릿에 있습니다. 트리 기반 방법은 "스텝 프로파일러"(스크린샷 참조)를 제공합니다. 여기에서 한 요소의 값을 변경하면 분할 위치에 따라 반응이 갑자기 증가할 수 있음을 명확하게 확인할 수 있습니다.
2- 배깅 트리 기반 방법(예: Random Forest)에서 최종 결과는 개별 트리의 평균/평균 결과입니다. 부스팅 트리 알고리즘에서 예측된 결과(선택한 분할의 "경로"에 따라 다름)를 얻으려면 다른 트리의 모든 "추정값"을 합산해야 합니다(평균 결과를 추가해야 함). 트리는 이전 레이어의 잔차를 기반으로 적합하므로 각 레이어가 이전 레이어의 잘못된 피팅 데이터에 대한 피팅을 수정할 수 있습니다. 관찰에 대한 최종 예측은 모든 레이어에 대한 해당 관찰에 대한 예측 잔차의 합입니다."(출처: Boosted Tree - JMP 13 예측 및 전문 모델링 [도서](oreilly.com) ).
3- 이것에 대해 잘 모르겠습니다. 모델의 잔차를 사용하거나 모델의 RASE 결과를 부스트래핑하여 RASE가 모델의 (평균 제곱근) 예측 오류를 더 잘 평가할 수 있도록 95% 부트스트랩 간격을 구축하거나 K- 모델의 RASE를 더 잘 추정하기 위해 "모델 스크리닝" 플랫폼의 교차 검증을 접습니다.
이 첫 번째 답변이 도움이 되길 바라며,
