데이터 마이닝은 때로는 많은 양의 데이터에서 패턴과 관계를 찾고 있습니다. 재귀 분할 및 신경망과 같은 많은 방법은 채굴되는 데이터 샘플에 매우 민감합니다. 미래의 결과를 예측하는 데 유용한 모델을 만들고 있는지 어떻게 알 수 있습니까?
우리는 반복 가능한 모델을 원합니다. 즉, 미래의 데이터에 사용된다면 결과를 예측할 때 비슷한 성공률을 보일 것입니다. 데이터 마이너는 모델 정확성을 보장하기 위해 데이터를 세 개의 서로 다른 하위 집합으로 분리합니다. 교육 데이터, 유효성 검사 데이터 및 테스트 데이터입니다. 각 데이터 세트의 데이터 비율에 관해 설정된 규칙은 없지만 좋은 경험 법칙은 40/40/20입니다.
두 개의 새로운 변수를 만들어 보겠습니다. 첫 번째 변수는 0에서 1 사이의 값을 무작위로 할당하는 무작위 균일 분포에서 값을 할당합니다. 그런 다음 데이터를 세 개의 하위 집합으로 그룹화하는 수식 편집기를 사용하여 "하위 집합"이라는 새 변수를 만듭니다. 값이 0.40보다 작 으면,이 데이터는 훈련에 사용됩니다. 유효성을 검사하는 데 0.40에서 0.80 사이의 데이터가 사용됩니다. 0.80 이상의 데이터는 테스트에 사용됩니다. 아래 수식 편집기를 참조하십시오. 다음 버전의 더 쉬운 방법을 위해 계속 지켜봐주십시오. JMP .
교육 데이터는 모델을 작성하는 데 사용됩니다. 소음이 아닌 패턴을 모델링했다고 생각되면 유효성 검사 데이터 세트에서 모델을 실행하십시오. 결과는 특히 데이터 세트가 큰 경우 유사해야합니다. 결과가 다른 경우, 작성한 모델이 데이터에 과도하게 적합합니다 (즉, 모델링 된 소음). 이 과정에서 앞뒤로 몇 가지가있을 것입니다. 교육 및 검증 결과가 모두 유사하면 반복 가능한 모델을 발견하게됩니다. 이 모델은 테스트 데이터 세트로 테스트합니다. 세 모델 모두 비슷한 적합성을 가져야합니다. 그렇지 않으면 데이터의 기본 패턴이 밝혀지지 않은 것입니다.
JMP에서 데이터 필터를 사용하여 유효성 검사 및 테스트 데이터를 숨기고 배제하여 교육 데이터를 사용하여 모델을 교육하십시오. 유효성 검사를 사용하여 모델을 재실행 한 다음 데이터 필터를 사용하여 유효성 검사 및 테스트 데이터간에 전환하여 데이터 세트를 테스트하십시오.
train-validate-test 방법을 사용하는 것은 다른 방법의 모델을 비교할 때 특히 중요합니다. 예를 들어 모델이 신경망에서는 반복 가능하지만 재귀 분할에서는 반복 할 수 없다는 것을 알게되면 미래에 결과를 예측할 수있는 최적의 모델과 모델을 발견하게됩니다.
편집자 주 :이 항목은 원래 다른 블로거가 게시했습니다.
JMP로 신속하게 예측 모델 만들기 쓴 :
[...] 뒤로,이 블로그는 concept. 훈련, 유효성 검사 및 testÂÂ를 구축하는 개념에 위대한 게시물을 특집뿐만 아니라 설명 적이 아니라 예측 모델을 구축하려면 [...]
마이클 조너 쓴 :
수식 편집기 스크린 샷에는 실제로 두 개의 "무작위 통일 ()"호출이 있습니다. 이로 인해 Train에서 40 %를 얻지 만 데이터의 나머지 60 %는 40/60으로 나눕니다. 따라서, 당신은 그 코드로 40/24/36 분리를 얻습니다. 설명 된 수식 열을 만든 다음 해당 수식 열에 대해 배포 플랫폼을 실행하여 직접 확인할 수 있습니다. 이 문제에 대한 몇 가지 해결책이 있습니다. 한 가지 방법은 두 개의 열을 만드는 것입니다. 하나의 열은 Random Uniform () 숫자로, 두 번째 열은 분류 할 수 있습니다.
