검증 행이 누락된 신경망에 대한 오류 메시지 - 해결 방법을 제안해 주세요.안녕하세요 커뮤니티 여러분,
저는 JMP 16에서 JSL 루프의 일부로 여러 모델을 테스트하고 있으며, 다양한 검증 열을 사용하여 R2 값이 사용되는 데이터에 따라 어떻게 변하는지 확인합니다. 각 검증 열에는 데이터의 하위 집합이 포함되어 있으며, 열의 시작 및/또는 끝에 일부 누락된 데이터가 있습니다.
Bootstrap 등 다른 모델은 누락된 값을 무시하는 것만으로는 잘 실행되지만, 신경망은 계속해서 오류 메시지를 표시합니다(JMP 샘플 데이터 세트인 CrimeData에서 재현).
필터 열을 포함하고, 누락된 모든 값을 0으로 설정하고 실행하지 않으면 문제를 해결할 수 있습니다. 하지만 이렇게 하려면 각 검증 열에 대한 필터 열이 필요합니다(또는 각 반복마다 열을 동적으로 생성/삭제).
Neural(
Y( :Murder Rate ),
X(
:Robbery Rate, :"Agg-Aslt Rate"n, :Burglary Rate, :Larceny Rate,
:MVTheft Rate
),
Validation( :Validation ),
Informative Missing( 0 ),
Fit( NTanH( 3 ) ),
Where( :Filter == 1 )
)
이 문제를 겪고 해결책을 찾은 사람이 또 있나요? 감사합니다!
데이터 블렌딩 및 정리예측 모델링 및 머신 러닝Re: 유효성 검사 행이 누락된 신경망에 대한 오류 메시지 - 해결 방법을 제안하시겠습니까?안녕 @c_blanken ,
누락된 데이터가 있는 다른 열에서 유효성 검사 열을 계층화하고 있기 때문에 유효성 검사 열이 모든 행을 채우지 않는 것처럼 보입니다. 내 생각에 JMP는 누락된 데이터가 있기 때문에 유효성 검사 열의 해당 행을 처리하는 방법을 모릅니다.
누락된 데이터가 있는 결과를 모델링할 계획입니까? 그렇지 않은 경우 누락된 데이터가 있는 행을 제외하는 것을 고려할 수 있습니다. 이것은 본질적으로 필터 열로 수행하는 작업이지만 해당 행을 제외하면 테스트하는 각 유효성 검사 열에 대해 새 필터 열이 필요하지 않습니다. . 또한 JSL에서 행 상태를 제외로 쉽게 설정하여 자동으로 수행하고 수동으로 수행할 필요가 없도록 할 수 있습니다.
여전히 누락된 데이터가 있는 데이터를 모델링해야 하는 경우 열에 계층화하지 않고 무작위로 훈련/검증 열을 생성하는 것을 고려할 수 있습니다. JMP는 누락된 데이터가 있더라도 각 행을 적절한 데이터 세트에 할당합니다.
도움이 되었기를 바랍니다!,
DS
Re: 유효성 검사 행이 누락된 신경망에 대한 오류 메시지 - 해결 방법을 제안하시겠습니까?안녕 @c_blanken ,
훌륭한 답변에 몇 가지 의견/설명을 추가하기 위해 @SDF1 .
- 유효성 검사 열과 관련하여 누락된 값이 있는 일부 행이 있는 이유는 무엇입니까? 열 생성 후에 추가되었습니까?
- "Bootstrap Forest" 플랫폼이 유효성 검사 열에서 누락된 값을 처리할 수 있다는 사실이 놀랍지 않습니다. 이 모델은 많은 의사 결정 트리에 적합하도록 훈련 데이터의 부트스트랩 샘플을 사용하기 때문입니다. 신경망 및 기타 방법은 데이터를 "있는 그대로" 사용하므로 경고 메시지가 표시될 수 있습니다.
모델 성능에 대한 교육 세트 가변성의 영향을 평가하기 위해 여러 유효성 검사 열을 만드는 대신 (적어도) 2가지 다른 흥미로운 옵션이 있을 수 있습니다.
1. "공식" 만들기 검증 칼럼(jmp.com) "고정" 유효성 검사 열 대신:
이 접근 방식에는 두 가지 이점이 있습니다.
- 층화/그룹화 유효성 검사의 경우에도 계층화/그룹화 방법 및 사용한 이러한 세트 간의 비율에 따라 추가된 새 행에 대한 유효성 검사 열에 교육/검증 또는 테스트 레이블을 자동으로 추가할 수 있습니다.
- 모델링에서 다양한 훈련 및 검증 세트로 평가하려는 성능 지표를 마우스 오른쪽 버튼으로 클릭하고 "시뮬레이션"을 클릭하면 훈련 세트와 검증 세트 간에 서로 다른 리샘플링을 보다 쉽게 시도할 수 있습니다. 여기에서 옵션을 사용할 수 있습니다. 유효성 검사 열을 켜고 끄려면 다음을 수행하십시오.
이렇게 하면 다양한 교육 및 검증 세트에서 수행된 모든 시뮬레이션이 포함된 데이터 테이블을 얻을 수 있으며 이러한 시뮬레이션으로 얻은 성능 변동성을 플롯할 수 있습니다(여기서는 Random Forest를 사용하는 장난감 데이터 세트 "Boston Housing"의 R²에 대해).
2. 사용 모델 심사 플랫폼(jmp.com) 선택한 모델과 원하는 유효성 검사 방법(K-folds, Nested K-folds, 반복 옵션 또는 유효성 검사 열 포함)만 있는 플랫폼을 선택하고 시작합니다. 결과 요약뿐만 아니라 개별 접기 결과에도 액세스할 수 있습니다.
예를 들어 모델을 실행하기 위해 하나의 접기를 선택하면(여기서는 fold3으로 시도했습니다) 이 접기의 어떤 행이 훈련 또는 검증으로 사용되었는지 알기 위해 데이터 테이블에 새 열도 나타납니다(0: 훈련, 1: 검증) :
이러한 방법은 수동 작업이 적고 유연성이 뛰어나므로 유용할 수 있습니다.
