PLS 플랫폼이 유효성 검사없이 다시 장착되고 있습니다. 부트 스트랩을 사용하는 방법은 무엇입니까?안녕하세요,
1) PLS를하고 있는데 42 개의 관찰이 있습니다. 가능한 예측 변수의 수는 변수를 사전 선택하는 정도에 따라 24에서 79에서 240까지입니다. 내 Y는 범주 형, 2 또는 3입니다. 플랫폼 출시를 실행 한 후 NIPALS / SIMPLS 부분으로 이동합니다. 어떤 유형의 유효성 검사 (Kfold, leave on, e holdout)를 사용하든 내가 선택한 요인 수에 관계없이 항상 오류가 발생합니다. 0 요인, 검증없이 재 적합 ".이 문제를 해결하기 위해 할 수있는 제안이 있습니까? 나는 정말로 PLS를 사용하고 싶지만 유효성 검사가없는 모델링은 과적 합입니다.
2) 결과가 나오면 예측식이 생겼습니다. 부트 스트랩 절차는 무엇입니까? 결과를 부트 스트랩하는 절차에 대해 많은 불확실성이 있습니다. JMP가 이미 유효성 검사 프로세스에 부트 스트랩을 도입했으면합니다. 부트 스트랩 된 계수의 평균을 계산해야한다고 가정하고 있지만 해당 테이블을 다시 실행하여 전체 모델을 부트 스트랩합니다. k-fold 유효성 검사 (작동하는 경우)? 그렇다면 중앙 및 스케일링 된 데이터 또는 원래 계수를 사용해야합니까? 결과를 공식으로 수동으로 입력해야하므로 원래 계수를 부트 스트랩해야한다고 가정하고 있지만 중앙 스케일링 된 데이터를 사용하여 모델을 실행하고 원래 계수를 제공하거나 원래 계수를 사용하여 모델을 실행합니다. ? 전체 절차는 프로세스 관점에서 볼 때 상당히 불분명합니다. 즉, 내가 원하는 결과에 도달하기 위해 한 단계 씩 진행되는 일; 어떤 도움이나 통찰력을 주시면 감사하겠습니다!
감사,
우리엘.
해석학Re : PLS 플랫폼이 유효성 검사없이 다시 장착되고 있습니다 + 부트 스트랩을 사용하는 방법?안녕하세요 헉헉 ,
첫째, PLS는 데이터에 사용하기에 가장 좋은 플랫폼이 아닐 수 있습니다. 모델에서 실제로 중요한 예측 변수를 확인하려면 GenReg 또는 Stepwise로 실행하는 것이 더 나을 수 있습니다. 예측 변수의 수가 24 개에서 최대 240 개 사이라는 것이 매우 이상합니다. 가능한 예측 변수 수와 관련된 관측치가 너무 적기 때문에 모델에 불필요한 요소를 너무 많이 추가하지 않도록 예측 변수 선별을 실제로 수행해야합니다. PLS는이를 처리 할 수 있지만 예측 변수도 응답과 함께 있어야합니다. 그렇지 않으면 해당 오류가 발생합니다. 즉, 응답의 변동을 설명하는 예측 변수의 선형 조합이 없음을 의미합니다. 그러나 PLS를 사용해야하고 다른 옵션이없는 경우 응답을 범주 형 (2 또는 3)에서 서수 (2 또는 3)로 변경하는 것을 고려할 수 있습니다. 더 나은 수치 솔루션을 찾을 수있을 것입니다. 나는 또한 조사하고 사용하는 것이 좋습니다 자동 검증 큰 예측 변수 목록을 확인하는 방법입니다.
둘째, JMP가 피팅을 수행 할 때 나는 배경에서 항상 중앙 및 스케일링 된 데이터를 사용하여 더 나은 추정값을 얻은 다음 실제 추정값을 다시 계산한다고 믿습니다. 따라서 부트 스트랩을 끝내는 것은 실제로 중요하지 않지만 중앙 및 스케일링 된 데이터보다 실제 추정 부트 스트랩을 해석하는 것이 더 합리적 일 수 있습니다. 그리고 예, 추정치를 부트 스트래핑하면 수행중인 유효성 검사로 피팅이 다시 실행됩니다.
마지막으로, 추정치를 부트 스트랩하기 위해 JMP 보고서에서 열 추정치를 마우스 오른쪽 버튼으로 클릭 한 다음 부트 스트랩을 선택합니다. 빠르면 5000 개 정도 넣고 느리면 2500 개로 두세요. "분수 가중치 확인란을 선택해야합니다. 피팅을 여러 번 다시 실행 한 다음 예측 변수의 각 계수에 대한 값 분포를 제공합니다 (출력 데이터 테이블에서 "분포"스크립트를 실행하기 만하면됩니다. 그런 다음 표시되는 분포 및 통계와 함께 요약 통계를 마우스 오른쪽 버튼으로 클릭하고 "결합 된 데이터 테이블로 만들기"를 선택할 수 있습니다. 또한 0이 아닌 비율을 표시하도록 요약 통계를 사용자 정의해야합니다.
결합 된 데이터 테이블에는 추정치에 대한 평균과 비율이 0이 아닙니다. 여기에서 평균 (일반 값)이 무엇인지, 그 추정치가 0이 아닌 빈도 (백분율)를 볼 수 있습니다. 그 숫자가 작 으면 추정치는 종종 0입니다. 크면 대부분 0이 아닙니다. 이것은 모델에서 필요하거나 필요하지 않은 항과 혼합 항을 결정하는 좋은 방법입니다.
도움이 되었기를 바랍니다,
DS
Re : PLS 플랫폼이 유효성 검사없이 다시 장착되고 있습니다 + 부트 스트랩을 사용하는 방법?안녕 DS,
1) 내가 24 ~ 237 개의 변수를 갖는 이유는 정확히 내가 얼마나 많은 변수를 선택 하느냐에 달려 있기 때문입니다. 24는 부트 스트랩 포레스트 이후이며 * 2 팩토리얼을 수행 할 수 있습니다. 237은 전체 사이토 카인 집합입니다.
2) " 예측 변수도 응답과 일치해야합니다. 그렇지 않으면 오류가 발생합니다. 즉, 응답의 변동을 설명하는 예측 변수의 선형 조합이 없습니다. "그보다 더 설명 할 수 있습니까? 나는 공분산이 그들 사이에 있다고 생각했습니다. 즉, 그들은 다 공분산이고, PLS는 그 공분산의 기초가되는 요인들을 만들어서 변수들 사이의 공분산을 사용한다고 생각했습니다. 나는 당신이 그들이 무엇을 의미하는지 이해하지 못한다. 응답 . 24, 79 또는 237 개의 사이토 카인 변수 (실제로는 세로 측정의 평균, 중앙값 및 IQR) 중 선형 조합이 반응의 변화 (ICU의 중대한 질병)를 설명 할 수 없다고 생각하기 어렵습니다. 사실 다른 설정에서도 이미 설정되어 있으므로 JMP가 왜 그렇게하는지 모르겠습니다.
3) 부트 스트래핑을 운영하는 방법에 대한 설명을 해주셔서 감사합니다. 나는 항상 JMP의 공식 문서가 얼마나 도움이되지 않는지, 그것이 어떻게 작동하는지, 어떻게 작동하는지에 대한 세부 사항이 얼마나 적은지, 그리고 포럼, 튜토리얼 등이 실제로 얼마나 도움이되는지 놀라워합니다.
감사합니다!
우리엘.
Re : PLS 플랫폼이 유효성 검사없이 다시 장착되고 있습니다 + 부트 스트랩을 사용하는 방법?안녕 뿡뿡 ,
이제 "부트 스트랩"이 원래 의미하는 바를 이해합니다. 부트 스트랩 플랫폼을 실행하는 것은 좋은 접근 방식이지만 신경망, GenReg, 부스트 트리를 사용하여 예측 모델을 실행하고 XGBoost 추가 기능도 얻고 싶을 것입니다. 검증 테스트 세트에서 다른 예측 공식을 비교합니다. 그렇게 할 때 가장 잘 맞도록 설정을 확인하고 조정해야합니다. 기본 맞춤이 항상 좋은 것은 아닙니다.
그러나 트리 접근 방식의 한 가지 좋은 점은 모델을 만들기 위해 다양한 의사 결정 트리를 사용하는 집계 접근 방식이라는 것입니다. 요인이 기여도에서 그다지 중요하지 않은 경우 자동으로 아래로 내려 가며 전체 모델에 대한 기여도가 높은 것으로 표시되지 않습니다. 그럼에도 불구하고 임의의 시작 및 결정 프로세스로 인해 부트 스트랩 포리스트 및 부스트 된 트리 접근 방식은 특히 안정적이지 않습니다. 동일한 설정을 수백 번 실행하면 실제로 약간 다른 답변과 공식을 얻을 수 있습니다. 그렇기 때문에 출력 보고서 (예 : 부트 스트랩 포리스트)에서 "SS"또는 "부분"을 부트 스트랩하여 해당 요소가 모델에서 실제로 얼마나 강한 지 더 나은 추정치를 얻는 것이 좋습니다.
즉, 교차 검증 방법을 사용하여 과적 합하지 않도록해야합니다. 그리고 상대적으로 짧은 데이터 테이블 (그다지 많은 측정치가 아님)을 사용하면 이전 회신에서 언급 한 자동 검증 방법을 사용하지 않는 한 Leave-one-out 방식을 사용하지 않고 수행하기 어려울 것입니다. K- 폴드 크로스 유효성 검사도 좋은 방법 일 수 있습니다.
입력 데이터가 어떻게 생겼는지 잘 모르겠지만, 각 파장 (또는 x- 값)이 이웃과 상관 관계가있는 스펙트럼 또는 기타 규칙적인 간격 데이터와 같이 JMP가 "기능적 데이터"라고 부르는 것처럼 들립니다. 함수형 데이터 탐색기를 사용하여 더 나은 예측 변수 하위 집합을 생성 할 수 있습니다. 또는 PCA는 예측 변수의 차원을 낮추고 더 작은 직교 벡터 세트를 사용하여 데이터를 모델링하는 좋은 방법이기도합니다.
귀하의 포인트에 관하여 :
1) * 2 요인 접근 방식에서 너무 많은 교차 항을 포함하는 이론적 (생물학적, 화학적, 물리적) 이유가 있습니까? 그것들을 포함시킬 이론적 인 이유가 없다면 그다지 의미가 없으며 잘못된 예측자를 도입 할 수 있습니다.
2) PLS 플랫폼에서는 보고서의 "설명 된 백분율 변동"아래에서 누적 Y 응답도 살펴 보는 것이 중요합니다. 예측 변수의 선형 조합이 Y의 반응을 많이 설명하지 않는 경우 설명 된 변동률 (%)이 매우 낮아 예측 변수가 Y의 변동을 설명하는 선형 조합으로서 특히 큰 역할을하지 않고 있음을 나타냅니다. 플랫폼이 더 잘 작동 할 것입니다. 응답 측정 값이 너무 적기 때문에 많은 수의 예측 변수를 맞추려고하면 자유도가 충분하지 않기 때문에 과적 합으로 이어질 수 있습니다. PLS와 함께 다변량 분석에서 요인 분석 플랫폼을 검토하는 것이 좋습니다. 사이토 카인 변수가 너무 많아 자유도를 잃을 수 있다고 생각합니다. 두 개의 점이 있고 선을 맞추고 포물선을 맞추는 것을 상상해보십시오.이 다항식을 맞추는 데 필요한 최소한의 점 수이기 때문에 완벽한 적합을 얻지 만 자유도를 잃고 더 이상 오류를 추정 할 수 없습니다 또는 맞는 품질. 나는 이것이 PLS 플랫폼에서 일어나는 일이라고 생각합니다.
3) 커뮤니티 페이지가 최고입니다. 저는 항상 JMP에서 코딩 할 때 특히 JSL 스크립트를 확인하고 있습니다. 거의 항상 내 작업에 필요한 바로 다른 사람이 해결 한 코드 조각이 있습니다. 나는 또한 질문을 훑어보고 특히 새로운 것을 배울 때 내가 도울 수있는 것을 보는 것을 즐깁니다.
행운을 빕니다!,
DS
