모델 결합올해 Discovery Summit Americas에서 한 가지 배운 점은 앙상블 모델을 평균화하거나 생성하는 것이 얼마나 흔한 일인지, 들어본 적은 있지만 전혀 고려하지 않은 것입니다(모델링 초보자). 그래서 나는 그것을 하기로 결정했다. 앙상블 모델을 만드는 것은 쉽습니다. 모델을 예측 공식으로 저장하고 다음 라운드 모델 스크리닝(JMP Pro 16의 모델 화면 사용)에서 예측 변수로 간단히 포함했습니다. 더 단순해 보이는 모델 평균이 저를 혼란스럽게 합니다. 마음에 드는 두 가지 모델을 찾아 내 데이터 테이블에 예측 공식으로 저장한 다음 두 모델이 결합된 새 열을 생성하면 확률이 결합되는 것처럼 보이지만 공식은 다음과 같은 구문이 아닙니다. 새로운 데이터에 적용할 수 있습니다(확률의 평균만 표시). 두 모델을 Formula Depot에 게시하면 아주 쉽게 평균을 낼 수 있으므로 이것이 현재 해결 방법이지만 테이블 자체에서 평균을 낼 수도 있어야 하지 않습니까? 문제는 예측 공식에 공식과 확률이 있기 때문에 결합하려고 할 때 실제로 공식 자체를 평균화하려고 할 때 확률만 평균화된다는 것입니다. 평균을 낸 공식을 새 데이터 테이블에 복사하고 새 데이터로 테스트할 수 있는 방식으로 두 가지를 모두 평균할 수 있습니까? 그렇지 않은 경우 Formula Depot는 바로 이 작업을 수행하도록 설계되었으므로 큰 문제는 아닙니다. 나는 단지 몇 가지 옵션을 원합니다! 열의 정보 셀에 수식만 남게 되는 확률 부분만 제거하면 될까요?
해석학Re: 모델 결합설명에서 확률(연속)보다는 예측(이산)의 평균을 구하려는 것처럼 들립니다.그렇게 하는 걸 본 적이 없어요.모델에서 예측이 얼마나 강력한지 확인하기 위해 설계된 등각 예측이라는 기술이 있습니다.그러나 설명하는 것은 다음과 같습니다. 예측할 2개의 클래스가 있고 연속적인 0과 1로 코딩한다고 가정합니다. 3개의 모델이 있다고 가정합니다. 그 중 2개는 특정 사례에 대해 0을 예측하고 1은 1을 예측합니다 그런 다음 "평균화"는 1/3의 결과를 생성할 것이며 1을 얻을 확률로 간주할 것이라고 생각합니다. 흥미로운 아이디어이지만 그러한 접근 방식이 어떤 통계적 근거를 가지고 있는지 잘 모르겠습니다.또한 이진 분류로 제한될 것으로 보입니다(단, 한계일 뿐임).나는 당신이 얻는 다른 응답에 관심이 있습니다.
Re: 모델 결합안녕하세요 @abmayfield ,
당신의 이야기가 마음에 들어 주문형으로 시청해야 했지만 라이브 뷰잉과 Q&A에 참여하지 못했습니다.
일반적으로 일반적인 회귀 공식을 수행하는 경우 예측 열의 평균을 계산할 수 있습니다. 당신은 단순히 둘의 평균을 취할 것입니다. 그러나 범주형 값 yes 또는 no(또는 아마도)로 작업하기 때문에 숫자 X 입력을 로지스틱 함수로 변환한 다음 확률을 찾고 결과를 IfMax( ) 기능.
Big Class 파일을 예로 들어 보겠습니다. :height 및 :weight를 사용하여 :sex를 예측하려고 하면 로지스틱 출력 함수를 얻게 됩니다. 제 예에서는 sex = M을 예측하려고 합니다. Prob[M] 및 Prob[F]를 결정하는 데 사용되는 중간 함수가 있습니다. 선형 함수는 Lin[M] = a + b*:height + c*:weight와 같은 것입니다. 여기서 a, b, c는 딱 맞는 계수입니다. 확률을 얻기 위해 JMP는 Prob[M]에 대해 변환 1/(1_exp(-Lin[M]))을 사용하고 Prob[F]에 대해 1/(1+exp(Lin[M])을 사용합니다. 문제[M]. 가장 가능성이 높은 결과는 MaxIf(Prob[M]=>M, Prob[F]=>F)이고 Prob[y]가 더 큰 것이 M 또는 F 중 가장 가능성이 높은 결과입니다.
귀하의 경우 범주형 결과로 작업하는 경우 Lin[Y] 함수를 평균화하여 확률로 변환해야 한다고 생각합니다. 확률 함수가 아니라 데이터에 맞는 선형 함수이므로 선형 함수를 변환하기 전에 평균을 구해야 합니다.
결과를 연속 응답으로 변경할 수 있다면 예측 공식의 단순 평균이 간단합니다. 모델링 유형이 명목 또는 순서인 경우 JMP는 이를 이산 수준으로 처리하고 매번 로지스틱 모델링을 수행합니다.
연속 척도를 사용해야 했던 한 가지 아이디어는 주어진 영역 내에서 표백 비율을 나타내는 것입니다. 100cm^2(10cmx10cm 패치)의 산호를 평가하고 약 2cmX3cm(또는 6cm^2)가 표백되었다고 결정하면 표백률은 60%가 됩니다. 이렇게 하면 얼마나 많은 산호 표본이 표백되었는지에 대한 보다 정확한 표현을 얻을 수 있으며 이제 회귀 대 분류로 모델링할 수 있는 연속 응답을 갖게 됩니다.
도움이 되었기를 바랍니다!,
DS
추신 디스커버리 서밋은 훌륭했습니다. 나는 많은 대화를 좋아했다. 또한 사용자 입력을 기반으로 튜닝 테이블을 자동으로 생성하도록 GUI를 업데이트하고 있습니다. 새 버전이 준비되면 알려 드리겠습니다. 수행하려는 실행 횟수로 공간 채우기 설계를 생성하여 프로세스를 훨씬 더 자동화하는 데 도움이 됩니다.
Re: 모델 결합네! 나는 평소와 같이 두 개의 방정식이 효과적으로 필요하여 상황을 더 복잡하게 만드는 범주형 변수를 예측하려는 이상한 특성에 대해 당신이 옳다고 믿습니다. 내가 하고자 하는 것은 결국 1-10, 1-5 또는 1-100 중 하나의 실제 기울기가 있는 위치에 충분히 큰 샘플 크기를 갖는 것입니다. 아이디어는 동일합니다. 1=끔찍, 가장 높은 숫자=크 . 이 경우에도 두 가지 범주(표백 저항성 vs. 표백 민감성) 또는 때로는 세 가지 범주(이전 두 가지 + "중간")가 있습니다. 감수성, 중간 및 저항성에 대해 각각 1, 50 및 100으로 코딩하여 놀고 어떤 종류의 결과를 얻을 수 있는지 확인할 수 있습니다. 더 많은 샘플을 얻고 분석할수록 Y가 연속 변수가 되는 것이 더 합리적이라고 생각합니다. 지금 플레이하고 있는 20개의 샘플을 사용하면 기본적으로 2-3개의 빈을 넘을 만큼 데이터가 충분하지 않습니다. 그러나 범주 분류를 연속 변수로 다시 코딩할 때 내 모델이 매우 다르게 보이는지 확인하는 것은 흥미로울 것입니다. 그것은 확실히 모든 모델 구축을 더 매끄럽게 만들 것입니다. 그리고 실제로는 "건강한" 대 "아픈"만큼 간단하지 않습니다. 나는 당신이 인간에게서 볼 수 있는 것과 같은 건강 스펙트럼(예를 들어, JMP 당뇨병 데이터 세트에서 볼 수 있는 것)에 걸쳐 있는 기울기를 선택하기를 기대합니다. 확률 점수와 관련하여 이 연습의 재미있는 점은 내가 실제로 이렇게 많이 본 적이 없다는 것입니다. JMP의 '추측'에 직접 들어갔습니다. 그러나 이제 실제 확률을 보는 것은 매우 흥미롭습니다. 왜냐하면 그것이 궁극적으로 제가 보고하고 싶은 것이기 때문입니다. 산호 A는 백화될 확률이 95%입니다. 그래서 이 모델 평균화 연습을 통해 이전에는 완전히 놓쳤던 멋진 뉘앙스를 우연히 발견했습니다! 그리고 전에 말했듯이, 내가 당분간 범주형 응답에 "고착"하더라도 Formula Depot의 모델 평균화 기능은 이에 대해 잘 작동합니다.
GUI 덕분에 최근에 제출한 논문(본질적으로 1단계 = 실험실 실험을 설명함)에 20,000개 이상의 신경망 모델(21,450개, 누가 세고 있습니까?!)이 있다는 사실을 알게 되어 기쁩니다. 분명히 소수만이 모든 품질 관리를 통과했으며 텍스트에서 길게 논의된 항목은 훨씬 적었지만 조정해야 할 NN 매개변수가 본질적으로 가장 중요한지 확인하는 것은 매우 유용했습니다. 또한, 저는 가장 단순하고 (잠재적으로) 가장 간결한 모델을 만들고 싶습니다. 따라서 하나의 NN에 각각 3개의 활성화 노드가 있는 두 개의 은닉 레이어가 있는 반면 두 번째 모델에는 NTANH(3)가 있는 하나의 레이어가 있고 다른 모든 것이 동일하면 나는 후자를 선택하겠지만 가장 단순한 것조차도 꽤 복잡하기 때문에 이것이 정말로 중요하지 않다고 생각합니다. Chris Gotwalt 덕분에 올해 Discovery에서 배우고자 했던 한 가지는 NN 프로파일러 아래의 가변 중요도 메트릭을 사용하여 기본적으로 모델에서 가장 영향력 있는 분석물을 알려주는 데 사용할 수 있는지 여부입니다. 오래된 규칙은 NN이 블랙박스라는 것이었고 어떤 응답 변수가 가장 중요한지 알아내기에는 너무 복잡했지만 이것이 완전히 사실이 아니라는 것을 알게 되어 기쁩니다. 그들은 해석하기 어렵습니까? 예. 한 단백질의 행동이 모델의 예측력과 함께 특정하고 쉽게 정의된 방식으로 확장된다고 말할 수 있습니까? 아마. 그러나 분자 생물학자가 나에게 "당신의 최고의 NN 모델에서 어떤 산호 단백질이 가장 중요했는지"라고 묻는다면 나는 NN 프로파일러의 가변 중요도 기능에서 최소한 몇 가지를 나열할 수 있습니다. 이것이 실제로 제가 제 강연에서 gen-reg 모델에 대해 논의하기로 선택한 이유입니다. NN(!)에 대한 프로파일러를 "신뢰"할 수 있는지 확신할 수 없었지만 이제는 그렇게 할 수 있습니다. 그러나 어쨌든 이것이 제가 모델링 초보자로서 이러한 종류의 심포지엄에서 많은 이점을 얻는 이유입니다. 세심한 답변과 전반적인 도움에 다시 한 번 감사드립니다.
