모델 결합올해 Discovery Summit Americas에서 한 가지 배웠다면, 앙상블 모델을 평균화 및/또는 생성하는 것이 얼마나 흔한 일인지는 들었지만 한 번도 고려한 적이 없었습니다(모델링 초보자로서). 그래서 나는 그것을 하기로 결정했습니다. 앙상블 모델을 만드는 것은 쉽습니다. 모델을 예측 공식으로 저장하고 다음 단계의 모델 스크리닝(JMP Pro 16의 모델 화면 사용)에 이를 예측 변수로 포함시켰습니다. 더 단순해 보이는 모델 평균화는 나를 혼란스럽게 합니다. 마음에 드는 모델 두 개를 찾아서 둘 다 예측 수식으로 데이터 테이블에 저장한 다음 이를 결합하는 새 열을 생성하면 확률이 결합되는 것처럼 보이지만 수식은 제가 입력한 구문에 없습니다. 이를 새로운 데이터에 적용할 수 있습니다(확률의 평균만 표시함). 두 모델을 모두 Formula Depot에 게시하면 매우 쉽게 평균을 낼 수 있으므로 이것이 현재 해결 방법이지만 테이블 자체에서도 평균을 계산할 수 있어야 하지 않습니까? 문제는 예측 공식에 공식과 확률이 있기 때문에 이를 결합하려고 하면 실제로 공식 자체의 평균을 계산할 때 확률만 평균화된다는 점일 수 있다고 생각합니다. 평균 계산된 수식을 새 데이터 테이블에 복사하고 새 데이터로 테스트할 수 있는 방식으로 두 가지 모두의 평균을 계산할 수 있습니까? 그렇지 않다면 Formula Depot은 바로 이 작업을 수행하도록 설계되었으므로 큰 문제는 아닙니다. 나는 단지 몇 가지 옵션을 갖고 싶습니다! 어쩌면 열의 정보 셀에 수식만 남아 있는 확률 부분을 제거했을 수도 있습니다.
예측 모델링 및 기계 학습Re: 모델 결합예! 나는 평소와 같이 범주형 변수를 예측하려고 시도하는 이상한 성격에 대해 당신이 옳다고 믿습니다. 이 경우 두 개의 방정식이 효과적으로 필요하여 상황이 더 까다로워집니다. 내가 하고 싶은 것은 결국 1-10, 1-5 또는 1-100의 실제 그래디언트를 가질 만큼 충분히 큰 샘플 크기를 갖는 것입니다. 아이디어는 동일합니다. 1=끔찍함, 가장 높은 숫자=훌륭함 . 이 경우에도 두 가지 범주(탈색 방지 대 표백 민감성) 또는 때로는 세 가지(이전 두 개 + "중간") 범주가 있습니다. 감수성, 중간, 저항성에 대해 각각 1, 50, 100으로 기록하여 어떤 종류의 결과를 얻었는지 확인할 수 있습니다. 더 많은 샘플을 얻고 분석할수록 Y를 연속 변수로 사용하는 것이 더 합리적이라고 생각합니다. 지금 가지고 있는 샘플이 20개인데 기본적으로 2~3개 저장소를 넘어서는 데이터가 충분하지 않습니다. 그러나 범주형 분류를 연속 변수로 다시 코딩할 때 내 모델이 매우 다르게 보이는지 확인하는 것은 흥미로울 것입니다. 그러면 모든 모델 구축이 더욱 원활하게 진행될 것입니다. 그리고 실제로는 본질적으로 "건강한" 대 "아픈"만큼 간단하지 않습니다. 나는 인간에게서 볼 수 있는 것처럼 건강 스펙트럼에 걸친 변화도를 얻을 것으로 기대합니다(예를 들어 JMP 당뇨병 데이터세트에서 볼 수 있는 것). 하지만 확률 점수와 관련하여 이 연습에서 재미있는 점은 내가 실제로 이것을 많이 본 적이 없다는 것입니다. JMP의 '추측'에 직접 들어갔습니다. 하지만 이제 실제 확률을 살펴보는 것은 매우 흥미롭습니다. 왜냐하면 그것이 궁극적으로 제가 보고하고 싶은 것이기 때문입니다. 산호 A는 백화될 확률이 95%입니다. 그래서 이 모델 평균화 연습을 통해 이전에 완전히 놓쳤던 멋진 뉘앙스를 우연히 발견하게 되었습니다! 이전에 말했듯이, 당분간은 범주형 응답에 "고착"되어 있더라도 Formula Depot의 모델 평균화 기능이 이에 적합합니다.
귀하의 GUI 덕분에 제가 최근 제출한 논문(본질적으로 1단계 = 연구실 실험을 설명함)에 20,000개 이상의 신경망 모델(21,450개, 그런데 누가 계산하고 있습니까?!)이 있다는 사실을 알게 되어 기쁠 것입니다. 분명히 소수만이 모든 품질 관리를 통과했으며 텍스트에서 길게 논의한 경우는 훨씬 적었지만 어떤 NN 매개변수가 조정하는 데 가장 중요한지 확인하는 것은 매우 유용했습니다. 또한 가장 단순하고 (잠재적으로) 가장 절약적인 모델을 구축하고 싶습니다. 따라서 하나의 NN에 각각 3개의 활성화 노드가 있는 2개의 숨겨진 레이어가 있는 반면 두 번째 모델에는 NTANH(3)가 있는 1개의 레이어가 있고 다른 모든 항목이 동일하다면 I 후자를 선택하겠지만, 가장 단순한 것조차도 꽤 복잡하기 때문에 이것이 실제로 중요하지는 않다고 생각합니다. Chris Gotwalt 덕분에 제가 올해 Discovery에서 배우고자 했던 것 중 하나는 NN 프로파일러의 변수 중요도 메트릭을 사용하여 모델에서 어떤 분석물이 가장 영향력이 있었는지 본질적으로 알 수 있는지 여부입니다. 이전 규칙은 NN이 블랙박스이고 어떤 반응 변수가 가장 중요한지 알아내는 것이 너무 복잡하다는 것이었지만 이것이 전적으로 사실이 아니라는 것을 알게 되어 기쁩니다. 해석하기 어렵나요? 예. 모델의 예측력에 따라 한 단백질의 행동이 특정하고 쉽게 정의된 방식으로 확장된다고 말할 수 있습니까? 아마. 그러나 분자 생물학자가 나에게 "최고의 NN 모델에서 가장 중요한 산호 단백질은 무엇입니까?"라고 묻는다면 적어도 NN 프로파일러의 가변 중요도 기능 중 몇 가지를 나열할 수 있습니다. 이것이 실제로 제가 강연에서 gen-reg 모델을 논의하기로 선택한 이유입니다. NN(!)에 대한 프로파일러를 "신뢰"할 수 있는지 확신할 수 없었지만 이제는 할 수 있다는 것을 알 수 있습니다. 하지만 어쨌든 이것이 바로 모델 초심자로서 제가 이런 종류의 심포지엄을 통해 많은 혜택을 받는 이유입니다. 귀하의 세심한 답변과 전반적인 도움에 다시 한 번 감사드립니다.
Re: 모델 결합안녕 @abmayfield ,
귀하의 강연이 마음에 들었지만 주문형으로 시청해야 했지만 라이브 시청 및 Q&A에 참석할 수 없었습니다.
일반적으로 일반적인 회귀 수식(숫자)을 수행하는 경우 예측 열의 평균을 계산할 수 있습니다. 단순히 두 값의 평균을 취하면 됩니다. 그러나 범주형 값 예 또는 아니오(또는 어쩌면)로 작업하기 때문에 숫자 X 입력을 로지스틱 함수로 변환하여 확률을 찾아 결과를 IfMax( ) 기능.
예를 들어 Big Class 파일을 살펴보겠습니다. :height 및 :weight를 사용하여 :sex를 예측하려고 하면 로지스틱 출력 함수를 얻게 됩니다. 제 예에서는 성별 = M을 예측하려고 합니다. Prob[M] 및 Prob[F]를 결정하는 데 사용되는 중간 기능이 있습니다. 선형 함수는 Lin[M] = a + b*:height + c*:weight와 같은 것입니다. 여기서 a, b 및 c는 계수에 적합합니다. 확률을 얻기 위해 JMP는 Prob[M]에 대해 1/(1_exp(-Lin[M])) 변환을 사용하고 Prob[F]에 대해 1/(1+exp(Lin[M])) 변환을 사용합니다. 이는 단지 1- 문제[M]. 가장 가능성이 높은 결과는 MaxIf(Prob[M]=>M, Prob[F]=>F)이고 Prob[y]가 더 큰 것이 가장 가능성이 높은 결과인 M 또는 F입니다.
귀하의 경우 범주형 결과로 작업하는 경우 Lin[Y] 함수의 평균을 계산한 다음 이를 확률로 변환해야 한다고 생각합니다. 데이터에 맞는 것은 확률 함수가 아니라 선형 함수이므로 선형 함수를 변환하기 전에 평균을 구해야 합니다.
결과를 연속형 반응으로 변경할 수 있다면 예측 공식의 단순 평균이 간단합니다. 모델링 유형이 명목형 또는 순서형인 경우 JMP는 이를 이산형 수준으로 처리하고 매번 로지스틱 모델링을 수행합니다.
제가 방금 연속 척도를 사용해야 했던 한 가지 아이디어는 주어진 영역 내에서 표백 비율을 나타내는 것입니다. 산호 100cm^2(10cmx10cm 패치)를 평가하고 약 2cmX3cm(또는 6cm^2)가 표백되었다고 판단하면 표백 비율은 60%가 됩니다. 이런 방식으로 수행하면 산호 표본이 얼마나 표백되었는지 더 정확하게 표현할 수 있으며 이제 회귀와 분류를 통해 모델링할 수 있는 지속적인 반응을 얻을 수 있습니다.
도움이 되었기를 바랍니다!,
DS
추신 Discovery Summit은 훌륭했습니다. 나는 많은 대화를 좋아했습니다. 또한 사용자 입력을 기반으로 튜닝 테이블을 자동으로 생성하도록 GUI를 업데이트하고 있습니다. 새로운 버전이 준비되면 알려드리겠습니다. 수행하려는 실행 횟수로 공간 채우기 설계를 생성하여 프로세스를 더욱 자동화하는 데 도움이 됩니다.
Re: 모델 결합귀하의 설명에 따르면 확률(연속)보다는 예측(이산)의 평균을 구하려는 것 같습니다.나는 그렇게 한 것을 본 적이 없습니다.모델의 예측이 얼마나 견고한지 확인하기 위해 설계된 등각 예측이라는 기술이 있습니다.그러나 설명하는 내용은 다음과 같습니다. 예측할 클래스가 2개 있고 연속형인 0과 1로 코딩한다고 가정합니다. 모델이 3개 있다고 가정합니다. 그 중 2개는 특정 사례에 대해 0을 예측하고 1개는 1을 예측합니다. 그런 다음 "평균화"는 1/3의 결과를 생성하며 이는 1을 얻을 확률로 간주할 것입니다. 흥미로운 아이디어이지만 그러한 접근 방식이 어떤 통계적 근거를 가지고 있는지 잘 모르겠습니다.또한 이진 분류로 제한되는 것 같습니다(비록 이는 한계일 뿐입니다).나는 당신이 어떤 다른 반응을 얻을지 관심을 갖고 싶습니다.
