Bernoulli 응답을위한 기계 학습에 베이지안 접근나는 약 150 개의 특징이나 공변량에 대한 2000 건의 관찰 결과가있는 데이터 세트를 가지고있다. 0/1 결과를 예측하려고합니다. 결과는 질병 위험 점수 R1입니다. 분석은 데이터베이스에있는 모든 특성 값 (F1, ..., F150)과 관련 질병 (R0)에 대한 위험 값을 생성합니다. R0은 R1에 대해 매우 예측 적이므로 F1, ..., F150 기능을 사용하면 R0에 적용 할 수있는 일종의 업데이트 규칙이 적용될 수 있다고 생각합니다. 조금 다른 말로 표현하면, R1의 사전 분포에 대해 Bernoulli 매개 변수로 R0을 사용하고 F1, ..., F150의 값을 기반으로 R0에 사용할 업데이트 공식을 어떻게 훈련할지 생각하고 있습니다.
훈련 알고리즘은 스코어에 대한 이전 값을 지정할 수있는 0/1 확률 스코어 모델을 구축 할 수 있어야합니다. 이것은 꽤 힘있는 베이지안 문제처럼 들립니다. 그러나 필자는 이전에이 작업을 수행하지 않았으며 기능 정보가 매개 변수 업데이트 식에 어떻게 통합 될지 확신하지 못했습니다.
두 번째 확률 점수를 얻을 수 있습니까?
로짓 변환에 들어가기 전에 선형 예측자를 사용할 것인가?
우리는 어떤 가산 방식으로 또는 일부 다중 인자에 의해 R0를 수정합니까?
분명히 대답보다 더 많은 질문이 있습니다. 누군가가 올바른 방향으로 나를 가리킬 수 있다면 그것은 좋을 것입니다. JMP가 이런 종류의 것을 허용한다면, 나는 그것에 대해 듣고 싶다.
베르누이 응답에 대한 학습 기계 베이지안 접근예, 기능의 100 %가 p0을 계산하는 데 사용됩니다. 이 시스템은 실제로 수천 가지 기능을 생성하지만 오프라인에서 p0 컴퓨팅을위한 알고리즘을 검증 할 수 있어야했습니다. 그래서 우리는 p0을 계산하는 데 사용 된 모든 기능을 (코드를 읽음으로써) 발견하고 저장했습니다. P0에 대한 "계산"기능이 너무 복잡하고 암시 적이어서 (병렬 및 직렬 구성의 수백 가지 바이너리 분류기, 필자는 시스템을 구축하지 않았습니다). 그러나 우리는 오프라인 시뮬레이션을 수행하고 p0에 대한 계산을 검증하기 위해 필요한 모든 요소를 포착했다는 것을 알고 있습니다.
내 목표는 p0을 계산하기위한 모델을 수정하는 것이 아닙니다. 그것은 우연히도 똑같은 특징들이 우리가 다른 질병을 예측할 수있는 "마법"정보를 담고 있는지를 보는 것입니다. 내 생각에 그럴 가능성은 희박합니다. 특히 기능이 특정 최적 및 최소 방식으로 구체적으로 생성되어 D0을 예측했기 때문입니다. 아마이 가정을 시험 할 정보 이론적 인 방법이있을 것입니다.
다시 말하지만, 나는 그 개념이 단지 작동하지 않을 것이라는 것을 보여주기위한 공정하고 원칙이있는 와트를 생각해 내야한다. 적색 플래그를 많이 생성하는 것은 쉬웠습니다 (예를 들어 공변량 드리프트). 일종의 수정 된 "베이지안 (Bayesian)"접근 방식을 사용하려는 나의 시도는 기능이 생성하도록 설계된 최상의 통계를 사용하는 방식이며, 다음과 같은 독립적 인 잔여 정보가 있는지 확인합니다. 도움 D1을 예측하십시오. 나는 회의론자이지만, 나는 다른 사람들 (경영자)이 기계 학습이 마술로 상상할 수있는 모든 문제를 해결할 수 있다는 독단적 견해를 갖고있는 그룹에 속한다. 그들은이 모델 (LASSO, ridge, PLS)의 대부분이 단순한 주 효과 (일반화 된) 선형 모델의 시대에 끝난 것이라고 인식하지 못합니다.
다시 한 번, 귀하의 참여에 감사드립니다. 매우 도움이되었습니다.
베르누이 응답에 대한 학습 기계 베이지안 접근좀 혼란 스럽네요. 당신의 모델이 100 %의 기능 (150 가지!)을 사용한다고 가정 해보십시오. 실제로 내가 실행 한 모든 기계 학습 모델은 모든 기능을 사용하지 않습니다. 가능한 한 모두 입력 할 수 있지만 거의 사용하지는 않습니다. 어떤 경우 든 모델이 너무 복잡하다고 생각하면 각 기능을 지루할 수 있지만 성능이 떨어지는 정도를 보려면 개별적으로 스크립트를 작성하는 것이 좋습니다. 다른 소프트웨어에서 보았지만 JMP에서는 아직 본 적이없는이 대체 버전은 각 기능을 한 번에 하나씩 임의의 데이터로 대체하고 성능을 비교하는 것입니다.
또한 이미 가지고있는 모델에 항목을 추가하여 더 나은 예측을 얻을 수 있는지보고 싶어합니다 (모든 기능이 이미 포함되어 있다면 추가 할 항목은 무엇입니까?). 이 작업을 수행하는 방법은 여러 가지가 있다고 생각합니다. 그러나 다른 모델을 시도하고 추가 기능을 사용하는 대신 몇 가지 종류의 앙상블 방법을 사용하여 결합하는 방법에 대해 생각합니다. 베이지안 모델 평균화는이를 수행하는 한 가지 방법입니다. 그러나 첫 번째 모델을 이전 모델로 사용하고 "베이지안 업데이트"를 생성하는 기능을 추가하는 것에 대한 원래 아이디어는 여전히 나에게 적합하지 않습니다.
베르누이 응답에 대한 학습 기계 베이지안 접근감사합니다 데일,
나는 너와 꽤 동의 할거야. 이 프로젝트의 전체적인 의도는 이미 D0에서 훈련하는 데 사용 된 기능이 D1을 예측하는 데 사용할 수있는 "직각"정보를 가지고 있는지 확인하는 것입니다. 다시 말하면, 원래 모델의 p0에 대한 노이즈는 기능에 100 % 기반으로하는 매우 복잡한 모델로, p1에 대해 학습하는 데 사용할 수있는 모든 정보가 포함되어 있습니다. D0에 대해 이미 유용하다는 것이 입증되었으므로 초기 추정치로 p0을 유지하려고합니다.
필자가 LASSO (또는 융기 또는 PLS 등 ...)와 같은 기능을 사용하여 기능을 기반으로 p1 모델을 학습하면 p0 만 사용하여 D1을 예측하는 것보다 성능이 좋아집니다. 그러나 나는 무의식적으로 모든 CV가 진행되는 동안 소음을 훈련 할 수 있다는 것에 회의적이다. 더욱이, 독립 실험으로부터 p1 모델은 공변량 변화에 시달리고 p0는 다른 데이터 세트에 상당히 복원력이 있다는 증거가 있습니다.
물론 Who's 개념에 엄지 손가락을 꽂거나 내려 놓으려는 생각이 들기 때문에 동시에 최선의 기회를 줄뿐만 아니라 동시에 도전에 도전하고 싶습니다. 그래서 나는이 "베이지안"접근법에 기대고있다. 베이지안이라고 부르는 것은 다소 힘듭니다. 베르누이 이벤트를 관찰하지 않기 때문에 이전 매개 변수에 대한 모델의 조건부 만 살펴볼 수 있습니다.
나는 당신의 생각에 감사드립니다.
베르누이 응답에 대한 학습 기계 베이지안 접근나는 결코 베이 즈 전문가가 아니지만, 당신이하고 싶은 것이 정확하지 않은 것으로 보인다. 베이지안 업데이트는 일반적으로 추가 데이터 포인트와 같은 새로운 정보를 통합하는 것을 의미합니다. 추가 기능을 왜 추가해야합니까? 원래 모델에 넣으십시오. 또는 부스트 트리와 같은 것을 사용하는 경우, 알고리즘은 이미이 기능을 사용하여 잘못된 분류를하는 정도에 따라 예측을 "업데이트"합니다. 다른 말로 표현하자면, "베이지안 (Bayesian)"으로 보일 수있는 장치를 제안하고 있다고 생각하지만 실제로 모델의 다른 기능을 고려할 때 각 기능이 모델에 얼마나 많은 기여를 하는지를 검토하는 것입니다. 이는 모든 예측 모델이하는 것처럼 본질적입니다. 수동으로 일부 기능을 종료 한 다음 예측 기능을 추가하면 예측 모델이 자동으로 수행하는 작업을 수동으로 수행하는 것처럼 보입니다.
제발, 제가이 일에 대해 틀렸다면, 누군가 제 편을 짤 수 있습니다.
