이항 분포와 로짓 함수를 사용하는 명목형 로지스틱과 GLM모두 안녕하십니까,
제 결과를 오해하지 않도록 답변을 듣고 싶습니다.
변수가 암 결과를 예측할 수 있는지 평가하는 다변량 분석을 수행해야 하므로 이진 반응 변수(0/1)가 필요합니다. 내 모델에 이분형 Y와 여러 예측 변수가 있는 경우 먼저 명목형 로지스틱 회귀 , 하지만 그 경우에는 ' 불안정한 ” 추정치이므로 신뢰할 수 없습니다. 동일한 출력에서 나는 가능성 비율 테스트 내 관심 변수에 중요합니다.
그 후에는 대신 피팅을 시도했습니다. 이항 분포와 로짓 함수를 사용한 GLM 모델 , 선택 1차 조정 (데이터의 준완전한 분리에 대한 경고를 받았기 때문에) 이런 식으로 나는 중요한 추정치와 p-값을 얻었습니다.
이제 이항 분포와 로짓 연결 함수를 사용하여 GLM 모델을 피팅하는 것이 로지스틱 회귀여야 한다는 것을 알고 있습니다. 제가 틀렸습니까? 왜 동일한 결과가 나오지 않는지, 차이점이 무엇인지, 가장 중요한 것은 그러한 결과를 바탕으로 추론할 수 있는 것입니다.
- 그 모델(GLM 모델)을 로지스틱 회귀 아니면?
- GLM 모델의 매개변수 추정표에서 이를 확인했습니다. LR 카이스퀘어 는 LRT와 마찬가지로 표시되며 Prob>ChiSq는 GLM 모델(Firth 조정 전)과 LRT 간에 동일합니다. 로지스틱 회귀 분석이나 LRT의 추정치와 같은 GLM 모델의 추정치를 어떻게 해석해야 합니까? 로지스틱 회귀에 대해 Firth 조정이 이루어지지 않았습니까?
- 결론적으로 GLM 모델만으로 유의미한 결과를 얻을 수 있다는 점은 무엇을 추론할 수 있는가?
미리 감사드립니다.
안토니
추신. 두 모델 모두 적합하지 않을 수 있지만 표본 크기를 사용하면 그렇게 할 수 있습니다. 어떤 제안이라도 감사하겠습니다
데이터 탐색 및 시각화Re: 이항 분포 및 로짓 함수를 사용하는 명목형 로지스틱과 GLM매우 감사합니다!Re: 이항 분포 및 로짓 함수를 사용하는 명목형 로지스틱과 GLM방금 "데이터의 준완전한 분리"를 검색해서 찾았습니다. 이것 . 이는 이것이 무엇을 의미하는지, 그리고 어떻게 불안정한 추정으로 이어지는지에 대해 설명합니다. 또한 Firth 조정이 어떻게 도움이 되는지.
동일한 3가지 모델(Logistic, GLM, GLM with Firth)이 스크립트로 저장된 데이터 테이블로 사용하는 예를 첨부했습니다.
이게 도움이 되길 바란다.
필
Re: 이항 분포 및 로짓 함수를 사용하는 명목형 로지스틱과 GLM안녕,
우선, 내 예에 대한 몇 가지 설명은 다음과 같습니다.
- 모델 1과 2는 우도비 검정에 대해 동일한 p-값(및 기타 통계)을 갖습니다. JMP의 보고서에는 약간의 차이가 있지만 본질적으로 동일한 모델입니다. 로지스틱 회귀와 이항 분포 및 로짓 링크가 있는 GLM은 동일합니다. 로지스틱 회귀는 GLM의 특별한 경우입니다.
- 너 ~할 수 있다 모델 3을 Firth 조정을 사용한 로지스틱 회귀라고 부릅니다.
- 모델 3 하지 않습니다 다른 모델과 동일한 p-값과 통계량을 갖습니다. Firth 조정을 사용하면 추정치가 조정됩니다(놀랍지도 않습니다!).
나는 Firth 조정의 전문가가 아닙니다. 사실, 나는 그것이 어떻게 작동하는지 실제로 이해하지 못합니다.
따라서 모델 3 버전의 결과를 보고할 수 있습니다. Firth 조정을 적용한 로지스틱 회귀라고 할 수 있습니다. 일반적인 방법으로 가설 검정을 뒷받침하기 위해 p-값을 보고할 수 있습니다. 그러나 아마도 Firth 조정이 없으면 모델이 불안정하다고 말해야 할 것입니다.
다시 말하지만, 모델이 불안정한 이유를 말하는 것은 불가능합니다. 그러나 나는 그것이 걱정거리가 되어야 한다고 말할 수 있다.
나는 모델의 p-값을 결정적인 증거로 보고하는 것을 결코 권장하지 않습니다. JMP는 시각적 탐색 환경입니다. 통계 모델을 맞추기 전에 나는 항상 플롯을 사용하여 데이터의 품질을 확인하고 데이터의 동작을 이해합니다. 이 경우 데이터를 시각적으로 탐색하면 일부 모델이 불안정한 이유를 이해하는 데 도움이 될 수 있습니다.
Re: 이항 분포 및 로짓 함수를 사용하는 명목형 로지스틱과 GLM안녕,
친절한 답변 감사드리며, 이탈리안 스크린샷 죄송합니다!
예, 모델 1과 2의 효과 가능성 비율 테스트가 동일하다는 것을 확인했습니다. 또한 모델 2의 모수 추정치에 대한 p-값이 Firth 조정 이전과 완전히 동일하다는 사실도 확인했습니다.
조정 후에는(모델 2에서만 해당 작업을 수행할 수 있음) 다소 신뢰할 수 있거나 이해하기 쉬운 추정치를 얻었지만 추정치와 p-값을 잘 이해할 수 없는 모델 1에서는 그렇지 않습니다. 그러나 모델 3에서는 모수 추정과 효과 우도 비율 검정에 대해 여전히 동일한 p-값을 얻습니다. 따라서 유의미한 p가 있거나 모델 2를 Firth 조정 로지스틱 회귀라고 부를 수 있는 경우 모델 2 또는 3의 모수 추정에 대해 무엇을 말할 수 있는지 알 수 없습니다.
불안정성에 관해서는, 사례에 비해 통제력이 적기 때문에 불안정한 추정치가 나오는 것 같은데, 그럴까요? 그것은 현재로서는 고칠 수 없는 부분입니다.
그래서 마지막 질문은 모델 3의 결과를 바탕으로 무엇을 단언할 수 있는가입니다.
정말 고마워요.
안토니
Re: 이항 분포 및 로짓 함수를 사용하는 명목형 로지스틱과 GLM안녕,
우선, 견적이 불안정할까봐 걱정됩니다. 그 이유를 알아보려면 몇 가지 작업을 수행해야 합니다. 스크린샷만으로는 이해하기 어렵습니다(그리고 저는 영어 이외의 언어를 잘 못합니다 
).
다음을 사용하여 이진 응답 모델에 대해 저장된 스크립트가 포함된 당뇨병 데이터 세트 버전을 첨부했습니다.
- 로지스틱 회귀,
- GLM(로짓 링크가 있는 이항식),
- Firth 바이어스 조정이 포함된 GLM.
모델 1과 2에 대한 효과 가능성 비율 검정이 동일한 것을 확인할 수 있습니다. 1차 편향 조정은 예상한 대로 통계를 변경합니다.
JMP 도움말 문서에서 이를 찾을 수 있습니다.
퍼스 바이어스 조정된 추정치
모델을 피팅하는 데 Firth 편향 조정 방법이 사용되도록 지정합니다. 이 최대 우도 기반 방법은 편향 보정을 사용하지 않는 최대 우도 기반 모델보다 더 나은 추정 및 테스트를 생성하는 것으로 나타났습니다. 또한 편향 수정 MLE는 로지스틱 유형 모델에서 발생하는 경향이 있는 분리 문제를 개선합니다. 로지스틱 회귀 분석의 분리 문제에 대한 자세한 내용은 Firth(1993) 및 Heinze and Schemper(2002)를 참조하세요.
이게 도움이 되길 바란다,
필
