명목 로지스틱 회귀 질문 re : 저장 확률 공식저는 각 나무와 관련된 몇 가지 환경 적 속성을 고려할 때 나무가 25 년 동안 살거나 죽을 것인지 예측하는 모델을 개발하려고합니다.나는 각 속성에 대한 Prob> ChiSq가 <0.0001임을 보여준 Nominal Logistic Regression 모델을 실행했는데, 이는 환경 속성이 좋은 예측 변수로 사용될 수 있음을 시사하는 것처럼 보입니다.예측이 얼마나 좋은지 확인하기 위해 확률 공식 저장 옵션을 선택했습니다.이로 인해 예측 (가장 가능성이 높음), Live 또는 Dead를 제공하는 최종 열을 포함하여 테이블에 여러 열이 추가되었습니다.예측은 끔찍했습니다.이 모델은 25 년이 지나면 총 140 그루의 나무가 살아날 것으로 예측했는데, 실제로 그 수는 약 1000 그루였습니다.뿐만 아니라 실제로 예측 된 살아있는 나무 140 개 중 많은 수가 죽었다.제 질문은 왜 예측이 실제 라이브 / 데드 데이터에 근접하지 않았습니까?
해석학데이터 테이블Re : 명목 로지스틱 회귀 질문 re : 저장 확률 공식예측을 제대로 수행하지 못하는 통계적으로 유의미한 모델을 가질 수 있습니다. 통계적 유의성은 이러한 중요한 용어가 반응을 설명하는 데 도움이되지만 좋은 적합성을 보장하지는 않는다는 의미입니다.
예를 들어, 지속적인 응답으로이 그림을보십시오.
이 모델은 통계적으로 유의미하지만 분명히 잘 예측할 수 없습니다.
모형이 잘 적합하지 않은 이유를 결정하는 것은 명목 로지스틱 회귀 분석을 사용하면 어려울 수 있습니다. 테이블을 "시선"하는 것보다 예측 능력을 결정하는 데 도움이 될 수있는 몇 가지 사항입니다.
* ROC 곡선을 요청할 수 있습니다. AUC (Area Under the Curve)는 예측 능력을 나타냅니다. 0.5의 AUC가 "기준"입니다. 이것은 나무가 살 것인지 아닌지를 결정하기 위해 동전을 사용하는 것과 같습니다. 0.5 이상이면 예측 능력의 증거를 제공하기 시작합니다. 0.7 이상의 AUC는 적절한 예측 능력을 얻기 시작합니다. 0.9 이상은 환상적입니다.
* 혼동 행렬을 요청할 수도 있습니다. 이것은 관측 결과와 예측 결과의 표입니다. 이 테이블은 기본적으로 예측 공식을 저장하여 고려한 것입니다. 이를 통해 모델이 문제가 발생하기 시작한 위치를 확인할 수 있습니다. 죽은 나무를 분류하는 데 문제가 있습니까? 아니면 살아있는 나무에만 문제가 있습니까? 아니면 둘다?
모델이 구축 된 데이터를 평가하는 것을 잊지 마십시오. 살아있는 나무와 죽은 나무 사이의 데이터는 얼마나 "균형"됩니까? 예를 들어, 죽은 나무가 1 % 만있는 경우 모든 나무가 살아 있다고 말하는 훌륭한 예측 모델이 있습니다. 99 % 정확도! 그래도별로 도움이되지 않습니다. 이런 이유로 균형 잡힌 반응을 갖는 것이 도움이 될 수 있습니다.
모델에 주 효과 만 포함되어 있습니까? 상호 작용이 도움이 될까요? 2 차 항은 어떻습니까? 데이터가 이러한 고차 항을 가진 모델을 지원할만큼 충분히 "풍부한가"(이 고차 항이 이미 모델에있는 경우 좋은 질문입니다!)
나는 다른 사람들이 도움을 줄 더 많은 것을 추가 할 수 있다고 확신하지만, 이것이 당신의 재미가 정말로 시작되는 곳입니다! 행운을 빌어 요!
Re : 명목 로지스틱 회귀 질문 re : 저장 확률 공식좀 헷갈리네요 ... 모델을 만들기위한 데이터를 어디서 얻었나요? 대부분의 모델이 실제로 잘 예측하지 못하는 이유는 모델을 만드는 데 사용 된 데이터가 미래의 조건을 나타내지 않기 때문입니다. 이것이 데이터 수집 계획이 데이터 분석보다 훨씬 더 중요한 이유입니다. 어려운 상황이라고 말씀 드리지만. 25 년 동안 예상하거나 예상하지 못했던 많은 것들이 바뀔 수 있습니다.
Re : 명목 로지스틱 회귀 질문 re : 저장 확률 공식Dan, 저는 Confusion Matrix를 실행했는데 모델이 죽은 나무를 적절하게 예측하고 그 중 3/4를 죽은 것으로 정확하게 예측하고 있음을 보여주었습니다.그러나 살아있는 나무를 예측하는 것은 끔찍한 일이었고 그중 63 %가 죽은 것으로 예측했습니다.살아있는 나무와 죽은 나무의 분포는 약 45 %, 55 %로 균형이 잘 잡혀 있습니다.모델이 죽은 나무는 예측하지만 살아있는 나무는 예측하지 않는 이유는 무엇입니까?-Mark
Re : 명목 로지스틱 회귀 질문 re : 저장 확률 공식Dan의 의견은 관련이 있지만 확인해야 할 한 가지는 예측 (살아 있거나 죽었 음)이 트리 분류를위한 50 % 임계 값을 기반으로한다는 것입니다.AUC (ROC 곡선에서)가 높으면 (0.5보다 1에 더 가까움) 트리를 분류하는 데 다른 임계 값을 사용하면 더 나은 예측 결과를 얻을 수 있습니다.이는 데이터가 매우 불균형 한 경우 특히 그렇습니다 (즉, 죽은 나무가 거의없는 경우 로지스틱 회귀에서 추정 된 대부분의 확률이 매우 낮아서 기본 예측이 "죽지 않음"이 될 가능성이 높습니다). ).대체 컷오프 분류 확률에 대한 혼동 행렬을 생성 할 수있는 유용한 추가 기능이 있습니다 (검색 만하면 됨).
다른 일로 당신의 설명에 대해 놀랐습니다.이것은 검열 된 데이터 인 것처럼 들립니다. 25 년 후에는 살아있는 나무가 모두 동일한 건강 상태가 아닐 수 있습니다.환경 조건이 나무의 죽음에 기여하면 살아남은 나무도 영향을받을 수 있지만 아직 죽지는 않았습니다.나무가 죽은 시간에 대한 측정 값이 있으면 생존 분석을 시도 할 수 있습니다. 여기서 종속 변수는 사망 시간이고 중도 절단 된 데이터를 분석에 사용할 수 있습니다.
Re : 명목 로지스틱 회귀 질문 re : 저장 확률 공식데일이 옳을 수도 있습니다. 그러나 컷오프가 큰 역할을하지 않는다고 가정하면 모델은 Dead 예측에 편향되어 있습니다. 이는 라이브 트리를 나타내는 모델에서 누락되었을 가능성이있는 무언가가 있음을 나타내는 것 같습니다. 그게 뭔지 말할 수 없습니다. 나는 또한 내 진술이 정확하다는 것을 완전히 확신하지 못합니다. 데이터를보고 현장에 대한 지식이 필요한 곳입니다.
Re : 명목 로지스틱 회귀 질문 re : 저장 확률 공식댄, 답장 해주셔서 감사합니다. 첫째, ROC 및 혼동 행렬 (홀수 이름) 제안에 대해 감사드립니다. 그들은 매우 도움이되었습니다. 내 최고의 모델은 ROC 0.798을 생산했는데, 꽤 괜찮 았습니다. 물론 이것은 25 년 후의 살아있는 나무와 죽은 나무의 전체 수를 예측 한 것이지, 아래에 설명 된 바와 같이 약 63 %의 개별 나무에 대한 죽은 또는 살아있는 예측이 아닙니다. 2020 년 나무는 25 년 동안 약 1/3이 살았고 2/3가 죽었습니다. 50/50 균형은 아니지만 여전히 너무 왜곡되지 않았습니다. 나는 Dale의 제안을 받아 들여 개별 나무를 살아 있거나 죽은 것으로 분류 / 예측하는 데 사용되는 예측 임계 값 (0.5로 설정)을 조정하는 작업을 수행했습니다. 임계 값을 0.5로 조정하여 + 0.284, 나는 살아있는 나무와 죽은 나무에 대한 정확한 예측 비율을 63 %에서 얻을 수 있었지만, 정확한 예측의 수는 0.5 예측 임계 값으로 인해 죽은 예측쪽으로 크게 치우친 원래보다 약간 (4 %) 감소했습니다. 25 년 동안 67 %의 나무 사망률이 정말 높았다 고 생각할 수 있습니다. 정상적인 상태 일 것입니다. 높은 사망률은 제가 약 1 만 그루의 나무를 추적하던 지역이 25 년 동안 8 번 불에 탔기 때문입니다. --표
