그룹에 속할 확률을 모델링하기 위한 단순 로지스틱 회귀에 대한 최선의 접근 방식 및 대안안녕하세요
내 문제를 해결하기 위한 올바른 접근 방식을 선택하는 데 약간의 도움이 필요합니다.
[-45 0] 사이의 값을 취할 수 있는 연속 변수 X가 있습니다.
12개의 개별 그룹에 대한 X 값의 데이터세트가 있습니다. 아래 히스토그램을 참조하세요.
두 가지 모델을 만들려고 합니다.
1) 주어진 새로운 X 값에 대해 각 그룹에 속할 확률을 제공하고 가장 가능성이 높은 그룹을 제공하는 모델입니다.
2) 주어진 그룹에 속한다고 가정되는 X의 새로운 항목에 대해 이 항목이 해당 그룹에 속하지 않을 확률을 알려주는 모델입니다.
나는 처음에 로지스틱 회귀가 적어도 1)에 대해서는 최선의 접근 방식이라고 생각했지만 2)에 대해서는 잘 모르겠습니다. 특히 K와 같이 분포가 매우 좁은 그룹의 경우 더욱 그렇습니다.
미리 감사드립니다!
고급 통계 모델링기본 데이터 분석 및 모델링예측 모델링 및 기계 학습Re: 그룹에 속할 확률을 모델링하기 위한 단순 로지스틱 회귀에 대한 최선의 접근 방식 및 대안데이터 세트 크기에 따라 의사결정 트리 방법을 살펴볼 수 있습니다. 특히 Bootstrap Forest(문헌의 Random Forest)입니다.
Re: 그룹에 속할 확률을 모델링하기 위한 단순 로지스틱 회귀에 대한 최선의 접근 방식 및 대안@MikeD_Anderson 에게 감사드립니다. 한번 볼 것이다!
약 800개의 항목이 있지만 일부 그룹에는 20개 미만의 관찰 항목이 있습니다.
하지만 Pro가 아닌 JMP에만 액세스할 수 있으므로 연속 예측 공식을 사용하는 다른 대안에 여전히 관심이 있습니다. ANN이 작동할까요?
감사해요
Re: 그룹에 속할 확률을 모델링하기 위한 단순 로지스틱 회귀에 대한 최선의 접근 방식 및 대안안녕하세요 @KarlA026 . 차별적 분석을 시도해 볼 수도 있습니다.
https://www.jmp.com/support/help/en/18.0/index.shtml#page/jmp/overview-of-the-discriminant-platform.shtml#
Re: 그룹에 속할 확률을 모델링하기 위한 단순 로지스틱 회귀에 대한 최선의 접근 방식 및 대안@MRB3855님 감사합니다. ANN을 사용하면 더 나은 결과를 얻을 수 있습니다. 하지만 여전히 (연속) 예측 변수가 하나만 있을 때 정교한 도구를 사용하고 있다고 생각하는 데 도움이 될 수 있습니다.
접근 방식 2) 분포 모델을 그룹(일반 또는 기타)에 맞추고 모델 공식을 예측 공식으로 사용하면 어떻게 되나요?
Re: 그룹에 속할 확률을 모델링하기 위한 단순 로지스틱 회귀에 대한 최선의 접근 방식 및 대안안녕하세요 @KarlA026 ANN이 LR보다 "더 좋다"는 게 무슨 뜻인가요?
그리고 wrt (2)는 (1)에서 무작위로 나온 것을 뒤집는 것입니다. (1)에서 그룹은 무작위입니다. (2)에서 표현한 대로 X는 무작위입니다. 그래서 나는 당신이 DA를 고려해 볼 수도 있다고 제안했습니다.
" 분포 모델을 그룹(일반 또는 기타)에 맞추고 모델 공식을 예측 공식으로 사용하시겠습니까?"라는 말이 무슨 뜻인지 잘 모르겠습니다. 명확히 할 수 있습니까?
Re: 그룹에 속할 확률을 모델링하기 위한 단순 로지스틱 회귀에 대한 최선의 접근 방식 및 대안@MRB3855 및 @MikeD_Anderson 에게 감사드립니다.
ANN의 경우 X를 사용하여 그룹을 예측할 때 LDA보다 잘못 분류된 결과가 적다는 것을 의미합니다. 이는 LDA가 비선형 모델을 허용하지 않고 로짓과 유사한 모델을 제공하기 때문입니다(그룹 K의 예에서 첨부된 이미지의 프로파일러 차이점 참조).
보시다시피 ANN 모델의 프로파일러는 그룹 K의 분포에 가깝습니다. 분포 피팅에 대한 제가 제안한 내용은 관련이 없을 수도 있습니다. 예를 들어 정규 분포 모델을 그룹 K에 맞추려고 할 때 모델 공식을 새 열로 저장하고 이를 새 항목에 대한 표시 열로 사용하여 이 새 항목의 확률을 평가할 수 있었습니다. K그룹에 속해있습니다.
나는 주어진 고정 X 값에 대해 해당 포인트가 주어진 그룹에 속할 확률을 추정하고 싶습니다.
이제 분명해지기를 바라요!
감사해요!
Re: 그룹에 속할 확률을 모델링하기 위한 단순 로지스틱 회귀에 대한 최선의 접근 방식 및 대안@MRB3855 , @MikeD_Anderson ,
어떤 생각이 드나요? 미리 감사드립니다!
Re: 그룹에 속할 확률을 모델링하기 위한 단순 로지스틱 회귀에 대한 최선의 접근 방식 및 대안안녕하세요 @KarlA026 : 불행히도 훌륭한 솔루션이 있는지 잘 모르겠습니다. 그리고 위의 내 의견 중 하나가 레이더 아래로 날아간 경우 아래에서 이에 대해 자세히 설명하겠습니다.
위에는 몇 가지 게시물이 있으며 다음과 같이 말했습니다.
"그리고 wrt (2)는 (1)에서 무작위로 나온 것을 뒤집는 것입니다. (1)에서 그룹은 무작위입니다. (2)에서 표현한 대로 X는 무작위입니다."
(1) 로지스틱 회귀 분석 또는 ANN에서는 Prob(X 값이 주어진 그룹에 속해 있음)를 추정합니다. 이는 간략하게 P(G|X)로 작성하고 "X가 주어진 그룹 구성원의 확률"로 읽을 수 있습니다. 따라서 여기서 그룹은 임의의 구성 요소입니다. X는 고정되어 있습니다(즉, 선택됨).따라서 주어진 X에 대해 각 그룹에 속할 확률을 추정합니다.
(2) "그냥 추정하고 싶은 것"은 매우 다릅니다. 문제를 설명한 방식으로 Prob(X는 그룹에 속함, 주어진 그룹) = Prob(X|G)는 "X가 주어진 그룹에 속할 확률"을 읽도록 요구하고 있습니다. 여기서 X는 무작위이고 그룹이 고정되었습니다. 그렇다면 X가 특정 그룹에 속할 확률은 얼마입니까? 여기서는 그룹을 선택하고 X가 해당 그룹에 포함될 확률이 무엇인지 묻고 있습니다.
P(G|X)는 P(X|G)와 매우 다릅니다. 마치 Prob(A가 질병에 대해 양성으로 테스트된 경우) Prob(A가 질병에 대해 양성으로 테스트된 경우)와 매우 다른 것처럼 Prob(A가 질병에 걸렸습니다. A가 질병에 걸린 경우).
모두 말함: 상단의 플롯을 보고 x 값을 선택하면 -30이라고 말하고 직선을 그립니다. 그룹 M의 -30 왼쪽에 있는 곡선 아래 영역의 백분율이 약 50%인 것을 볼 수 있습니다. 그룹 D의 경우 약 20%입니다. "분포 모델을 그룹(일반 또는 기타)에 맞추고 모델 공식을 예측 공식으로 사용합니다"라고 말할 때 생각했던 것이 일종의 것입니까?
Re: 그룹에 속할 확률을 모델링하기 위한 단순 로지스틱 회귀에 대한 최선의 접근 방식 및 대안@MRB3855 설명해주셔서 감사합니다.
나는 그것을 염두에 두었던 것 같지만 그들이 공식화한 것은 그다지 엄격하지 않았습니다.
어쨌든, P(G|X) 또는 P(X|G)를 평가/모델링하기 위해 무엇을 조언하시겠습니까?
실제로 마지막 단락에서 설명하신 내용은 제가 염두에 두었던 내용과 거의 비슷해 보입니다.Re: 그룹에 속할 확률을 모델링하기 위한 단순 로지스틱 회귀에 대한 최선의 접근 방식 및 대안안녕하세요 @KarlA026 : 잘 모르겠습니다. "주어진 고정 X 값에 대해 해당 지점이 특정 그룹에 속할 확률을 추정"해야 하는 이유는 무엇입니까? 즉, X를 어떻게 관찰하나요? X의 정확한 값은 예측할 수 없습니까(통제되지 않은 가변성의 원인이 있는 일부 프로세스의 출력) 아니면 원하는 대로 X를 선택할 수 있습니까? 그리고 모델이 무엇이든 이 모델은 실제로 어떻게 사용됩니까? 몇 가지 세부정보를 제공해 주실 수 있나요?
Re: 그룹에 속할 확률을 모델링하기 위한 단순 로지스틱 회귀에 대한 최선의 접근 방식 및 대안@MRB3855 감사합니다!
그것부터 시작했어야 했는데. X는 특정 분석을 통해 얻을 수 있는 원재료의 고유한 물성입니다. 그룹은 이 원자재의 서로 다른 공급업체입니다.
두 가지 시나리오는 다음과 같은 경우에 해당합니다.
1) 공급업체를 알 수 없는 재료가 있는데 X를 기준으로 가장 가능성 있는 공급업체(그룹)를 평가해야 합니다.
2) 원재료 공급업체가 샘플을 제공하고 있으며, 우리는 이 재료가 해당 공급업체를 효과적으로 구성할 확률, 또는 반대로 해당 재료가 다른 곳에서 나올 확률을 평가하고 싶습니다. 이 모든 것은 그림에 표시된 참조 데이터베이스의 해당 샘플에 대한 X 값을 기반으로 합니다.
도움이 되었기를 바랍니다!Re: 그룹에 속할 확률을 모델링하기 위한 단순 로지스틱 회귀에 대한 최선의 접근 방식 및 대안안녕하세요 @KarlA026 : 네, 도움이 되었습니다. 감사해요!
제가 이해하는 바에 따르면 그 아이디어는 그림의 데이터를 기반으로 확률 모델을 구축하는 것입니다. 그런 다음 해당 모델을 사용하여 각 공급업체로부터 해당 샘플이 나올 확률을 각각 추정할 수 있습니다(관측된 재료 특성 X 값을 기준으로).
사례 1(알 수 없는 공급자의 자재): X를 측정합니다. 그런 다음 관찰된 X 값을 얻은 후에는 이미 구축한 모델(물류/ANN/무엇이든)에 적용하여 가능성이 가장 높은 공급업체(확률이 가장 높은 공급업체)를 예측합니다. ).
사례 2(알려진 공급업체의 자재): 공급자를 알고 X를 알고 있는 경우 이 자재가 해당 공급자로부터 나올 확률(또는 아닐 확률)은 부적합합니다(위의 경우 1과 동일하게 계산할 수 있음 ). 여기에 예가 있습니다. 밖을 보니 비가 내리고 있다고 가정해 보겠습니다. 그런데 한 시간 전에 일기예보를 확인해보니 오늘 비 올 확률이 10%라고 하더군요. 이진 예측 관점에서 실제로 말할 수 있는 것은 모델이 잘못되었다는 것뿐입니다. 그러나 확률론적 관점에서 볼 때 모델은 틀리지 않았습니다(비가 올 확률이 0%라고 말하지 않았습니다). 하지만 어느 쪽이든 비가 온다...확률은 들어가지 않는다. 따라서 일단 어떤 일이 발생했거나 알려지면 그 일과 관련된 확률은 없습니다. 귀하의 경우, 공급업체를 알고 나면 그 공급업체와 관련된 확률은 없습니다. 하지만 모델이 얼마나 잘 예측하는지 확인하기 위해 이를 계산할 수는 있습니다(위의 경우 1과 마찬가지로). 따라서 모델이 공급업체 M을 예측했지만 실제로 공급업체 F에서 나온 것임을 알고 있다면... 예측 관점에서 볼 때 모델이 잘못되었다고 말할 수 있습니다. 그렇다면 공급업체를 불신할 이유가 있나요? 예를 들어, 실제로 공급업체 B로부터 샘플을 공급업체 D로부터 얻을 가능성이 있습니까? 그렇다면 상황은 달라집니다. 쉬운 해결책이 있습니다(공급업체 D를 더 이상 사용하지 마세요!).
Re: 그룹에 속할 확률을 모델링하기 위한 단순 로지스틱 회귀에 대한 최선의 접근 방식 및 대안@MRB3855 정말 감사합니다!
귀하의 질문에 답변합니다. 예, 우리 시나리오에서는 일부 원자재가 명시된 다른 공급업체로부터 공급될 수 있다고 가정합니다(또는 다른 공급업체와 혼합될 수 있음). 여기서의 목표는 X를 기반으로 일종의 인증을 얻는 것입니다.
또한 여기에는 예측 변수가 하나만 있으므로 ANN이 허용 가능한 방법입니까? 나는 항상 이것이 다변량 문제에만 해당된다고 생각했습니다.
Re: 그룹에 속할 확률을 모델링하기 위한 단순 로지스틱 회귀에 대한 최선의 접근 방식 및 대안안녕하세요 @KarlA026 : 아, 알겠습니다. 행운을 빌어요!
물론, X = -5이고 "공급업체 D로부터"인 경우 위의 플롯을 기반으로 하면 매우 의심스럽습니다. 하지만 X = -24라면 어떨까요? 그렇다면 아마도 여러 공급자가 서로를 정확하게 구별할 수 있는 능력이 거의 없을 수도 있습니다. 나는 일반적으로 X만으로는 좋은 판별자가 아니라고 생각합니다. 아마도 다른 재료 특성이 있을까요?
물론입니다. ANN은 괜찮습니다. 순전히 통계적인 관점에서 보면 1개의 예측 변수를 사용할 수 없는 이유가 없습니다. 하지만 위에서 말했듯이 측정하고 있는 X는 일반적으로 그룹을 구별하는 데 적합하지 않습니다.
