이상치 감지안녕하세요
이상치를 탐지하기 위한 분류 문제에서 신경망 예측의 잔차를 계산하려는 경우
잔차를 계산하려면 어떤 공식을 사용해야 합니까?
소프트웨어가 그렇게 합니까?
고급 통계 모델링예측 모델링 및 기계 학습답: 이상값 감지안녕하세요 @maryam_nourmand 님 ,
모델을 사용하여 연속적인 숫자 값을 예측하는 경우 일부 모델에서는 빨간색 삼각형을 클릭하고 "열 저장"을 선택한 다음 "잔차"를 선택하여 데이터 테이블에 잔차를 직접 저장할 수 있습니다. 신경망의 경우 테이블에 예측 수식을 저장한 다음(빨간색 삼각형, "수식 저장" 또는 "빠른 수식 저장") 수식을 사용하여 새 열 "잔차"를 생성하는 몇 가지 수동 작업이 필요합니다. 실제 값 - 예측값
빨간색 삼각형을 클릭하면 신경망 플랫폼에 "예측별 잔차" 그래프를 그릴 수 있는 옵션이 이미 있습니다.
모델을 사용하여 클래스를 예측하는 경우 잔차는 없지만 오분류 및 계산된 확률에 대한 정보는 있습니다. 그런 다음 이러한 확률 열(이전과 동일한 옵션)을 저장하고 오류가 어디에 있는지 이해하려고 시도할 수 있습니다. 예를 들어 예측된 기본 클래스의 확률을 표시하고 분류 확률 임계값을 조정해야 하는지 확인합니다.
분류 모델 평가에 관심이 있는 경우 분류 모델의 성능을 평가하는 데 도움이 되는 다양한 도표( ROC 곡선 , 리프트 곡선 , 혼동 행렬 등 )도 있습니다.
이 답변이 도움이 되길 바랍니다.
답: 이상값 감지하지만 로지스틱 회귀에서는 잔차를 계산할 수 있습니다.
그것도 일종의 분류 모델이죠
그에 대한 이탈도 잔차 계산 공식 사진을 첨부합니다.
이제 분류 문제에 신경망을 언제 사용하는지 알고 싶습니다.
그것에 대한 잔차도 어떻게 계산할 수 있나요?
답: 이상값 감지실제로 일반화 선형 모델에서 이탈도를 계산할 수 있습니다. 모델 선택 및 이탈도에 대한 통계 세부 정보
예를 들어 JMP 데이터 세트 "세제"에서 "브랜드"를 범주형 응답 Y로 사용하면 이탈도 잔차를 직접 계산하여 데이터 테이블에 저장할 수 있는 옵션이 있습니다.
편차는 모델 피팅이 최대 유사성에 의해 달성되는 통계 모델의 적합도에 대한 표시이며, 이는 다른 손실 함수를 사용하는 기계 학습 모델에는 사용할 수 없습니다. 이탈도(통계) - Wikipedia
따라서 다른 피팅 기능을 사용하는 일부 모델에서는 이를 계산하지 못할 수도 있습니다.
답: 이상값 감지그렇다면 기계 학습 모델의 통계 모델에서 잔차의 동일한 개념은 무엇입니까?
하지만 기계 학습 모델의 각 클래스에 대한 확률이 있으므로 그에 대한 잔차도 계산할 수 있어야 한다고 생각합니다.
답: 이상값 감지잔차 분석은 예측 성능을 평가할 뿐만 아니라 올바른 사용 뒤에 있는 가정을 검증하기 위해 통계 모델에 사용됩니다. 회귀 모델 가정 | 통계학개론 | JMP
기계 학습 모델에서는 실제 관계가 선형이고 오류가 정규 분포 등이라고 가정하지 않기 때문에 일반적으로 "엄격한" 가정이 훨씬 덜합니다.
기계 학습 모델 사용의 이면에 있는 가장 큰 공통 가정은 데이터가 iid( 독립적이고 동일하게 분산되어 있음) 라는 것입니다. 다른 가정은 특정 알고리즘의 사용 및 데이터 학습 방식과 더 관련이 있습니다. 이에 대한 자세한 내용은 여기에서 확인할 수 있습니다.
- https://www.kdnuggets.com/2021/02/machine-learning-assumptions.html
- 기계 학습 시리즈의 귀납적 편향: https://mindfulmodeler.substack.com/p/from-theory-to-practice-initive
모든 분류 모델은 데이터 포인트가 각 클래스에 속할 확률을 계산합니다. 지정된 임계값(예: 이진 분류의 경우 > 0,5)을 기반으로 가장 높은 클래스 확률에 해당하는 예측 클래스를 출력합니다. 예측 확률을 작업하고 시각화하면 예측 클래스의 출력에 대한 임계값을 더 잘 정의하고 모델이 클래스를 올바르게 구별하는 것으로 보이는지 평가하는 데 도움이 될 수 있습니다.
JMP에서 일종의 잔차를 계산하기 위해 이러한 예측 확률을 직접 사용할 수 있는 측정법이나 방법이 있는지 모르겠습니다.
답: 이상값 감지
이러한 예측 확률을 직접 사용하여 JMP에서 일종의 잔차를 계산하는 방법을 찾거나 JMP뿐만 아니라 이러한 예측 확률을 사용하여 잔차를 계산하는 방법을 찾으면 이 게시물에 알려주시기 바랍니다.
감사해요
답: 이상값 감지Brier 점수를 계산할 수 있습니다. 그러나 아마도 당신이 정확히 무엇을 하려고 하는지에 대해 좀 더 말해야 할 것 같습니다. 분류 모델의 정확성을 측정하고 평가하는 방법에는 여러 가지가 있습니다. 분류 모델이 확률을 산출하고 각 관찰이 올바르게 분류되거나 분류되지 않기 때문에 잔차가 가장 직관적이지 않다고 생각합니다. 잘못된 분류에 대한 확률이 극단적일수록 모델은 더 나빠집니다. (그리고 잔차 측정값을 가정하지만 이를 보는 더 직관적인 방법이 있다고 생각합니다.) 그렇다면 잔차로 무엇을 하려는 걸까요?
답: 이상값 감지내 모델이 반응을 얼마나 잘 예측할 수 있는지 확인하고 싶습니다.
답: 이상값 감지문제를 분류 모델로 설명했습니다. JMP는 각 관찰에 대한 개별 결과의 확률을 계산합니다(검증을 사용하고 훈련 데이터보다는 검증 데이터에 초점을 맞추는 것이 좋습니다). 이러한 확률을 사용하여 Brier 점수와 같은 측정값을 계산하거나 위에 설명된 다양한 방법을 사용하여 모델의 정확도를 측정할 수 있습니다. 잔차가 무엇을 의미하는지, 왜 잔차에 집중하고 싶은지 이해가 되지 않습니다. 분류 모델이 이진형이라고 가정합니다. 즉, 응답 0 또는 1을 예측합니다. 모델은 1의 확률을 생성합니다. 확률이 0.6이라고 가정해 보겠습니다. 이제 특정 관찰의 실제 분류가 0(또는 1)이라고 가정합니다. 이 관찰에 대한 "잔차"를 무엇이라고 부르겠습니까? 예측이 정확하다면(예: 1) 확률이 1에 가까울수록 모델이 "더 나은" 것입니다. 실제로 0인 경우 모델의 확률이 1에 가까울수록 모델이 "나쁜" 것입니다. Brier 점수는 모델이 얼마나 좋은지 측정하는 데 자주 사용되는 방법입니다. JMP가 Brier 점수를 계산할 것이라고는 생각하지 않습니다. 적어도 저는 본 적이 없지만 수동으로 계산하는 것은 쉬울 것입니다. 또는 AUC, 오분류율, AIC 등은 모델이 얼마나 좋은지 측정하기 위해 JMP에서 쉽게 제공하는 측정값입니다.
그러나 "잔차"에 초점을 맞추는 것은 "내 모델이 반응을 얼마나 잘 예측할 수 있는지"를 결정하는 목표를 달성하는 가장 직관적인 방법과는 거리가 멀습니다. 잔차는 분류 모델이 아닌 연속형 반응 변수가 있는 경우 이를 확인하는 자연스러운 방법이며, JMP를 사용하면 해당 모델 유형에 대한 잔차를 쉽게 계산할 수 있습니다(저장 열의 빨간색 삼각형에 내장되어 있거나 그냥 생성됨). ABS(실제 예측)를 사용한 컬럼입니다.
