참고: 이 기사는 원래 JMPer Cable, 15호, 2004년 여름에 실렸습니다.
John Sal, SAS Institute Inc. 수석 부사장 @John_Sall
브래들리 존스, JMP 개발 @bradleyjones
모든 통계 절차에는 가정이 포함됩니다. 우리는 이러한 가정의 위반을 두려워하도록 배운다. 예를 들어, 평균을 비교하기 위한 표준 절차, 두 표본 티- 테스트, 페어링 티 -test 및 ANOVA는 모두 잔차 오차가 정규 분포를 따른다는 가정을 포함합니다. 오류가 정규 분포를 따르고 다른 모든 가정이 유지되면 모든 검정 통계에 주장된 분포가 있으며 신뢰 구간과 가설 검정을 신뢰할 수 있습니다. 정규 분포를 테스트하고 그래프로 표시하는 분포 플랫폼의 기능과 같이 가정을 조사할 수 있는 풍부한 분석 도구 소스도 있습니다. 잔차가 정규 분포를 따르지 않는다면? 의사는 잔차가 정상인지 여부에 대해 얼마나 걱정해야 합니까? 정규성 가정에 대해 얼마나 걱정해야 하는지에 대해 자세히 설명하는 기사와 책이 거의 없습니다.
정규 분포 잔차를 갖는 것은 다음과 같은 이유로 크게 걱정할 필요가 없는 문제입니다.
- 큰 표본에서는 비정규성을 탐지하기 쉽지만 중요하지 않습니다.
- 작은 표본에서는 비정규성이 중요할 수 있지만 탐지할 수는 없습니다.
큰 표본의 경우 중심 극한 정리는 데이터가 정규적이지 않더라도 표본 크기가 증가함에 따라 평균 유사 통계가 정규 분포에 접근한다고 말합니다. 작은 표본의 경우 검정 통계가 반드시 정상적일 필요는 없지만 말할 수 있을 만큼 충분히 큰 표본이 없습니다.
JMP 개발자는 피팅 플랫폼의 편의 기능으로 잔차 정규성 테스트를 구현하라는 요청을 자주 받습니다. 그러나 이것은 비정규성을 감지하고 문제를 일으킬 수 있는 표본 크기가 있는 경우에만 유용합니다. 시뮬레이션을 사용하여 조사해 봅시다.
시뮬레이션을 위해 두 개의 다른 비정규 오차 분포, 즉 이중 지수 및 이동으로 오염된 정규를 사용하여 두 그룹의 평균을 비교합니다. 이중 지수는 대칭이지만 렙토쿠토틱, 즉 , 정상 분포보다 훨씬 더 뾰족하고 꼬리가 훨씬 더 무겁습니다. 이동 오염된 정규는 표본의 무작위로 선택된 5%에서 3개의 표준 편차의 이동을 추가하여 오른쪽으로 치우친 정규 분포입니다.
이중 지수는 다음 JMP 공식으로 시뮬레이션됩니다.
if(randomUniform()>0.5,1,-1)*log(randomUniform())
교대 근무로 오염된 분포는 다음 JMP 공식을 사용합니다.
10+5*(randomNormal() + (randomUniform()<0.05)*3)
이는 실제 데이터에서 볼 수 있는 강력하지만 극단적이지는 않은 비정규성의 특징을 의미합니다.
그림 1은 시뮬레이션된 이중 지수의 10,000개 포인트를 보여주고 그림 2는 교대로 오염된 분포를 보여줍니다. 빨간색 실선은 데이터가 정규 분포에 맞는 경우 데이터가 어떻게 표시되는지에 대한 참조입니다. 데이터는 작은 분위수에 대한 선 아래에 있고 큰 분위수에 대한 선 위에 있습니다. His는 렙토쿠토틱 분포의 특징입니다. 그들은 길지만 드물게 채워진 꼬리와 함께 중간에 많은 확률 질량을 가지고 있습니다.
이동 오염 분포(그림 2)에 대한 정규 분위수 플롯의 데이터는 큰 분위수에 대한 실선 빨간색 대각선 위에 있습니다. 이것은 오른쪽으로 치우친 분포의 특징입니다. 데이터가 정규 분포를 따르고 있었다면 히스토그램의 상단은 40을 약간 넘어 계속되는 대신 30에서 끝났을 것입니다.
Fig. 1: Distribution results for the double-exponential distribution.그림 1: 이중 지수 분포에 대한 분포 결과.
Fig. 2: Distribution results for the shift-contaminate distributions.그림 2: 교대 오염 분포에 대한 분포 결과.
JSL 스크립트가 실행되어 이 두 개의 비정규 분포에 대한 10개의 관측치가 포함된 10,000개의 Monte Carlo 샘플을 생성했습니다.스크립트(MonteCarlo.jsl)를 첨부합니다. (참고: 스크립트를 실행하는 데 시간이 걸립니다.) 각 샘플은 동일한 크기의 두 그룹으로 나뉩니다. 설계상 두 그룹의 평균에는 차이가 없습니다. 또한 표준 정규 분포에 대한 10,000개의 샘플을 대조군으로 생성했습니다. 각 표본에 대해 평균의 차이를 테스트하기 위해 단방향 분석을 실행하고 잔차의 정규성을 테스트하기 위해 분포를 실행했습니다. 크기가 20, 30, 50, 70 및 100인 샘플에 대해 이 전체 절차를 반복했습니다.
모집단 평균에 차이가 없을 때 동일한 평균에 대한 검정
먼저 10,000개의 플롯을 살펴보겠습니다. 피 - 비정규 분포에 대한 값. 우리의 절차는 각 표본의 평균에 진정한 차이가 없도록 설계되었음을 기억하십시오. 무작위 변동으로 인해, 피 -10,000개의 단방향 분석에 대한 값은 0과 1 사이에 균일하게 분포되어야 합니다. 균일 분포 함수는 대각선 F(x) = x입니다.
그림 3a와 3b의 플롯을 생성하기 위해 먼저 10,000 피 - 가치. 그만큼 와이 -축은 10,000의 비율입니다. 피 - 주어진 유의 확률보다 작거나 같은 값. 그만큼 엑스 -축은 유의 확률을 보여줍니다( 피 값). 각 샘플 크기는 다른 색상으로 표시됩니다.
Fig. 3a: Probability plot of p-values for the double-exponential distribution.그림 3a: 이중 지수 분포에 대한 p-값의 확률 플롯.
Fig 3b: Probability plot of p-values for the shift-contaminated distribution.그림 3b: 교대조로 오염된 분포에 대한 p-값의 확률 플롯.
그림과 모든 표본 크기에 대해 피 -값이 균일 누적 분포 함수의 대각선에 가깝게 보입니다. 예상대로 분포를 변경하거나 표본 크기를 변경하지 않아도 동일한 평균에 대한 분산 분석 검정의 유의 확률 정확도에 큰 영향을 미치지 않습니다.
유의성을 판단하는 0.05 부근의 낮은 척도를 자세히 살펴보겠습니다. 그림 4a 및 4b의 플롯은 영역을 확대합니다.
Fig. 4a: Expanded-scale view of p-value probability plot for non-normal double-exponential distribution.그림 4a: 비정규 이중 지수 분포에 대한 p-값 확률 플롯의 확장된 크기 보기.
Fig. 4b: Expanded-scale view of p-value probability plot for non-normal shift-contaminated distribution. 그림 4b: 비정규 이동 오염 분포에 대한 p-값 확률 플롯의 확장된 크기 보기.
5개의 관측치가 있는 두 그룹의 평균 동등성 검정에 해당하는 빨간색 대각선은 y = x 선 아래에서 약간 벗어납니다. 이것은 무엇을 의미 하는가?
유의 확률 0.05를 선택하면 평균이 실제로 동일하더라도 확률의 변동으로 인해 실험의 5%에서 평균이 동일하다는 가설을 기각할 것임을 알고 있습니다. 즉, 제1종 오류를 범할 확률은 5%입니다. 즉, 가설이 참일 때 평균이 같다는 가설을 기각합니다.
이 5%의 제1종 오류율은 기본 제공되며 0.05의 유의 확률을 선택하면 예상되는 결과입니다. 오류가 너무 많은 것 같으면 더 작은 유의 확률을 선택해야 합니다.
빨간색 대각선이 수직 점선 x = 0.05와 교차할 때 와이 -값은 0.043입니다. 즉, 평균이 5%라는 가설을 기각하는 대신 4.3%만 기각했습니다. 제1종 오류가 예상보다 적기 때문에 이것을 보수적인 결과라고 합니다. 놓칠 거라면 보수적으로 놓치는 게 낫다.
반면에 CumProb 값이 0.06이고 선이 0.05에서 수직 점선을 교차했다고 가정합니다. 그런 다음 예상되는 5%의 제1종 오류를 보는 대신 실제로 6%의 제1종 오류를 보게 됩니다. 실제 오류율이 예상보다 높기 때문에 이러한 테스트를 너무 자유주의적이라고 합니다.
선이 45도 선에서 벗어난 유일한 경우는 보수적인 편이라는 점에서 안심이 됩니다. 교대 근무로 오염된 케이스에도 N =10 케이스는 보수적인 쪽으로 이동했지만 이중 지수만큼은 아닙니다.
그림 5는 Monte Carlo 연구에서 자연 랜덤 변동을 보여주기 위해 순수 정규 곡선을 사용한 Monte Carlo 시뮬레이션을 보여줍니다.
Fig. 5: Expanded-scale view of p-value probability plot for the standard normal distribtuion.그림 5: 표준 정규 분포에 대한 p-값 확률도의 확장된 크기 보기.
비정규성 테스트
다음 질문은 오류가 비정상임을 감지할 수 있는지 여부입니다. 이전에 수행한 각 단방향 분석의 잔차를 계산하는 것으로 시작합니다. 분포 플랫폼을 사용하여 정규성에 대해 이러한 잔차를 테스트합니다. 따라서 각 분포와 표본 크기에 대해 정규성에 대해 10,000개의 Shapiro-Wilks 테스트를 수행합니다. 그림 6의 플롯은 Shapiro-Wilks 테스트에서 유의 확률의 함수로 정규성 테스트 결과의 누적 백분율을 보여줍니다.
Fig. 6: Power plots of Shapiro-Wilkes tests for non-normal distributions.그림 6: 비정규 분포에 대한 Shapiro-Wilkes 검정의 검정력 도표.
이 플롯은 우리에게 무엇을 말해줍니까? 첫째, 이중 지수의 경우와 이동 오염된 정규의 경우 모두에서 잔차의 분포가 정규적이지 않다는 것을 알고 있습니다. 테스트에서 이 비정규성을 감지할 가능성이 얼마나 되는지 알고 싶습니다. 즉, 테스트가 얼마나 강력한지 알고 싶습니다.
완벽하게 강력한 테스트에는 그리스 문자 감마 Γ처럼 보이는 그래프가 있습니다.대조적으로 검정력이 없는 검정은 대각선처럼 보이는 그래프가 있습니다.
이중 지수 분포 잔차의 경우 100개 관측치의 샘플에 대한 그래프가 원하는 대로 맨 왼쪽에서 빠르게 상승하는 것을 볼 수 있습니다. 불행히도, Γ에 대한 그래프의 유사성은 샘플 크기가 감소함에 따라 악화됩니다. 표본 크기가 10일 때 함수는 훨씬 더 대각선처럼 보입니다(검출력 없음).
이동으로 오염된 정규 분포 잔차의 경우 Shapiro-Wilks 검정의 탐지력은 모든 표본 크기에 대해 더 나쁩니다.
그림 7에 표시된 것처럼 잔차가 실제로 정상이면 모든 샘플 크기에 대해 대각선이 표시됩니다. 이것이 우리가 원하는 것입니다. 우리는 존재하지 않는 비정규성을 탐지하고 싶지 않습니다. 여기서 검정의 "검정력"은 제1종 오류의 확률입니다. 테스트가 이보다 덜 강력할 수는 없습니다.
Fig. 7: Power plot of Shapiro-Wilkes test for the standard normal distribution.그림 7: 표준 정규 분포에 대한 Shapiro-Wilkes 검정의 검정력 플롯.
이제 확장해보자 피 그림 8a 및 8b에서와 같이 alpha=0.05에서 검정력을 검사할 수 있도록 값 영역을 지정합니다. 하단 곡선(표본 크기 N = 10) 그림 8에서 0.10 값에서 수직 그리드 선 x=0.05와 교차합니다. 즉, Shapiro-Wilks 유의 확률이 0.05이면 잔차가 비정규라는 사실을 탐지할 확률이 10%입니다. Shapiro-Wilks 검정의 검정력은 10%라고 합니다. 이것은 인상적이지 않습니다.
Fig. 8a: Expanded-scale power plots for double-exponential non-normal distribution.그림 8a: 이중 지수 비정규 분포에 대한 확장 척도 검정력 도표.
Fig. 8b: Expanded-scale power plot for shift-contaminated non-normal distribution.그림 8b: 교대조로 오염된 비정규 분포에 대한 확장 척도 검정력 도표.
이것을 말하는 또 다른 방법은 제2종 오류의 확률이 90%라는 것입니다. 즉, Shapiro-Wilks 검정(이 오류 분포 및 유의 수준이 주어짐)의 90%는 정규 잔차 가설을 기각하는 데 잘못 실패합니다.
대조적으로 위의 상단 곡선(표본 크기 N = 100) 값 0.78에서 수직 그리드 선 x=0.05와 교차합니다. 따라서 이 테스트의 검정력은 거의 80%입니다.
검정력 곡선은 이동으로 오염된 정규 잔차에 대해 유사한 모양을 갖지만 결과 검정력은 훨씬 적습니다. 예를 들어, 상단 곡선(표본 크기 n = 100)은 약 0.63에서 0.05 선과 교차합니다(검정력은 63%).
따라서 적은 수의 관측치에 대해 비정규성을 감지할 수 없음을 알 수 있습니다. 많은 수의 관측치의 경우 시뮬레이션된 제1종 오류율이 대규모 표본 크기에 대한 예상 비율과 일치하기 때문에 오류가 비정규인지 여부는 신경 쓰지 않습니다.
이 연구는 피팅 플랫폼에서 정규성 테스트를 구현하지 않는 것을 지지하는 경향이 있습니다. 이 기능을 포함하면 사람들이 볼 수 없거나 중요하지 않은 것에 대해 걱정할 수밖에 없습니다.
잔차 분포에 대한 그래픽 및 진단 기능을 넣는 것은 다른 문제입니다. 테스트 대신 이상값과 같은 그래픽 이상이나 모드의 숨겨진 구조에 대한 단서가 될 수 있는 패턴을 찾고 있습니다. 이상치와 패턴은 종종 중요한 발견의 주요 단서가 됩니다.
W. Edwards Deming의 계명 중 하나는 "두려움을 몰아내라"는 것이지만 통계학자로서 우리는 일반적으로 그 반대를 수행하여 고객과 학생들에게 비합리적인 두려움을 심어줍니다. 쉽게 복제할 수 있는 이 연구를 통해 이제 "렙토쿠르토시포비아"와 싸울 만큼 충분히 용감하시기를 바랍니다.
걱정거리가 하나 줄어들어서 좋지 않나요?
