참고: 이 기사는 원래 JMPer Cable, 2004년 여름 15호에 게재되었습니다.
SAS Institute Inc.의 수석 부사장 John Sall @존_살
브래들리 존스(JMP Development) @bradleyjones
모든 통계 절차에는 가정이 포함됩니다. 우리는 이러한 가정을 위반하는 것을 두려워하도록 배웠습니다. 예를 들어, 비교 평균을 위한 표준 절차는 2-표본입니다. 티- 테스트, 페어링 티 -test 및 ANOVA에는 모두 잔차 오차가 정규 분포를 따른다는 가정이 포함됩니다. 오류가 정규 분포를 따르고 다른 모든 가정이 유지되는 경우 모든 검정 통계량은 주장된 분포를 가지며 신뢰 구간과 가설 검정을 신뢰할 수 있습니다. 우리는 정규 분포에 대해 테스트하고 그래프를 작성하는 배포 플랫폼의 기능과 같이 가정을 조사할 수 있는 풍부한 분석 도구 소스도 보유하고 있습니다. 잔차가 정규 분포를 따르지 않으면 어떻게 되나요? 잔차가 정상인지에 대해 시술자는 얼마나 걱정해야 할까요? 정규성 가정에 대해 얼마나 걱정해야 하는지 자세히 설명하는 기사와 책은 거의 없습니다.
정규 분포를 따르는 잔차를 갖는 것은 다음과 같은 이유로 크게 걱정할 필요가 없는 문제입니다.
- 대규모 표본에서는 비정규성을 쉽게 감지할 수 있지만 문제가 되지 않습니다.
- 작은 표본에서는 비정규성이 중요할 수 있지만 이를 감지할 수는 없습니다.
큰 표본의 경우 중심 극한 정리는 데이터가 정규 분포가 아니더라도 표본 크기가 증가함에 따라 평균 유사 통계가 정규 분포에 접근한다는 것을 나타냅니다. 작은 표본의 경우 검정 통계량이 반드시 정상일 필요는 없지만 알 수 있을 만큼 큰 표본이 없습니다.
JMP 개발자들은 피팅 플랫폼의 편의 기능으로 잔차 정규성 테스트를 구현해 달라는 요청을 자주 받습니다. 그러나 이는 비정규성을 감지하고 중요하게 생각할 수 있는 표본 크기가 있는 경우에만 유용합니다. 시뮬레이션을 사용하여 조사해 보겠습니다.
시뮬레이션을 위해 두 개의 서로 다른 비정규 오류 분포(이중 지수 및 이동으로 오염된 정규)를 사용하여 두 그룹의 평균을 비교합니다. 이중 지수는 대칭이지만 렙토쿠르틱입니다. 즉 , 정규 분포보다 훨씬 더 뾰족하고 꼬리가 훨씬 더 두껍습니다. 이동 오염 정규는 무작위로 선택된 5% 표본에 3개의 표준 편차의 이동을 추가하여 오른쪽으로 치우친 정규 분포입니다.
이중 지수는 다음 JMP 공식으로 시뮬레이션됩니다.
if(randomUniform()>0.5,1,-1)*log(randomUniform())
교대조 오염 분포는 다음 JMP 공식을 사용합니다.
10+5*(randomNormal() + (randomUniform()<0.05)*3)
이는 실제 데이터에서 볼 수 있는 강력한 비정규성의 특징이지만 극단적이지는 않습니다.
그림 1은 시뮬레이션된 이중 지수의 10,000개 지점을 보여주고 그림 2는 이동으로 오염된 분포를 보여줍니다. 빨간색 실선 대각선은 데이터가 정규 분포에 맞는 경우 데이터가 어떻게 보이는지에 대한 참조입니다. 데이터는 작은 분위수의 경우 선 아래에 있고 큰 분위수의 경우 선 위에 있습니다. 그의 특징은 leptokurtotic 분포의 특징입니다. 그들은 길지만 인구가 적은 꼬리와 함께 중간에 많은 확률 질량을 가지고 있습니다.
이동으로 오염된 분포(그림 2)에 대한 일반 분위수 도표의 데이터는 큰 분위수의 빨간색 실선 대각선 위에 있습니다. 이는 오른쪽으로 치우친 분포의 특징입니다. 데이터가 정규 분포를 따른다면 히스토그램의 상단은 40을 약간 지나 계속되는 대신 30 부근에서 끝났을 것입니다.
Fig. 1: Distribution results for the double-exponential distribution.Fig. 1: Distribution results for the double-exponential distribution.Fig. 1: Distribution results for the double-exponential distribution.Fig. 1: Distribution results for the double-exponential distribution.그림 1: 이중 지수 분포에 대한 분포 결과.
Fig. 2: Distribution results for the shift-contaminate distributions.Fig. 2: Distribution results for the shift-contaminate distributions.Fig. 2: Distribution results for the shift-contaminate distributions.Fig. 2: Distribution results for the shift-contaminate distributions.그림 2: 교대 오염 분포에 대한 분포 결과.
이 두 비정규 분포에 대해 10개의 관측값을 사용하여 10,000개의 Monte Carlo 샘플을 생성하는 JSL 스크립트가 실행되었습니다.스크립트(MonteCarlo.jsl)가 첨부되어 있습니다. (참고: 스크립트를 실행하는 데 시간이 걸립니다.) 각 샘플은 동일한 크기의 두 그룹으로 나누어졌습니다. 설계상 두 그룹의 평균에는 차이가 없습니다. 또한 표준 정규 분포에 대한 10,000개의 샘플을 대조군으로 생성했습니다. 각 표본에 대해 평균의 차이를 테스트하기 위한 일원 분석과 잔차의 정규성을 테스트하기 위한 분포를 실행했습니다. 우리는 크기가 20, 30, 50, 70, 100인 표본에 대해 이 전체 절차를 반복했습니다.
모집단 평균에 차이가 없을 때 평균 동일 여부를 검정합니다.
먼저 10,000개의 플롯을 살펴보겠습니다. 피 -비정규 분포에 대한 값. 우리의 절차는 각 표본의 평균에 실제 차이가 없도록 설계되었음을 기억하십시오. 무작위적인 변화로 인해, 피 -10,000개의 단방향 분석 값은 0과 1 사이에 균일하게 분포되어야 합니다. 균일 분포 함수는 대각선 F(x) = x입니다.
그림 3a와 3b의 플롯을 생성하기 위해 먼저 10,000개 항목을 정렬했습니다. 피 -가치. 그만큼 와이 -축은 10,000의 비율입니다. 피 -주어진 유의 확률보다 작거나 같은 값. 그만큼 엑스 -축은 유의 확률을 보여줍니다( 피 값). 각 샘플 크기는 다른 색상으로 표시됩니다.
Fig. 3a: Probability plot of p-values for the double-exponential distribution.Fig. 3a: Probability plot of p-values for the double-exponential distribution.Fig. 3a: Probability plot of p-values for the double-exponential distribution.Fig. 3a: Probability plot of p-values for the double-exponential distribution.그림 3a: 이중 지수 분포에 대한 p-값의 확률 도표.
Fig 3b: Probability plot of p-values for the shift-contaminated distribution.Fig 3b: Probability plot of p-values for the shift-contaminated distribution.Fig 3b: Probability plot of p-values for the shift-contaminated distribution.Fig 3b: Probability plot of p-values for the shift-contaminated distribution.그림 3b: 이동으로 오염된 분포에 대한 p-값의 확률 도표.
도표와 모든 표본 크기 모두에 대해 피 -값은 균등 누적 분포 함수의 대각선에 가깝게 보입니다. 우리가 바라던 대로 분포를 변경하거나 표본 크기를 변경해도 동일 평균에 대한 ANOVA 검정의 유의 확률 정확도에 큰 영향을 미치지 않습니다.
우리가 유의성을 판단하고 있는 0.05 근처의 낮은 척도를 자세히 살펴보겠습니다. 그림 4a 및 4b의 플롯은 해당 영역을 확대합니다.
Fig. 4a: Expanded-scale view of p-value probability plot for non-normal double-exponential distribution.Fig. 4a: Expanded-scale view of p-value probability plot for non-normal double-exponential distribution.Fig. 4a: Expanded-scale view of p-value probability plot for non-normal double-exponential distribution.Fig. 4a: Expanded-scale view of p-value probability plot for non-normal double-exponential distribution.그림 4a: 비정규 이중 지수 분포에 대한 p-값 확률 플롯의 확장된 규모 보기.
Fig. 4b: Expanded-scale view of p-value probability plot for non-normal shift-contaminated distribution.Fig. 4b: Expanded-scale view of p-value probability plot for non-normal shift-contaminated distribution.Fig. 4b: Expanded-scale view of p-value probability plot for non-normal shift-contaminated distribution.Fig. 4b: Expanded-scale view of p-value probability plot for non-normal shift-contaminated distribution. 그림 4b: 비정규 이동으로 오염된 분포에 대한 p-값 확률 플롯의 확장된 규모 보기.
5개의 관측치가 있는 두 그룹의 평균 동일성 테스트에 해당하는 빨간색 대각선이 y = x 선보다 약간 아래에 있습니다. 이것은 무엇을 의미 하는가?
유의 확률 0.05를 선택하면 평균이 실제로 동일하더라도 우연의 변화로 인해 실험의 5%에서 평균이 동일하다는 가설을 기각하게 됩니다. 즉, 5%의 시간 동안 우리는 제1종 오류를 범하게 됩니다. 즉, 가설이 참일 때 평균이 동일하다는 가설을 기각하게 됩니다.
이 5% 제1종 오류율은 내장되어 있으며 유의 확률을 0.05로 선택할 경우 예상되는 결과입니다. 오류가 너무 많은 것 같으면 더 작은 유의 확률을 선택해야 합니다.
빨간색 대각선이 수직 점선 x = 0.05와 교차할 때, 와이 -값은 0.043입니다. 이는 평균이 시간의 5%와 동일하다는 가설을 기각하는 대신 시간의 4.3%만 기각했다는 의미입니다. 우리는 이것을 보수적인 결과라고 부른다. 왜냐하면 우리가 기대했던 것보다 더 적은 제1종 오류를 범하고 있기 때문이다. 놓치게 될 경우 보수적으로 놓치는 것이 좋습니다.
반면에 CumProb 값이 0.06일 때 선이 0.05에서 수직 점선을 교차했다고 가정합니다. 그러면 예상되는 5% 유형 I 오류가 표시되는 대신 실제로는 6% 유형 I 오류가 표시됩니다. 실제 오류율이 예상보다 크기 때문에 이러한 테스트를 너무 진보적이라고 부릅니다.
유일하게 45도 선에서 벗어난 경우에는 보수적인 편이라는 점이 안심이다. 교대근무로 오염된 케이스에도 N =10 사례는 보수적인 측면으로 이동했지만 이중 지수 만큼은 아닙니다.
그림 5는 Monte Carlo 연구의 자연적인 무작위 변화를 보여주기 위해 순수 정규 곡선을 사용한 Monte Carlo 시뮬레이션을 보여줍니다.
Fig. 5: Expanded-scale view of p-value probability plot for the standard normal distribtuion.Fig. 5: Expanded-scale view of p-value probability plot for the standard normal distribtuion.Fig. 5: Expanded-scale view of p-value probability plot for the standard normal distribtuion.Fig. 5: Expanded-scale view of p-value probability plot for the standard normal distribtuion.그림 5: 표준 정규 분포에 대한 p-값 확률 플롯의 확장된 규모 보기.
비정규성 테스트
다음 질문은 오류가 비정규임을 감지할 수 있는지 여부입니다. 이전에 수행한 각 단방향 분석의 잔차를 계산하는 것부터 시작합니다. 분포 플랫폼을 사용하여 이러한 잔차의 정규성을 테스트합니다. 따라서 각 분포와 표본 크기에 대해 정규성을 확인하기 위해 10,000번의 Shapiro-Wilks 테스트를 수행합니다. 그림 6의 플롯은 Shapiro-Wilks 검정의 유의 확률의 함수로서 정규성 검정 결과의 누적 백분율을 보여줍니다.
Fig. 6: Power plots of Shapiro-Wilkes tests for non-normal distributions.Fig. 6: Power plots of Shapiro-Wilkes tests for non-normal distributions.Fig. 6: Power plots of Shapiro-Wilkes tests for non-normal distributions.Fig. 6: Power plots of Shapiro-Wilkes tests for non-normal distributions.그림 6: 비정규 분포에 대한 Shapiro-Wilkes 검정의 검정력 도표.
이 플롯은 우리에게 무엇을 말해주는가? 첫째, 우리는 이중 지수의 경우와 이동이 오염된 정규의 경우 모두 잔차의 분포가 정규적이지 않다는 것을 알고 있습니다. 우리는 테스트가 이러한 비정규성을 탐지할 가능성이 얼마나 되는지 알고 싶습니다. 즉, 우리는 테스트가 얼마나 강력한지 알고 싶습니다.
완벽하게 강력한 테스트에는 그리스 문자 감마 Γ처럼 보이는 그래프가 있습니다.대조적으로, 검정력이 없는 테스트는 대각선처럼 보이는 그래프를 갖게 됩니다.
이중 지수 분포 잔차의 경우 100개 관측치 샘플에 대한 그래프가 원하는 대로 맨 왼쪽에서 빠르게 상승하는 것을 볼 수 있습니다. 불행히도, 표본 크기가 줄어들수록 그래프와 Γ의 유사성은 저하됩니다. 샘플 크기가 10이면 함수는 대각선과 훨씬 더 비슷해 보입니다(검출 능력 없음).
이동으로 오염된 정규 분포 잔차의 경우 Shapiro-Wilks 검정의 탐지 능력은 모든 표본 크기에 대해 더 나쁩니다.
그림 7에 표시된 것처럼 잔차가 실제로 정규인 경우 모든 표본 크기에 대해 대각선이 표시됩니다. 이것이 우리가 원하는 것입니다. 우리는 존재하지 않는 비정규성을 감지하고 싶지 않습니다. 여기서 테스트의 "능력"은 제1종 오류가 발생할 확률입니다. 이보다 덜 강력한 테스트는 불가능합니다.
Fig. 7: Power plot of Shapiro-Wilkes test for the standard normal distribution.Fig. 7: Power plot of Shapiro-Wilkes test for the standard normal distribution.Fig. 7: Power plot of Shapiro-Wilkes test for the standard normal distribution.Fig. 7: Power plot of Shapiro-Wilkes test for the standard normal distribution.그림 7: 표준 정규 분포에 대한 Shapiro-Wilkes 검정의 검정력 도표.
이제 확장해보겠습니다. 피 -값 영역이므로 그림 8a 및 8b에 표시된 것처럼 알파=0.05에서 전력을 검사할 수 있습니다. 하단 곡선(샘플 크기 N = 10) 그림 8에서 값 0.10에서 수직 격자선 x=0.05와 교차합니다. 즉, Shapiro-Wilks 유의 확률이 0.05인 경우 잔차가 비정규라는 사실을 탐지할 확률은 10%입니다. Shapiro-Wilks 검정의 검정력은 10%라고 합니다. 이것은 인상적이지 않습니다.
Fig. 8a: Expanded-scale power plots for double-exponential non-normal distribution.Fig. 8a: Expanded-scale power plots for double-exponential non-normal distribution.Fig. 8a: Expanded-scale power plots for double-exponential non-normal distribution.Fig. 8a: Expanded-scale power plots for double-exponential non-normal distribution.그림 8a: 이중 지수 비정규 분포에 대한 확장된 규모의 검정력 플롯.
Fig. 8b: Expanded-scale power plot for shift-contaminated non-normal distribution.Fig. 8b: Expanded-scale power plot for shift-contaminated non-normal distribution.Fig. 8b: Expanded-scale power plot for shift-contaminated non-normal distribution.Fig. 8b: Expanded-scale power plot for shift-contaminated non-normal distribution.그림 8b: 교대로 오염된 비정규 분포에 대한 확장된 규모의 검정력 플롯.
이를 다르게 표현하면 제2종 오류가 발생할 확률은 90%입니다. 즉, Shapiro-Wilks 검정(이 오류 분포 및 유의 수준을 고려할 때)의 90%는 정규 잔차 가설을 잘못 기각하는 데 실패합니다.
대조적으로, 위의 상단 곡선(샘플 크기 N = 100)은 값 0.78에서 수직 그리드 선 x=0.05와 교차합니다. 따라서 이 테스트의 검정력은 거의 80%에 가깝습니다.
검정력 곡선은 이동으로 오염된 정규 잔차와 유사한 모양을 갖지만 결과 검정력은 훨씬 더 작습니다. 예를 들어, 위쪽 곡선(샘플 크기 n = 100)은 약 0.63(검정력은 63%)에서 0.05 선을 교차합니다.
따라서 적은 수의 관측치에 대해서는 비정규성을 탐지할 수 없다는 것을 알 수 있습니다. 관찰 수가 많은 경우 시뮬레이션된 제1종 오류율이 큰 표본 크기에 대한 예상 오류율과 일치하므로 오류가 비정규인지 여부는 신경 쓰지 않습니다.
이 연구는 피팅 플랫폼에서 정규성 테스트를 구현하지 않는 것을 지원하는 경향이 있습니다. 이 기능을 포함하면 사람들이 볼 수 없거나 중요하지 않은 것에 대해 걱정하게 될 뿐입니다.
잔차 분포에 대한 그래픽 및 진단 기능을 추가하는 것은 다른 문제입니다. 테스트하는 대신 이상값과 같은 그래픽 이상 항목이나 모드의 숨겨진 구조에 대한 단서가 될 수 있는 패턴을 찾고 있습니다. 이상값과 패턴은 종종 중요한 발견에 대한 주요 단서가 됩니다.
W. Edwards Deming의 계명 중 하나는 "두려움을 몰아내라"였습니다. 그러나 통계학자로서 우리는 대개 그 반대로 행동하여 고객과 학생들에게 비합리적인 두려움을 심어줍니다. 쉽게 복제할 수 있는 이 연구를 통해 이제 귀하가 "렙토쿠르토시포비아"와 싸울 수 있을 만큼 용감해지기를 바랍니다.
걱정할 일이 하나 줄어드는 게 좋지 않나요?
