2표본 t 검정에 대한 간단하고 솔직한 설명?이건 그냥 업무와 관련이 없는 비공식적인 대화예요.
저는 약 30년간 통계학을 연구해 왔지만, 매우 간단하고 인기 있는 통계 검정인 2표본 t 검정을 설명할 좋은 방법을 여전히 찾지 못했습니다.
가정과 (약간 제한적인) 견고성을 설명하고 싶습니다. 다음은 제 형편없는 시도입니다. 이런 것들을 간단하고 정직하게 설명할 수 있는 좋은 교과서가 있을까요?
3 + 5 = 8이라 하더라도 x1 + x2 = 8의 해는 x1 = 3과 x2 = 5만은 아닙니다. 통계에서도 이와 같은 일이 종종 발생합니다.
t-검정은 원래 X_1, ..., X_n1 -- iid N(mu_1, sigma^2)와 Y_1, ..., Y_n2 -- iid N(mu_2, sigma^2)에서 파생되었지만, 이는 데이터가 이 특정 모델에서 생성된 경우에만 t-검정 통계량이 t-분포를 따른다는 것을 의미하지는 않습니다.
하지만 견고성은 상황마다 다릅니다.
(1) iid에 대한 위반은 비극적인 결과를 초래합니다. 예를 들어, Twitter(X)에서 정치적 의견을 수집하고 일본 일반 대중에게 추론하려고 하면 결과가 매우 편향됩니다.
(2) 동일분산의 가정이 위반되더라도 두 집단의 표본크기가 거의 같으면 결과는 대략적으로 타당하다.
(3) 정규성 가정이 위반되더라도 표본 크기가 비교적 크고 분포가 그렇게 비대칭적이지 않거나 꼬리가 두껍지 않다면 결과는 여전히 대략적으로 유효합니다.
(4) 두 표본 t 검정은 표본 크기가 비교적 큰 경우 무작위 검정에 대한 근사치이기도 합니다. 따라서 두 표본 t 검정을 귀무 가설이 H0인 비모수 검정으로 생각할 수 있습니다. 모든 y에 대해 F1(y) = F2(y)입니다(많은 요리책에서는 t 검정이 모수 검정이라고 말하지만).
Re: 두 표본 t 검정에 대한 간단하고 솔직한 설명?통계 지식 포털에는 이에 대한 좋은 설명이 있습니다: https://www.jmp.com/en_us/statistics-knowledge-portal/t-test/two-sample-t-test.html
Re: 두 표본 t 검정에 대한 간단하고 솔직한 설명?@mzwald -san 님, 정보를 주셔서 감사합니다.
저는 개인적으로 (스튜던트와 웰치의) 2-표본 t-검정의 가정과 견고성이 더 복잡하다고 생각합니다.
예를 들어, 해당 페이지에는 다음과 같은 설명이 작성되어 있습니다.
두 그룹의 분산이 같지 않다면 어떻게 되나요?
>여전히 2-표본 t-검정을 사용할 수 있습니다. 표준 편차의 다른 추정치를 사용합니다.
위의 문장은 분산이 같으면 Student t-검정을 사용하고 분산이 같지 않으면 Welch t-검정을 사용해야 한다고 제안하는 것 같습니다. ("표준 편차"는 "표준 오차"를 뜻하는 것 같습니다.) 하지만 표본 크기가 대략 같으면 Student t-검정과 Welch t-검정의 결과가 매우 가깝습니다. 게다가 두 그룹의 분산이 매우 가깝다면 Student t-검정과 Welch t-검정의 결과도 매우 가깝습니다.
위의 설명은 분산이 같은 경우 웰치 t 검정을 사용할 수 없고, 분산이 다른 경우 항상 스튜던트 t 검정을 사용할 수 없다는 것을 말해주는 것 같습니다.
제가 중요하다고 생각하는 또 다른 속성은 두 표본 t-검정이 무작위 검정에 대한 근사값이라는 것입니다. 이 속성은 무작위 임상 시험에 대한 t-검정 사용의 타당성을 제공합니다. 임상 시험은 무작위 표본 추출을 사용하지 않습니다. 무작위 할당만 사용합니다. 따라서 그들의 데이터는 무작위 표본이 아닙니다. 그럼에도 불구하고 두 표본 학생 t-검정은 H0:F1(x) = F2(x)에 대한 무작위 검정으로 타당합니다.
Re: 두 표본 t 검정에 대한 간단하고 솔직한 설명?Hi @yusuke_ono
2표본 t-검정은 두 독립적인 그룹의 평균 사이에 유의미한 차이가 있는지 여부를 결정하기 위해 설계된 널리 사용되는 통계적 방법입니다. 이는 두 개의 서로 다른 그룹의 평균 결과를 비교하여 관찰된 차이가 통계적으로 유의미한지 또는 우연히 발생했을 수 있는지 평가하려는 연구 시나리오에서 자주 적용됩니다.
|
측면
|
설명
|
예
|
|
2-표본 t-검정의 가정
|
|
관찰의 독립성
|
각 그룹의 관찰 결과는 서로 독립적이어야 합니다.
|
그룹으로 함께 공부하는 학생들을 테스트하여 새로운 교육 방법의 효과를 연구합니다. 학생들이 테스트 중에 서로 토론하고 도우면 점수가 더 이상 독립적이지 않습니다.
|
|
정상성
|
각 그룹의 데이터는 정규 분포를 대략적으로 따라야 하며, 특히 표본 크기가 작은 경우 이 점이 중요합니다.
|
소득 분포가 왜곡된 두 도시의 소득을 측정합니다.
|
|
등분산
|
두 그룹의 분산(산포 또는 변동성)은 대략 동일해야 합니다.
|
한 그룹의 일관된 데이터와 다른 그룹의 변동성이 큰 데이터를 비교합니다.
|
|
2-표본 t-검정의 견고성
|
|
독립성 위반
|
t-검정은 독립성 위반에 대해 안정적 이지 않아 편향된 결과가 발생합니다.
|
위에서 설명한 대로, 답변에 대해 토론하는 수업 중 학생들에게 설문 조사를 실시하면 편향된 결과가 나옵니다.
|
|
정상성의 위반
|
t-검정은 정규성 위반에 상당히 강 하며, 특히 표본 크기가 큰 경우에 그렇습니다.
|
약간 왜곡된 데이터를 사용하여 두 그룹의 비디오 게임에 대한 반응 시간을 비교합니다.
|
|
동등한 분산의 위반
|
t-검정은 등분산 위반에 대해 적당히 견고하며 , 특히 표본 크기가 비슷한 경우에 그렇습니다. 분산이 같지 않고 표본 크기가 다를 때 웰치의 t-검정을 사용합니다.
|
점수 차이가 다른 두 학교의 시험 점수를 비교합니다.
|
참고사항:
- 웰치의 t-검정은 분산이 같지 않아도 수용할 수 있는 유연한 접근 방식을 제공하지만, 표본 크기가 같거나 분산이 비슷한 많은 실제 상황에서는 스튜던트 t-검정과 웰치의 t-검정의 결과가 서로 밀접하게 수렴합니다.
- 두 표본 t-검정은 데이터가 정규 분포된 모집단에서 나온다고 가정할 때 모수적 검정으로 분류됩니다. 그러나 표본 크기가 충분히 큰 경우 t-검정은 비모수적 검정에 대한 근사치로 볼 수도 있습니다. 이 맥락에서 두 그룹의 분포가 동일하다는 귀무 가설을 검정하므로 특정 조건에서는 비모수적 검정과 다소 유사합니다.
임상 시험에 대한 마지막 요점에 대해 : //임상 시험에서 무작위화 테스트에 대한 근사치로서의 2표본 t-테스트//
치료군에 피험자를 무작위로 배정하는 설계를 고려하면, 임상 시험에서 수집된 데이터는 전통적인 의미의 무작위 표본이 아닙니다.
그러나 이 맥락에서 2-표본 t-검정은 엄격한 포함 기준 외에도 생리학적 및 약리학적 관점에서 무작위 검정을 근사할 수 있는 능력 때문에 여전히 유효합니다. 즉, t-검정은 여전히 귀무 가설을 정확하게 검정할 수 있습니다. 2-표본 t-검정은 무작위 표본 추출이 없음에도 불구하고 무작위 시험에서 가설 검정을 위한 신뢰할 수 있는 방법을 제공합니다.
이는 귀무 가설 하에서 t-검정 통계량 분포(무작위 실험의 맥락에서)가 순열 또는 무작위 검정에서 얻은 검정 통계량 분포에 근사한다는 개념을 나타냅니다. 이 속성은 무작위 표본 추출이 아닌 무작위 할당을 사용하는 무작위 시행에서 2-표본 t-검정을 사용하는 것을 정당화합니다. t-검정은 전체 무작위 검정의 결과에 근사할 수 있기 때문에 전통적인 무작위 표본 추출이 없는 경우에도 유효합니다.
통계적으로는 이를 무작위 기반 추론 이라고 합니다.
인기 있는 참고 자료:
통계 학습 소개
데이터 과학자를 위한 실용 통계
통계: 데이터로부터 배우는 예술과 과학, 3판(권장)
주요 참고문헌:
통계적 방법
임상 시험 참조:
무작위 테스트
임상 시험의 설계 및 분석: 개념 및 방법론은 챕터(3, 4 및 5)를 참조하세요.
이러한 입력이 도움이 될 것이라고 믿습니다.
Re: 두 표본 t 검정에 대한 간단하고 솔직한 설명?@yusuke_ono 우리가 가진 가장 기본적이고 실질적으로 유용한 통계적 검정이 무엇인지 깊이 있게 의문을 제기하는 것은 좋고 재밌습니다. "주목할 만한 2표본 T 검정에 대한 고려 사항"과 같은 백서의 시작 부분이 있는 것 같습니다. 자연스러운 시작점은 모든 가정이 완전히 충족된 원래 검정입니다. 그런 다음 이러한 가정에서 벗어난 다양한 방향과 정도와 검정의 표본 속성(크기와 검정력)에 미치는 영향을 고려합니다.
공학적 관점에서 볼 때, t-검정 통계량은 직관적으로 신호 대 잡음 비율입니다.
무작위 추론과의 연관성은 설득력이 있지만 과소평가되었습니다.
@Chandramouli_R 훌륭한 요약 자료입니다. 비독립 분기에 대한 흐름도에 혼합 모델을 추가하고 싶습니다. 가장 일반적인 경우는 페어링 또는 더 일반적으로 차단입니다. 우리는 여전히 근사 t-분포를 검정에 사용하고 성능이 좋은 소규모 샘플 속성을 가진 Kenward-Roger 자유도 계산을 갖춘 훌륭한 혼합 모델 이론을 가지고 있습니다.
Re: 두 표본 t 검정에 대한 간단하고 솔직한 설명?@Chandramouli_R -san 님, 아이디어를 공유해 주셔서 감사합니다.
저는 텍스트 부분의 설명을 좋아합니다. 이건 제 개인적인 선호도일 뿐이지만, 개인적으로는 맨 위의 흐름도 자체는 좋아하지 않습니다(많은 요리책에서 보긴 하지만요).
처음에 윌콕슨 검정은 두 분산이 같지 않을 때(두 그룹의 표본 크기가 같더라도) 알파 오류를 유지하지 못합니다. 이를 "비모수적 베렌스-피셔 문제"라고 합니다. 윌콕슨 검정의 웰치 버전이 있습니다(Brunner, E. 및 Munzel, U. (2000) 비모수적 베렌스-피셔 문제: 점근 이론 및 소표본 근사).
둘째, "중심 한계 이론은 n<=30에 적용되지 않는다"는 도시 전설을 종종 듣지만, 그것은 인구 분포에 크게 의존한다고 생각합니다. 제가 확인한 바에 따르면, 이 도시 전설은 Kendall의 고급 통계 이론에서 나왔습니다. 하지만 원래 문장은 아래와 같이 말하고 있습니다.
... 일부 분포, 특히 평균 분포의 경우, n > 30과 같은 낮은 n 값을 사용하면 매우 만족스러운 근사값을 얻을 수 있습니다.... (제6판 341쪽)
위의 문장을 의역하면, 저자는 "CLT는 매우 작은 표본 크기(예: n=30)에서도 일부 모집단 분포의 일부 통계에 대해 작동합니다"와 같은 말을 한다고 생각합니다. 다음은 순진한 예입니다. 모집단 분포가 균일하다면 CLT 근사는 n=5에서도 잘 작동합니다. 그러나 모집단 분포가 매우 꼬리가 두껍기 때문에 CLT 근사는 n=100에서도 작동하지 않습니다.
Random Reset(1111111);
y1 = J(5, 10000, Random Uniform());
y2 = J(100, 10000,Random SHASH(0.1, 0.1, 2, 3));
dt = As Table(VMean(y1)`||VMean(y2)`);
dt << Distribution(Y(1::2));
셋째, 윌콕슨 검정은 일반적으로 두 평균이나 두 중앙값의 차이에 대한 검정이 아닙니다. 따라서 평균이나 중앙값의 차이에 관심이 있다면 윌콕슨 검정을 사용하지 않는 것이 좋다고 생각합니다. 다음은 매우 인위적인 순진한 예입니다. 표본 중앙값은 같지만 윌콕슨 검정은 매우 유의미합니다.
y1 = J(1000,1,Random Lognormal(0,1));
y2 = -y1;
y1 = y1 - Median(y1);
y2 = y2 - Median(y2);
dt = As Table( (J(NRow(y1),1,1)||y1)|/ (J(NRow(y2),1,2)||y2), <<COLUMN names=""></COLUMN>
<P><BR />네 번째로, 통계 모델링의 관점에서 흐름도 자체는 McElreath, R. (2020) Statistical Rethinking: A Bayesian Course with Examples in R and Stan(2nd ed.), CRC Press의 섹션 1.1에서 비판을 받았습니다.</P>
<P>또한, 다른 통계적 검정을 통해 플로우차트에서 예/아니요를 판단하는 경우, 이러한 종류의 사전 검정도 종종 비판을 받았습니다. 예를 들어, 2-표본 t-검정이나 일원 분산 분석 전에 통계적 검정을 통해 분산의 동질성을 확인하는 것은 "분산에 대한 예비 검정을 하는 것은 마치 대양 여객선이 항구를 떠날 만큼 조건이 충분히 고요한지 알아보기 위해 노를 젓는 배를 타고 바다로 나가는 것과 같다!"고 합니다(p.333, Box, GEP(1953). 비정규성과 분산에 대한 검정). 그리고 사전 검정이 통계적으로 타당하더라도 p-값이 클 때 H0를 강력하게 수용할 수 없습니다.</P>Re: 두 표본 t 검정에 대한 간단하고 솔직한 설명?@russ_wolfinger -san 님, 조언 감사합니다.
약 20~30년 전, 저는 Base SAS와 SAS/STAT를 사용한 기본 통계 분석 강사였을 때 SAS 사용자에게 UNIVARIATE로 비정규성을 검사하고 TTEST에서 F-검정으로 분산의 동질성을 검사하는 것(그리고 비정규 데이터에 Wilcoxon 검정을 사용하고 분산이 다른 경우 Welch 검정을 사용)을 권장했습니다. 이는 부분적으로 TTEST가 평균에 대한 t-검정과 분산에 대한 F-검정의 결과를 같은 페이지에 출력하기 때문입니다. 제 기억이 녹슬었지만 SAS/ASSIST도 같은 종류의 흐름도나 요리책 논리를 사용했을 수 있습니다.
하지만 저는 이제 이런 종류의 의식이나 관습에 대한 통계적 근거는 없다고 생각하게 되었습니다.
그러나 2016년 p-값 설명에서는 "비공식적으로 p-값은 지정된 통계 모델 에서 데이터의 통계적 요약([…오노가 자른…])이 관찰된 값과 같거나 그보다 더 극단적일 확률"이라고 나와 있습니다. 저는 이 설명이 적어도 t-검정과 부분적으로 맞지 않는다고 생각합니다. t-검정의 통계적 모델은 원래 정규 분포를 기반으로 했습니다. 그러나 데이터가 정규적이지 않더라도(즉, 데이터가 원래 가정한 모델에서 벗어나더라도) p-값이 클 수 있습니다(표본 평균이 거의 같을 때).
아시다시피, 무작위 임상 시험은 일반적으로 무작위 표본 추출을 전혀 사용하지 않고 무작위화만 사용합니다. 따라서 무작위 표본 추출 프레임워크(즉, Lehmann 용어로 "인구 모델")에서 RCT에서 t-검정을 사용하는 데 대한 타당한 통계적 이유를 제시할 수 없다고 생각합니다.
Re: 두 표본 t 검정에 대한 간단하고 솔직한 설명?무작위성에 대한 두 명의 최고 응용 통계학자의 경쟁적 견해를 담은 고전적인 참고 문헌 몇 가지: Kempthorne: https://www.jstor.org/stable/2281178 Harville: https://www.jstor.org/stable/2683676
