781201_zh-TW

liliconcom

雙樣本 t 檢定的簡單而誠實的解釋？

這只是非正式的談話，與工作無關。

我從事統計學工作大約 30 年，但我仍然找不到解釋雙樣本 t 檢定（非常簡單且流行的統計檢定）的好方法。

我想解釋一下假設以及（稍微有限的）穩健性。以下是我的糟糕嘗試。有沒有什麼好的教科書可以簡單、誠實地解釋這些事情？

即使 3 + 5 = 8，x1 + x2 = 8 的解也不僅僅是 x1 = 3 和 x2 = 5。

t檢定最初源自 X_1, ..., X_n1 -- iid N(mu_1, sigma^2) 和 Y_1, ..., Y_n2 -- iid N(mu_2, sigma^2)，但它並沒有意味著僅當資料是從該特定模型產生時，t 檢定統計量才會分佈為t 分佈。

但穩健性會因情況而異。

(1)違反獨立同分佈導致悲慘的結果。例如，如果您從 Twitter (X) 收集政治觀點，並嘗試推斷日本的一般民眾，結果就會變得非常有偏見。

(2) 即使違反等方差假設，如果兩組樣本量幾乎相等，結果仍然近似有效。

(3) 即使違反常態性假設，如果樣本量相對較大且分佈不是那麼偏斜或那麼重尾，結果仍然近似有效。

(4) 如果樣本數較大，則雙樣本 t 檢定也是隨機化檢定的近似。因此，您可以將雙樣本 t 檢定視為非參數檢驗，原假設為 H0：對於所有 y，F1(y) = F2(y)（儘管許多烹飪書籍說 t 檢定是參數檢定） 。

回覆：雙樣本 t 檢定的簡單而誠實的解釋？

統計知識入口網站對此有很好的解釋： https://www.jmp.com/en_us/statistics-knowledge-portal/t-test/two-sample-t-test.html

回覆：雙樣本 t 檢定的簡單而誠實的解釋？

感謝您提供信息， @mzwald -san。

我個人認為（學生和韋爾奇的）雙樣本 t 檢定的假設和穩健性更複雜。

例如，頁面中寫有以下解釋。
>如果我的兩組的變異數不相等怎麼辦？
>您仍然可以使用雙樣本 t 檢定。您使用不同的標準差估計值。

我猜上面的句子表明，如果變異數相等，您應該使用學生 t 檢定，如果變異數不相等，您應該使用韋爾奇 t 檢定。 （我猜「標準差」的意思是「標準誤差」。）但如果樣本量大致相等，則學生 t 檢定和韋爾奇 t 檢定的結果非常接近。此外，如果兩組的變異數非常接近，那麼 Student t 檢定和 Welch t 檢定的結果也非常接近。

目前上述的解釋似乎是說，我們不能使用 Welch t 檢定來獲得等方差，或者我們始終不能使用 Student t 檢定來獲得不等方差。

我認為重要的另一個屬性是雙樣本 t 檢定是隨機化檢定的近似值。此屬性給出了使用 t 檢定進行隨機臨床試驗的有效性。臨床試驗從不使用隨機抽樣。它僅使用隨機分配。即便如此，雙樣本學生 t 檢定作為 H0:F1(x) = F2(x) 的隨機化檢定是有效的。

回覆：雙樣本 t 檢定的簡單而誠實的解釋？

嗨@yusuke_ono

雙樣本t檢定是一種廣泛使用的統計方法，旨在確定兩個獨立組的平均值之間是否存在顯著差異。它通常應用於研究場景，其中人們試圖比較兩個不同組別的平均結果，以評估任何觀察到的差異是否具有統計顯著性或可能是偶然發生的。

方面	描述	例子
雙樣本 t 檢定的假設
觀察的獨立性	每組的觀察結果必須相互獨立。	透過測試學生分組學習來研究新教學方法的效果。如果學生在考試過程中互相討論和幫助，他們的成績就不再是獨立的
常態	每組中的資料應近似常態分佈，對於小樣本量尤其重要。	衡量收入分配不均的兩個城市的收入。
等方差	兩組的變異數（分佈或變異性）應大致相等。	將一組中的一致數據與另一組中高度可變的數據進行比較。
雙樣本 t 檢定的穩健性
侵害獨立性	t 檢定對於違反獨立性的情況並不穩健，導致結果有偏差。	如上所述，對班級中討論答案的學生進行調查（會導致偏差的結果）。
違反常態	t 檢定對於違反常態性相當穩健，尤其是在樣本數較大的情況下。	比較兩組數據略有偏差的電玩反應時間。
違反等方差	t 檢定對於違反等方差具有中等穩健性，特別是在樣本量相似的情況下。當變異數不相等且樣本量不同時，使用韋爾奇 t 檢定。	比較兩所具有不同分數差異的學校的考試成績。

請注意：

1. 雖然 Welch 的 t 檢定透過適應不等方差提供了更靈活的方法，但在樣本量相等或方差相似的許多實際場景中，Student t 檢定和 Welch t 檢定的結果將緊密收斂。
2. 而雙樣本 t 檢定被歸類為參數檢驗，假設資料來自常態分佈的總體。然而，當樣本量夠大時，t 檢定也可以被視為非參數檢定的近似值。在這種情況下，它測試了兩組分佈相同的原假設，這使其在某種程度上類似於某些條件下的非參數檢定。

關於臨床試驗的最後一點：//在臨床試驗中，雙樣本 t 檢定作為隨機化檢定的近似值//

鑑於將受試者隨機分配到治療組的設計，臨床試驗中收集的數據並不是傳統意義上的隨機樣本。

然而，雙樣本 t 檢定在這種情況下仍然有效，因為它能夠在生理和藥理學意義上近似隨機化檢驗（嚴格的納入標準） -意味著 t 檢定仍然可以準確地測試無效值儘管沒有隨機抽樣，但雙樣本t 檢定為隨機試驗中的假設檢定提供了可靠的方法。

這是指在原假設下，t 檢定統計量的分佈（在隨機實驗的情況下）近似於從排列或隨機化檢定中獲得的檢定統計量的分佈。檢驗，其中使用隨機分配而不是隨機抽樣，因為t 檢定可以近似完全隨機化檢驗的結果，使其即使在沒有傳統隨機抽樣的情況下也有效。

從統計學上來說，它被稱為基於隨機化的推理。

熱門參考：

統計學習簡介

數據科學家實用統計

統計學：從資料中學習的藝術與科學，第三版（推薦）

主要參考資料：

統計方法

臨床試驗參考：

隨機化測試

臨床試驗的設計與分析：概念與方法請參閱第 (3,4 & 5) 章

相信這些輸入可以幫助您。

回覆：雙樣本 t 檢定的簡單而誠實的解釋？

@yusuke_ono深入質疑我們所擁有的最基本、最實用的統計測試是什麼，是件好事，也很有趣。看起來你已經有了一份白皮書的開頭，例如「關於卓越的雙樣本 T 檢定的考慮」。自然的起點是所有假設都完全滿足的原始測試。然後考慮偏離這些假設的各個方向和程度及其對測試採樣屬性（大小和功效）的影響。

從工程角度來看，t檢定統計量是非常直覺的訊號雜訊比。

與隨機推理的聯繫是引人注目的，但未被充分重視。

@Chandramouli_R這是一些很棒的總結材料。我希望看到將混合模型添加到非獨立分支的流程圖中，最常見的情況是配對，或者更一般地說，阻塞。我們擁有出色的混合模型理論和 Kenward-Roger 自由度計算，仍然使用近似 t 分佈進行測試，並具有表現良好的小樣本特性。

回覆：雙樣本 t 檢定的簡單而誠實的解釋？

謝謝你的想法， @Chandramouli_R -san。

我喜歡正文部分的解釋。雖然這只是我個人的喜好，但我個人不喜歡頂部的流程圖本身（儘管我在許多食譜中看到它）。

首先，當兩個變異數不相等時（即使兩組的樣本量相等），Wilcoxon 檢定不會維持 alpha 誤差。這稱為「非參數貝倫斯-費雪問題」。有 Welch 版本的 Wilcoxon 檢定（Brunner,E. 和 Munzel,U. (2000) 非參數 Behrens-Fisher 問題：漸近理論和小樣本近似。）

其次，雖然我也常聽到「中心極限理論不適用於n<=30」之類的都市傳說，但我認為這很大程度上取決於人口分佈。據我查證，這個都市傳說來自肯德爾的高級統計理論。但原句只是這麼說的。

……對於某些分佈，特別是平均值的分佈，n 的較低值可以給出相當令人滿意的近似值，例如 n > 30...（在第 6 版的第 341 頁上。）

如果我解釋上面的句子，我認為作者只是說「CLT 適用於某些人口分佈的某些統計數據，即使樣本量非常小（例如 n= 30）」。下面是一個簡單的例子。如果總體分佈是均勻的，即使 n = 5，CLT 近似似乎也很好。

Random Reset(1111111);
y1 = J(5, 10000, Random Uniform());
y2 = J(100, 10000,Random SHASH(0.1, 0.1, 2, 3));
dt = As Table(VMean(y1)`||VMean(y2)`);
dt << Distribution(Y(1::2));

第三，Wilcoxon 檢定通常不是兩個平均數或兩個中位數之間差異的檢定。因此，如果您對平均數或中位數的差異感興趣，我認為您不應該使用 Wilcoxon 檢定。下面是一個非常人為的幼稚的例子。樣本中位數相等，但 Wilcoxon 檢定非常顯著。

y1 = J(1000,1,Random Lognormal(0,1));
y2 = -y1;
y1 = y1 - Median(y1);
y2 = y2 - Median(y2);
dt = As Table( (J(NRow(y1),1,1)||y1)|/ (J(NRow(y2),1,2)||y2), <<COLUMN names=""></COLUMN>

<P><BR />第四，從統計建模的角度來看，流程圖本身在 McElreath, R. (2020) Statistical Rethinking: A Bayesian Course with Examples in R and Stan (2nd ed.), CRC Press 的第 1.1 節中受到批評。</P> <P>另外，如果透過其他一些統計測試來判斷流程圖中的是/否，這種預測試也經常受到批評。例如，在雙樣本 t 檢定或單向方差分析之前通過統計檢定檢查方差的同質性被稱為“對方差進行初步檢驗，就像划船出海，看看是否遠洋客輪離開港口的情況足夠平靜（第333 頁，Box，GEP (1953)。</P>回覆：雙樣本 t 檢定的簡單而誠實的解釋？

謝謝你的建議， @russ_wolfinger -san

大約20-30 年前，當我是使用Base SAS 和SAS/STAT 進行基本統計分析的講師時，我向SAS 用戶推薦透過UNIVARIATE 檢查非正態性，並透過TTEST 中的F 檢定檢查方差齊性（以及對於非常態資料使用 Wilcoxon，在方差不同的情況下使用 Welch 檢定）。部分原因是 TTEST 在同一頁面中輸出平均值 t 檢定和變異數 F 檢定的結果。我的記憶已經生鏽了，但 SAS/ASSIST 也可能使用了相同類型的流程圖或說明書邏輯。

但我現在開始認為這種儀式或習俗沒有統計上的原因。

然而，在 2016 年的 p 值聲明中，據說「非正式地，p 值是在指定的統計模型下資料的統計摘要（[…由 Ono 切割…]）等於或的機率比其觀測值更極端。 」我認為這個解釋至少與 t 檢定部分不符。 t 檢定的統計模型最初是基於常態分佈。但即使資料是非正態的（即資料偏離原始假設模型），p 值也可能很大（當樣本平均值幾乎相等時）。

如您所知，隨機臨床試驗通常根本不使用隨機抽樣，而僅使用隨機化。因此，我認為我們無法從隨機抽樣框架（即萊曼術語中的「總體模型」）中給出在 RCT 中使用 t 檢定的有效統計理由。

回覆：雙樣本 t 檢定的簡單而誠實的解釋？

兩位頂尖應用統計學家對隨機化有不同觀點的經典參考文獻： Kempthorne： https /www.jstor.org/stable/2281178 Harville： https://www.jstor.org/stable/2683676