關於迴歸分析的「參數估計」輸出,我可以顯示標準化偏回歸係數(標準化β係數),但我不知道如何顯示這些係數的95%置信區間。如果有人知道如何操作,請告知,我將不勝感激。
感謝您的合作。
PS:我原以為可以使用公式“標準化偏回歸係數 = 偏回歸係數 x (解釋變量的標準差 / 因變量的標準差)”計算標準化偏回歸係數的 95% 置信區間,所以我嘗試使用從“單變量分佈”中獲得的“解釋變量的標準差”和“因變量的標準差”來計算方差係數(與標準化偏係數係數(與標準化的相似係數)。
(日文)
■關於點估計:如您所提到的,線性迴歸分析模型中常用最小平方法 (OLS) 估計的偏迴歸係數的點估計如下:
標準化偏迴歸係數 = 偏迴歸係數 × (解釋變數的標準差 / 因變數的標準差)
這就是它們之間的關係。
然而,在「模型擬合」中,缺失值預設使用列表方法處理。如果因變數 y 和自變數 x1, x2, ..., x_p 中即使只有一個缺失值,列表方法都會從計算中排除該行。
如果所有解釋變數都是連續的,則可以使用「多元相關」方法在逐一移除變數後找到平均值和標準差。
(1)選擇[分析] > [多元相關性] 。
(2)在彈出的啟動視窗中,在左下角的「變異數估計」組合方塊中選擇「清單式」 。
(3)在[Y, 列]中指定所有因變數 (y) 和自變數 (x1, x2, ... x_p) 對,然後按[確定]按鈕。
(3)點選頂部「多元」旁邊的紅色三角形按鈕,然後選擇[基本統計] > [多元基本統計] 。
或者,您可以按照下列步驟建立一個僅包含無缺失值的資料表:
(1)選擇[表格] > [顯示缺失值模式] 。
(2)在[新增列]中指定所有因變數(y)和自變數(x1,x2,...x_p)對,然後按一下[確定]按鈕。
(3)選擇已建立資料表的第一行。在第一行中, “缺失值列數”為 0,所有“模式”均為 0。
(4)啟動原始資料表。由於上述(3)步驟的操作,僅選取沒有缺失值的行。
(5)選擇[表] > [子集] 。
(6)選擇【選取行】和【所有欄位】單選按鈕,然後按一下【確定】按鈕。
如果資料中沒有缺失值,且與手動計算結果的差異非常小,則可能是因為您在手動計算時對數字進行了四捨五入。 JMP 報表顯示的是四捨五入後的數字。若要顯示更多小數位數,請以滑鼠右鍵按一下表格中的某一列,然後從出現的選單中選擇「列格式」 ,再將小數位數變更為「20」或類似值。或者,右鍵單擊表格,然後從出現的選單中選擇“輸出到資料表” 。這將把結果輸出到 JMP 資料表中,您可以在其中按一下儲存格以複製未四捨五入的詳細數字。
只有當資料的缺失機製完全隨機(MCAR)時,列表法才是處理缺失值的有效估計方法。如果您使用的是 JMP Pro 或 JMP 學生版,可以在「結構方程模型」平台中執行假設多元常態分佈的全資訊最大似然估計。您可以從【分析】 > 【多元】 > 【結構方程模型】啟動「結構方程模型」平台。 「結構方程模型」平台需要使用路徑圖指定模型。如有興趣,請回覆。假設多元常態分佈的全資訊最大似然估計適用於總體分佈為多元常態分佈且缺失機制為隨機(MAR)的情況。
■關於信賴區間:對於標準化偏迴歸係數的信心區間,由於點估計值為 b sy/sx_j(其中 b 為偏迴歸係數,sy 為因變數的標準差,sx_j 為第 j 個自變數的標準差),因此可以考慮將 (l sy/sx_j, u sy/sx_j) 視為近似信賴區間。這裡,l 為信賴區間的下限,u 為信賴區間的上限。然而,這種近似僅在 sy 和 sx_j 的估計精度較高且 sy/sx_i 可視為常數時才有效。通常情況下,與 b 一樣,sy 和 sx_j 也被認為具有一定的變異性,因此這種方法並不理想。
對於簡單迴歸係數,標準化偏迴歸係數與相關係數一致。當總體分佈為二元常態分佈時,相關係數的抽樣分佈在 Cramer (1946, pp.397-401) 中給出。雖然需要數值積分,但理論上可以獲得精確的置信區間(當總體分佈為二元常態分佈時)。然而,由於需要數值積分,在實務上,Fisher z 變換法通常被廣泛用於獲得信賴區間。 JMP 的多元相關分析也使用 Fisher z 轉換法來獲得相關係數的信心區間。
自助法是一種統計方法,常用於難以找到能夠提供良好近似值的樣本分佈的情況,不僅適用於標準化偏迴歸係數。自助法也可以在Model Pair的線性迴歸分析和「結構解釋模型」平台中執行。
<在使用模型配對的線性迴歸分析中>
(0)下面的(5)中的計算需要一些時間,所以如果您在 JMP 中有任何正在進行的分析或資料處理,請保存以防萬一。
(1)右鍵點選報告中的「參數估計」表,然後選擇[標準β] 。
(2)右鍵點選顯示的「標準 β」列,然後選擇[Bootstrap] 。
(3)指定[自助法樣本量] (例如,10,000 次)
(4)指定一個隨機數種子值,以確保結果可重複。
(5)點選[確定]按鈕。
→ Bootstrap 抽樣即將開始。這需要一些時間。
(6)在建立的資料表中,按一下「單變數分佈」表腳本左上角的綠色三角形按鈕。
以上步驟將顯示自助法分佈及其計算出的置信區間。
“BC”代表“偏差校正”,bootstrap置信區間是使用偏差校正百分位數方法計算的,如Efron(1982,第82-84頁)所述。
*當模型配對進行線性迴歸分析且有缺失值時,如果使用自助法,最好在使用上述「缺失值模式顯示」功能取得完整資料後再執行。無論如何,與點估計一樣,它僅適用於完全隨機缺失(MCAR)資料。
<適用於JMP Pro或JMP學生版中的結構方程模型>
(0)下面的(2)中的計算需要一些時間,因此,如果您在 JMP 中執行任何分析或資料處理,請儲存以防萬一。
(1)繪製路徑圖並擬合線性多元迴歸模型後,從模型報告中選擇「標準化參數估計」 。
(2)從報告頂部的「結構模型」的紅色三角形按鈕中,選擇[推理方法] > [Bootstrap 推理] 。
■補充
雖然 JMP、JMP Pro 和 JMP 學生版均不支援多重插補法,但有一種稱為多重插補的方法來處理缺失資料。與自助法類似,多重插補法是一種通用的統計技術,不需要特別複雜的分析推導。理論上可以同時進行自助法和多重插補,但 JMP、JMP Pro 和 JMP 學生版均不支持多重插補法。此外,即使可行,計算時間也可能相當長。
■參考文獻
Cramér, H.(1946)統計學的數學方法。普林斯頓大學出版社。
Efron, B.(1982) Jacknife、Bootstrap 和其他重採樣方案。工業與應用數學學會。
”大変丁寧なご回答をいただき、誠にありがとうございます。お陰様で、JMPの標準偏回帰係数と計算した値で違いが生じる理由や、計算で求めた標準偏回帰係数の信頼区間が近似値となる理由をよく理解することができましたご説明いただいた標準偏回帰係数の信頼区間を求める方法も試してみたいと思います。また追加でご質問させていただくかもしれませんが、どうぞよろしくお願い致します。
使用「<使用模型擬合進行線性迴歸分析>」中解釋的自助法,我獲得了簡單迴歸分析中標準化偏迴歸係數的95%置信區間。謝謝!
我還有一個後續問題:這種方法適用於多元迴歸分析嗎?我在多元迴歸分析的標準 beta 列中選擇了“bootstrap 方法”,實際運行後,得到的值與使用偏回歸係數的 95% 置信區間乘以(解釋變數的標準差/因變數的標準差)計算出的值非常接近。很抱歉又問了一個問題,但非常感謝您的幫忙。
自助法透過對原始資料進行重複抽樣來近似信賴區間,可用於多元迴歸分析。雖然當樣本量太小或解釋變數數量過多時,自助抽樣可能導致多元迴歸估計失敗,但它既可用於簡單迴歸分析,也可用於多元迴歸分析。下圖中的紅線代表使用偏差校正百分位法得到的自助信賴區間。

當估計分佈邊緣的參數時,例如最大值或最小值,或第 1 或第 99 個百分位數,自助法總是會失敗。因為自助樣本的最大值(或最小值)永遠不可能超過資料的最大值(或最小值),所以自助估計總是會失敗。
我忘記提及一個重要點:自助法是基於漸近理論的,當樣本量較小時,其近似效果會變差。
再次感謝您的回覆。我現在明白了引導方法在哪些情況下會失效。
我使用了至少 400 個數據點,而且我不需要估計「分佈」邊緣的參數,所以我認為這種方法完全可以接受。
然而,「多元迴歸」分析中使用的解釋變數的最大數量為 19,如果這個數字太大,最好不要使用。