最近關於如何解釋分析器中的標準錯誤的討論尚未收斂到解決方案,因此我將再次開始 - 用一個不同的示例和一些更清晰的(我希望)我的問題。我附上了著名的 Anscombe 四重奏數據集之一 - 線性回歸模型適用的數據集。我擬合了多元回歸模型並保存了平均預測標準誤差和個體預測標準誤差 - 正如預期的那樣,前者比後者窄得多。我還使用了探查器並保存了 bagged 預測 - 這給了我 bagged 平均值的標準誤差(我將其解釋為類似於回歸模型的平均預測標準誤差)和 Bagged Std dev(我將其解釋為類似)到回歸中的個體預測標準誤差)。當我說我將它們解釋為類似時,我意識到模型的標準誤差源自回歸模型,而袋裝標準誤差源自非參數引導程序(在本例中,有 100 個引導程序樣本)。
在這種情況下(與我的上一個示例不同),各個標準誤差很接近,儘管袋裝預測的標準誤差比模型預測的要小一些。但袋裝平均值的標準誤差大約是模型預測平均值的標準誤差的 10%。事實上,這可以通過文檔進行驗證,該文檔說 bagged 標準誤差 = bagged 預測的標準偏差除以 (M-1) 的平方根,其中 M 是 bagged 樣本的數量(此處為 100)。
我的問題涉及如何使用袋裝平均值和袋裝標準差的標準誤差。如果我查看分析器中顯示的置信區間,在我看來,它與回歸模型的平均預測標準誤差一致,而不是與袋裝平均值的標準誤差(大 10%)一致。如果是這樣,那麼袋裝樣品的標準誤有什麼用呢?
我認為(至少對我來說)重要性在於 JMP 為所有機器學習模型提供了分析器。這允許保存袋裝均值和這兩種類型的標準誤差。如果這些標準誤差可以用來構建置信區間,那麼我們就會從神經網絡、隨機森林等中得到類似於統計顯著性的感覺。我認為這將是一個重要的功能,因為大多數模型都不容易提供任何推理信息。這適用於分類模型和回歸模型。
但我不確定袋裝標準錯誤有多大意義。在我提供的示例中,它們看起來太小了。而且,我不清楚分析器中顯示的置信區間是否基於袋裝平均值的標準誤差(在本示例中看起來並非如此)。所以,請幫助闡明我的問題。
似乎沒有人能夠闡明這個問題。基於更多的探索,讓我提出一個“解決方案”,也許有人可以權衡一下。在我看來,就像保存袋裝預測後從分析器生成的置信區間,使用袋裝平均值的標準誤差而不是袋裝標準差。我開始相信這是不正確的——應該使用後者而不是前者。不同的是前者是後者除以裝袋樣品數的平方根(-1)。確實,裝袋均值的標準誤差衡量了一些東西 - 我認為它是裝袋過程的穩定性(換句話說,均值預測對引導樣本的敏感程度)。但我認為我們想要從置信區間得到的是預測的可靠性以及模型中每個因素對預測的影響程度的置信度。我認為衡量這一點的是袋裝標準差。