プロファイラーからの標準エラーを解釈する方法に関する最近の議論は解決策に収束していないので、これをもう一度始めます-別の例と私の質問のいくつかのより明確な(私は願っています)。有名なAnscombeカルテットデータセットの1つ、線形回帰モデルが適切なデータセットを添付しました。重回帰モデルを当てはめて、平均予測標準誤差と個々の予測標準誤差を保存しました。予想どおり、前者は後者よりもはるかに狭いです。また、プロファイラーを使用して、袋に入れられた予測を保存しました-これにより、袋に入れられた平均の標準誤差(回帰モデルからの平均予測の標準誤差に類似していると解釈します)と袋に入れられた標準偏差(類似していると解釈します)が得られました回帰からの個々の予測標準誤差に)。これらを類似していると解釈すると、モデルの標準誤差は回帰モデルから導出され、袋詰めされた標準誤差はノンパラメトリックブートストラップ(この場合は100個のブートストラップサンプル)から導出されることがわかります。
この場合(私の最後の例とは異なり)、モデルの予測よりもバギングされた予測の方がやや小さいものの、個々の標準誤差は近いです。ただし、袋に入れられた平均の標準誤差は、モデルからの平均予測の標準誤差の約10%です。実際、これは、袋詰めされた標準誤差=袋詰めされた予測の標準偏差を(M-1)の平方根で割ったものであるというドキュメントで確認できます。ここで、Mは袋詰めされたサンプルの数(ここでは100)です。
私の質問は、袋に入れられた平均と袋に入れられた標準偏差の標準誤差をどのように使用するかに関するものです。プロファイラーに表示される信頼区間を見ると、回帰モデルの平均予測標準誤差と一致しているように見えます。袋に入れられた平均の標準誤差(10%の大きさ)ではありません。その場合、袋に入れられたサンプルの標準誤差は何に適していますか?
(少なくとも私にとって)重要なのは、JMPがすべての機械学習モデルにプロファイラーを提供することだと思います。これにより、袋に入れられた平均とこれら2種類の標準誤差を保存できます。これらの標準誤差を使用して信頼区間を構築できる場合、ニューラルネットワークやランダムフォレストなどから統計的有意性の感覚に似たものが得られます。これらのモデルのほとんどは推論情報を容易に提供しないため、これは重要な機能になると思います。これは、分類モデルと回帰モデルに適用されます。
しかし、袋に入れられた標準エラーが大いに意味があるかどうかはわかりません。私が提供した例では、それらは小さすぎます。また、プロファイラーに表示される信頼区間が、袋に入れられた平均の標準誤差に基づいているかどうかはわかりません(この例ではそのようには見えません)。だから、私の質問に光を当てるのを手伝ってください。
誰もこの問題に光を当てることができなかったようです。さらにいくつかの調査に基づいて、「解決策」を提案させてください。おそらく誰かがそれを検討することができます。袋に入れられた予測を保存した後にプロファイラーから生成される信頼区間のように見えます。袋に入れられた標準偏差ではなく、袋に入れられた平均の標準誤差を使用します。私はそれが間違っていると信じ始めています-前者ではなく後者を使用する必要があります。違いは、前者は後者を袋に入れられたサンプルの数の平方根(-1)で割ったものであるということです。バギングされた平均の標準誤差が何かを測定しているのは事実です-それはバギング手順の安定性(つまり、平均予測がブートストラップサンプルに対してどれほど敏感であるか)だと思います。しかし、信頼区間に求められるのは、予測の信頼性と、モデルの各要素がその予測にどの程度影響するかについての信頼性です。それを測定するのはBaggedStandardDeviationだと思います。