Phillip Ramsey- JMP ユーザー コミュニティ@philramsey 、ニューハンプシャー大学コンサルタント兼教授
この記事はもともと、JMPer Cable、第 28 号、2013 年夏に掲載されました。
ブートストラップは、で提供される重要な機能です。 JMPプロ。 ほとんどの JMP Pro 統計レポート内でブートストラップ分布を生成できるため、ブートストラップの実装はシンプルかつ柔軟です。 この記事では、基本的なブートストラップに関する簡単なチュートリアルを提供し、スタンドアロンの推論手法、教育学のコンテキスト内で、および他の統計手法のコンポーネントとしてのブートストラップの応用について説明します。
ブートストラップは、外部の駆動力を必要とせずに自立して継続するプロセスを表す一般的な英語の比喩です。 Bradley Efron (1979) は、彼が開発した新しいリサンプリング手法を説明するためにメタファー ブートストラップを採用しました。 彼の研究は、ジャックナイフに関する以前の研究 (Tukey、1958) によって動機付けられました。
Bradley Efron (1979) によって開発された統計的ブートストラップは、サイズ N の独立したランダムなサンプルが、サイズ N の元のデータセットから置き換えられて繰り返し (おそらく数千回) 抽出されるプロセスです。 置換とは、元のデータセット内の個々の観測値が複数回選択されるか、1 回のリサンプルですべてが選択されない可能性があることを意味します。 これにより、各ブートストラップ サンプルのメンバーシップが元のデータと異なる可能性が非常に高いことが保証されます。
各リサンプルで対象のサンプル統計を計算することにより、これらの統計の経験的分布関数が生成されます。 経験的分布を使用して、これらの統計の標準誤差を推定したり、統計が推定する理論的パラメータの信頼区間を推定したりすることができます。 ブートストラップ信頼区間 (さまざまなバージョンがあります) には、計算にパラメトリックまたは特定の数式を使用する必要がないという利点があります。 Hall と Wilson (1991) は、ブートストラップが仮説検定に容易に適応できることを示しています。
理論的パラメーターのブートストラップ (1-α)100 パーセント信頼区間を計算する最も簡単な方法は、対象の理論的パラメーターを推定する、その標本統計量のブートストラップ分布の適切なパーセンタイルを使用することです。 たとえば、標本平均のブートストラップ分布の 2.5 パーセンタイルと 97.5 パーセンタイルを使用して、基礎となる分布の理論的平均に対する 95 パーセントの信頼区間を形成できます。
ブートストラップの研究では、場合によっては、ブートストラップのパーセンタイル信頼区間が実際のカバレッジに関して大幅に偏っている可能性があることが判明しました (Chernick、2008)。 パーセンタイル信頼区間にはバイアス補正アルゴリズムが存在します。 ただし、これらは現在 JMP Pro では使用できないため、これ以上の説明はこの記事の範囲外です。 ( 2018 年 12 月更新:バイアス補正アルゴリズムが JMP Pro に含まれるようになりました。 。）
ブートストラップに基づく統計的推論
次の例は、ブートストラップに JMP Pro を使用して、ターゲット母集団の理論的パラメーターのパーセンタイル信頼区間を生成する方法を示しています。 この例では、もともと Cox と Snell (1981) からの 20 個の温度測定値 (ケルビン) を使用しています。
サンプルの四分位範囲 (IQR) の信頼区間、つまりサンプル分布の 25 パーセンタイルと 75 パーセンタイルの差を求めたいとします。 IQR の信頼区間を正確に計算することは一般に不可能です。
まず、JMP の配布プラットフォームを使用して、元のサンプルの要約統計の表を生成します。 四分位範囲はデフォルトでは要約統計量テーブルに表示されないため、図 1 に示すように、赤い三角メニューを使用して要求します。 また、ブートストラップ プロセスは、参照先のテーブルに表示されているすべての統計に対して動作するため、この例では関係のないデフォルトの要約統計をすべてオフにします。 図 1 に示すように、分布概要テーブルには四分位範囲のみが表示されます。
Figure 1 Tailor Summary Statistics table to show only Interquartile RangeFigure 1 Tailor Summary Statistics table to show only Interquartile RangeFigure 1 Tailor Summary Statistics table to show only Interquartile RangeFigure 1 Tailor Summary Statistics table to show only Interquartile Range図 1 四分位範囲のみを表示するように要約統計量テーブルを調整する
次に、レポートの本文にカーソルを置き、右クリックして、表示されるメニューから [ブートストラップ] を選択します (図 2)。 [Bootstrap] ダイアログで、[Fractional Weights] オプションを選択します。このオプションにより、よりスムーズなブートストラップ サンプルが提供されます (Rubin (1981))。
Figure 2 Choose the Bootstrap with sample size 200Figure 2 Choose the Bootstrap with sample size 200Figure 2 Choose the Bootstrap with sample size 200Figure 2 Choose the Bootstrap with sample size 200図 2 サンプル サイズ 200 のブートストラップを選択する
この例では 200 個のサンプルが生成されます。 任意の数のサンプルを入力できますが、各サンプルが Distribution プラットフォームを再実行し、そのサンプルの四分位範囲を計算することに注意してください。 したがって、選択するサンプルの数は、所有する計算リソースによって異なります。 大規模なブートストラップ リクエストは、リソースと時間の両方を大量に消費する可能性があります。
ブートストラップ プロセスが完了すると、 JMPサンプリング結果の表。 これらは、温度変数の BootID と四分位範囲と呼ばれる列です。 行数は、要求したサンプルの数に元のサンプル計算の 1 を加えたものです。 次に、分布プラットフォームを使用して、ブートストラップされた四分位範囲の概要統計を確認します。
ブートストラップ オプションを持つ JMP プラットフォームは、BootID 変数を認識し、図 3 に示すように、ブートストラップ信頼限界テーブルを表示します。
Figure 3 Distribution of bootstrapped Interquartile RangeFigure 3 Distribution of bootstrapped Interquartile RangeFigure 3 Distribution of bootstrapped Interquartile RangeFigure 3 Distribution of bootstrapped Interquartile Range図 3 ブートストラップされた四分位範囲の分布元のサンプルで計算された四分位範囲は 28.25 です (図 1)。 ブートストラップ サンプル 200 に対して計算された四分位範囲は 25.4 であり、サンプルの分位数から取得された 95 パーセントのブートストラップ信頼限界は、元の推定値を含む 7 と 45 であることに注意してください。
教育におけるブートストラップ ブートストラップは、サンプル統計が導入される探索的データ分析 (EDA) から正式な統計的推論が最初に導入される確認的データ分析 (CDA) に学生を移行させるために、統計教育に適応され始めています (Lock, 2012)。
統計学の学部、大学院、およびシックスシグマコースを教えた著者の経験から、学生は標本分布、標準誤差、信頼区間、または仮説検定の概念を理解するのが困難です。 つまり、彼らは統計的思考の基本に苦しんでいます。
残念ながら、標準誤差やパラメトリック信頼区間を手作業で計算したとしても、そのような計算が実行可能な場合でも、生徒の概念的な理解を促すことはほとんどありません。 多くの場合、学生は、算術計算から導き出される推論についての実際の概念的な理解を深めないまま、算術計算に習熟します。 これは通常、生徒がパラメトリック信頼区間を正しく計算し（たとえば）、その後それらの区間の不正確な、または無意味な解釈を述べることによって現れます。 学生たちは、統計的に考えるために必要な能力を持たずに、算術計算に習熟したようです。
JMP Pro 10 のリリースから、アカデミック コースとシックス シグマ統計コースの両方のカリキュラムにブートストラップを導入しました。 CDA をパラメトリック標本分布、標準誤差、信頼区間の従来の議論から始めるのではなく、最初にブートストラップを導入することで、これらの概念が動機付けられます。
逸話になりますが、これまでの結果は、生徒たちが標本分布、信頼区間、仮説検定についてより深い概念的理解を示しているという点で、非常に心強いものであり、生徒たちは適切な統計的思考に熟達しているようです。
ブートストラップされた仮説検定は JMP Pro では直接利用できませんが、JMP Pro が提供するブートストラップ結果から、より一般的な仮説検定のいくつかを簡単に実行できます。 ブートストラップ仮説検定の詳細については、Hall and Wilson (1991) を参照してください。
他の統計プラットフォームでのブートストラップ
ブートストラップ手法は、統計的推論のスタンドアロン手法として使用されるだけでなく、他の統計手法に組み込まれることが増えています。 良い例はパーティション モデリングです。ブートストラッピングの概念を使用して、個々のデシジョン ツリーのランダムなアンサンブル (またはフォレスト) を成長させます。 JMP Pro は、ブートストラップ フォレスト オプションを備えたパーティション プラットフォームにこの概念を実装しました。
ブートストラップは、ANOVA、MANOVA、判別分析、回帰手法にも組み込まれています。 これらの分析用の JMP Pro プラットフォームの多くでは、ブートストラップを利用できます。 残念ながら、場合によっては、ブートストラップ仮説検定では、ブートストラップ サンプルごとにブートストラップされた標準誤差が必要になります。標準誤差の正確な計算は存在しません。 各ブートストラップ サンプルのブートストラップ標準誤差は、ダブル ブートストラップを使用して計算されます (Chernick、2008)。 ダブルブートストラップは現在 JMP Pro ではサポートされていません。
全体として、統計教育におけるブートストラッピング テストとランダム化テストの使用は増加していますが、学生、教師、トレーナーが利用できるテクノロジーによってのみ制限されています。 その使用は、統計教育に関する GAISE レポート (ASA、2012) の推奨事項とも一致しています。 JMP Pro は、教師が統計コースのカリキュラムにブートストラップを組み込むための、優れた使いやすいプラットフォームを提供します。
まとめ
この記事では、特に標準誤差と信頼区間を簡単に計算できない場合の統計的推論の一形態としてのブートストラップの使用と、統計教育のための重要な教育ツールとしてのブートストラップの使用について説明しました。 より強力なコンピュータの出現により、ブートストラップおよび関連手法の使用は間違いなく増加するでしょう。 JMP Pro は、JMP ユーザーがブートストラップを統計分析や統計教育のカリキュラムに組み込むことができる、単純で使いやすいブートストラップ機能を提供します。
参考文献
- チャーニック、M. (2008)。 ブートストラップ手法: 実践者と研究者のためのガイド、第 2 版。 ワイリー＆サンズ：ニューヨーク州ニューヨーク州。
- DR コックスと EJ スネル （1981年）。 応用統計: 原則と例。 ロンドン：チャップマンとホール。
- エフロン、ブラッドリー (1979)。 Bootstrap Methods: Another Look at the Jackknife、The Annals of Statistics、7、1-26。
- 米国統計協会 (2012)。 統計教育における評価と指導に関するガイドライン
- ホール、P. およびウィルソン S. (1991)。 ブートストラップ仮説テストのための 2 つのガイドライン。 バイオメトリクス、47、757 – 762
- ロックなどアル。 （2012年）。 データの力を解き放つ。 ワイリー＆サンズ：ニューヨーク州ニューヨーク州
- ルービン、DB （1981年）。 ベイジアン ブートストラップ、統計年報、Vol. 9、No.1、130 – 134。
- ティブシラニなど。アル。 （2008年）。 統計学習の要素、第 2 版。 スプリンガー・フェルラーグ。
- JW テューキー (1958)。 それほど大きくないサンプルにおけるバイアスと信頼性、数学統計年報。 Vol. 29、2、614ページ。
フィリップ J. ラムジー博士は、品質および統計コンサルティング会社である North Haven Group を所有しています。この会社は、シックス シグマのすべてのレベルとフェーズにおけるフルサービスのトレーニングとコンサルティングに加え、実験計画と予測分析の包括的なトレーニングを提供しています。 ラムジーは、ニューハンプシャー大学 (UNH) の数学および統計学部の教員でもあります。 彼はの共著者ですビジュアルシックスシグマSASプレスより。
