マイク・クレイトン書きました:
ありがとう。JMPブログでは、主にそれぞれの主要なディストリビューションタイプを生成する「プロセス」ストーリーについての優れた議論を使用できると思います。例えば、ガラスまたはシリコンウエハ上の粒子を測定することは、負の値を伴わずに、非常に歪んだ分布になる傾向がある。ただし、前後のデータで追加または削除された測定粒子には、正の値と負の値の両方があります。また、単純なポアソン分布または対数正規分布は、場合によっては粒子データには適用されないことがあります。たとえば、ある研究者はレイノルズ分布を提案しました。各プロセスストーリーは、可能性のある分布のリストを生成できます。ファクトリデータはほぼ連続的になる場合がありますが、サービスデータにはカテゴリデータやカウントデータが混在することがよくあります。
ペナルティはあなたの日を深刻に台無しにすることができます。時間通りに請求書を支払うことを忘れなさい、そして遅いペナルティはあなたにもう数ドルを要するであろう。黄色の旗がフットボール競技場に当たったとき、ペナルティはあなたの好きなチームフィールドのポジション、勢いそしておそらくいくつかのポイントさえも犠牲にすることができます。しかし、ペナルティは必ずしもそんなに悪いことではありません。実際、回帰モデルを構築するとき、ペナルティは非常に良いことです。この記事では、一般化回帰プラットフォーム(新しい JMP Pro 11 これにより、ペナルティ付き回帰モデルを当てはめることができます。 似たようなモデルにフィットする方法を見ましたアドインを使用するしかし、一般化回帰プラットフォームはJMP Proに組み込まれたはるかに多くの機能を提供します。
最尤は統計の主力の1つであり、回帰モデルのパラメーターを推定するための一般的な方法です。尤度関数は、与えられたパラメータのセットに対して観測された応答の確率を示します。そのため、最尤推定量は、観測データの確率を最大にする回帰パラメータを与えます。尤度理論はまた、回帰パラメータについて推論するための理論も提供します。かなり魅力的ですね。最尤は非常に強力ですが、どの予測子がモデルに属しているかが事前にわかっている場合に最も適しています。
過剰装備を避ける
予測子が数十個以上あり、どれをモデルに含めるべきかわからない場合は、最尤推定が過剰になる傾向があり、もはやそのような最適な選択肢ではありません。過剰適合とは、観測データをうまく適合させることを意味しますが、新しい観測値を予測する作業は貧弱です。ペナルティ付き回帰手法は、多数の予測子に圧倒された場合に、過剰適合を回避するのに役立ちます。ペナルティ回帰とは、通常の尤度関数を最大化するのではなく、尤度の関数にパラメータの大きさに対するペナルティを加えたものを最適化することを意味します。ペナルティを受ける可能性を最適化することは直感的に理にかなっています。データをうまくフィットさせたいのですが、モデルが大きくなりすぎないようにしたいのです。JMP Proの一般化回帰プラットフォームでは、3つの一般的なペナルティ付き回帰モデルに合わせることができます。リッジ回帰、なげなわ 、そしてその弾性ネット 。これら3つの推定手法により、新しい観測値に対して適切に予測できる予測モデルを構築できます。なげなわとElastic Netも変数選択を実行するので、解釈しやすいモデルになります。
Generalized Regressionプラットフォームで利用可能なすべての推定手法を網羅しようとするのではなく、Elastic Netに注目しましょう。Elastic Netは変数選択とパラメータ推定を同時に行います。そして追加のボーナスとして、それは相関する予測子を扱います( 多重共線性 ) 大規模な観測データセットはしばしば多重共線性に悩まされるため、Elastic Netは観測データを扱うときに適しています。Elastic Netは、L1とL2の組み合わせを使用して尤度を犠牲にします規範 :

ここでベータは私たちの回帰係数です。ペナルティのL1部分は可変選択をもたらしますが、ペナルティのL2部分は共線性を扱うのを助けます。ここで、アルファとラムダは調整パラメータと呼ばれ、2つの組み合わせはそれぞれ異なる一連の回帰パラメータ推定値を導きます。JMPには、次のような適合度の基準に基づいてチューニングパラメータの最適な組み合わせを選択するためのいくつかのオプションがあります。交差検定またはビック 。
ハリウッド映画の例
JMPのサンプルデータフォルダの例を使用して、一般化回帰プラットフォームを試してみましょう。Hollywood Moviesデータセットは、2011年の映画サンプルの収益性に関する情報を提供しています。私たちの目標は、いくつかの要因に基づいて映画の収益性を予測することです。腐ったトマトスコア、オーディエンススコア、Lead Studio(合計33のスタジオ)およびジャンル(Romance、Horror、Comedyなど)。これらすべての予測子が真に収益性に影響を与えることはほとんどありそうにないので、変数選択を行いたいと思います。また、観客は批評家と意見が一致する傾向があるため、観客スコアと腐ったトマトスコアの相関が高いことにも注意する必要があります。そのため、Elastic Netは相関予測子を処理し、変数選択を行うため、これらのデータを近似するのに最適です。私の妻と私は映画を見に行くのが好きで、映画を選ぶ前にRotten Tomatoesのスコアをよくチェックするので、これはJMPを披露するための私のお気に入りのデータセットの1つです。
Generalized Regressionプラットフォームにアクセスするために、Fit Modelを起動し、PersonalityメニューからGeneralized Regressionを選択します(図1)。列を指定して起動ダイアログを完了したら、図2のように見積もりと検証の方法を選択します。デフォルトのままにしておきます。ElasticNetとBIC検証。

図1:汎用プラットフォームの起動

図2:モデル起動ダイアログ
図3は、ゼロ以外の係数を見つけやすくするためにパラメーター推定値テーブルをソートした、一般化回帰レポートの一部を示しています。ソリューションパスプロットは、さまざまな変数が回帰モデルにどのように入力されたかについての情報を提供します。パス内の各線は、モデル内の変数を表し、ペナルティが減少するにつれて(グラフの左から右へ移動するにつれて)、ますます多くの変数がモデルに入ります。
Parameter Estimatesレポートは、3つの予測子のみが最終モデルにゼロ以外の係数を持つことを示しています。どうやら、それはドラマにとっては悪い年であり、ソニーによってリリースされた映画にとっては良い年でした。そして批評家に人気の映画はもっと収益性が高い傾向がありました、そしてそれはおそらく我々が予想するものです。私達は私達のモデルのおよそ40の言葉から始め、ちょうど3つにそれを狭めた。これにより、解釈が簡単で、新しい観測値に適した予測モデルが得られます。

図3ハリウッド映画の例の部分的なレポート
JMP 11の一般化回帰プラットフォームに非常に興奮しています。変数選択は統計学における最も重要な問題の1つです、そして今JMP Proはその問題を攻撃するためのより強力なツールを持っています。そして、図1で、ガンマ分布を選択したことに気付きましたか。プラットフォームの名前が示すように、一般化回帰プラットフォームでは一般化線形モデルを当てはめることができます。つまり、応答変数が正規分布でなくても変数を選択できるということです。映画データの例では、収益性が偏った分布になると予想されるため、ガンマ分布が適しています。一般化回帰プラットフォームは、応答に関するさまざまな分布(正規、二項(ロジスティック回帰)、ポアソン、負の二項など)をサポートします。次回変数選択をしなければならないときは、一般化回帰プラットフォームでElastic NetまたはLassoを試してください。