ロジスティック回帰におけるパラメータ推定<meta http-equiv="Content-Type" content="text/html; charset=UTF-8" />非常にまれなイベントでバイナリ応答変数を使用して LR をテストするために、それぞれ 20M ポイントの 3 つのデータ セットをシミュレートしました。
1) 2 つの連続効果: Beta0=12、beta1=1、Beta2=1。 X1 はノーマル (-0.8, .25) で、X2 は -ABS[ノーマル (0,5)] です。 (変数の値に応じて、2 つの変数のそれぞれがイベントの確率を高めます。) この場合、20M サンプルで約 711,000 の陽性イベントがあります。 LR を実行すると、3 つのベータ版のかなり良い見積もりが得られます。 b 0 = 12.003、 b 1 =1.005、 b 2 =0.99996。 R2乗(U)=0.623、AICc=2,314,760、BIC=2,314,804。 ROC AUC=0.97835。
2) 2 番目のデータ セットには、1 つの連続効果と 1 つのカテゴリ効果があります。 このデータでは、最初のデータ セットの 2 番目の連続変数を、確率 0.05 および Beta2 = -2 で発生するバイナリ変数に置き換えます。 このデータには、合計 2,000 万のサンプルで 394 のイベントしか含まれていません。 LR を実行すると、推定値は次のようになります。 b 0 = 11.0988、 b 1 =1.184、 b 2 =-1.01。 R2乗(U)=0.0283、AICc=9,068、BIC=9,112。 AUC = 0.68 の ROC。 したがって、ベータ 0 とベータ 1 の推定値は妥当ですが、名義変数のベータ 2 の推定値は真の値の半分のように見えます.
3) 3 番目のデータ セットを生成するには、両方の効果を二項生成バイナリ変数として使用します。 最初のデータ セットの 1 つの連続変数を、確率 0.05 および Beta2 = -2 で発生するバイナリ変数に置き換えます。 2 番目の連続変数を、確率 0.1 およびベータ = -1 の別の二項生成確率変数に置き換えます。 このデータには、合計 2,000 万のサンプルのうち 165 のイベントのみが含まれています。 LR を実行すると、パラメーターの推定値は次のようになります。 b 0 = 10.582、 b 1 = - 1.14、 b 2 = - 0.512。 R2乗(U)=0.0384、AICc=4,038、BIC=4,082。 ROC AUC=0.6756。したがって、ベータ 0 の推定値は妥当ですが、両方の名義変数のベータ 1 とベータ 2 の推定値は真の値の半分のように見えます
ここで何が欠けていますか？ カテゴリ変数の係数の推定値が真の値の半分になるのはなぜですか?
私の次のテストは、非イベントをアンダーサンプリングしてから、アンダーサンプリング補正を Beta0 に適用することです。 しかし、まず、JMP で LR によって生成される推定値を理解したいと思います。 提案や説明をいただければ幸いです。
Re: ロジスティック回帰におけるパラメータ推定モデルのタイプではなく、カテゴリ因子をどのようにコード化するかが問題です。 リストに -1 があるわけではありません。
1/0 コーディングを試す
ranjan@mitre.org Apr 14, 2014 10:44 AM
I coded the nominal variables as 0/1 as you recommend and then did not use them, and applied the appropriate betas in the P calculation.
私はそれが何を意味するのか分かりません...
ここで回答が得られない場合は、いつでもテクニカル サポートに問い合わせることができます。 彼らには、JMP に詳しい人がいます。
Re: ロジスティック回帰におけるパラメータ推定リーザ
送信したリンクは線形モデルに適用されます。 私はロジスティック回帰を扱っています。
Re: ロジスティック回帰におけるパラメータ推定あなたが推奨するように名義変数を0/1としてコード化し、その後それらを使用せず、P計算に適切なベータを適用しました. 現在、3 つのベータの推定値は、10.52、0.9848、および 0.6534 です。 そのため、名義変数に対応する Beta1 と Beta2 はまだ真の値の約半分に見えますが、符号は本来あるべき値とは反対になっています。 -2 の真の Beta1 は 0.9848 と推定され、-1 の真の Beta2 は 0.6534 と推定されます。 役立つ場合は、ファイルの短いバージョンを添付しています。 (JMP で LR を実行する時間があれば、十分なイベントを取得するためにファイルをかなり拡張する必要があります。 20M 行のファイルを使用します。
ありがとう
Re: ロジスティック回帰におけるパラメータ推定http://www.jmp.com/support/help/The_Factor_Models.shtml#65535
0/1 としてコーディングし、名義効果に含めないで、目的の結果が得られるかどうかを確認します。
JMPが名義変数を分類する方法については、上記のリンクを参照してください。
Re: ロジスティック回帰におけるパラメータ推定名義変数を 0 およびベータ値としてコーディングし、ロジスティック式 (1/(1+exp(beta0+Beta1+Beta2) ))))。 効果列のエントリは、その列が公称効果として指定されている場合、単なる「ラベル」として使用されると想定しました。 0/1 と 1/2 が違いを生む場合、列に入力された値が何らかの形で使用されることを示唆していますか?
Re: ロジスティック回帰におけるパラメータ推定JMP にはあまり詳しくありませんが、SAS で発生する理由をいくつか示します。
1. バイナリ変数 (0/1) が 1/2 とは異なるコードをどのようにコーディングしたかを確認します
2. ある種の自動カテゴリを使用した場合は、それがどのようにパラメータ化されているかを確認します。つまり、効果コーディングまたは参照コーディングです。
