Std Least SquaresパーソナリティのAICc値とBIC値が混合モデルのものと異なるのはなぜですか？まったく同じデータと混合モデルを使用すると、標準最小二乗（SLS）パーソナリティと混合モデルパーソナリティのどちらを使用するかに応じて、異なるAICc値とBIC値が得られます。SLSの場合のこれらの基準の式の簡略化はありますか？もしそうなら、それは何ですか？そして、一般化回帰パーソナリティの場合はどうでしょうか？
Re：Std Least SquaresパーソナリティのAICc値とBIC値が混合モデルのものと異なるのはなぜですか？JMPの時系列プラットフォームと混合モデルプラットフォームは、同じ推定アルゴリズムを使用しません。ARIMAは初期化ステップを実行してカルマンフィルターを開始しますが、混合モデルは開始しません。ただし、その差は小さく、無視できます。
ご質問ありがとうございます。
Re：Std Least SquaresパーソナリティのAICc値とBIC値が混合モデルのものと異なるのはなぜですか？こんにちは @phersh そして @jiancao 、
このメッセージに添付されているのは、前のポイントを例示するためにまとめたシミュレーションデータセットです。シミュレーションの数式が表示されます。
応答は "y"であり、t（時間）を通じて観察されます。固定効果はなく、傍受モデルのみです。保存されたスクリプトは、（1）プロットt対y、（2）ARIMAソリューション、（3）ARを含む混合モデルソリューション、（1）共分散、（3）ランダム効果を含む混合モデルソリューション、（4）ARを含む混合モデルソリューションを示します。（1）共分散と変量効果。私がデータをシミュレートした方法を考えると、ソリューション（4）は正しいものであり、実際にはAICcとBICが最も低いものです。
これは、以前の投稿で私が何を意味していたかを示すためです。異なる共分散構造を同じ固定効果仕様と比較したい場合（ここではなし、単に切片のみ）、混合モデルパーソナリティを使用する必要があります（つまり ML）。さらに、AR（1）時系列ソリューション（またML）は、混合モデルAR（1）ソリューションで見つかった同じAICc / BIC / -2 LogLikelihood値を出力しません-データサイズとしてそれらの違いが消える傾向があることに気付きましたがここには示されていない成長します。
Re：Std Least SquaresパーソナリティのAICc値とBIC値が混合モデルのものと異なるのはなぜですか？ @fdottaviano 朗報！混合モデルプラットフォームでさまざまな変量効果の仕様を比較できます。
再びありがとう @jiancao 、
混合モデルのAICcまたはBICを使用して、異なるランダム効果の仕様を同じまたは異なる固定効果のセットと比較できます。
反復測定での共変量構造の指定については、AICまたはBICを使用して、混合モデルの変量効果モデルと比較できるかどうかはわかりません。 これらを比較したいユースケースはありますか？上で説明した比較手法は、作成するどのモデルにも使用できます。
@jiancao SLSによって使用されるREMLは、同じ共分散構造でもランダム効果セットが異なるモデルでは異なることを強調しようとしていました（ランダム効果の仕様はCS構造と同等です）。しかし、これは混乱を引き起こしたと思います：
「主な違いは、REML LLでは、モデルに固定効果Xを含むペナルティ項（1/2）log | X`VinvX |があることです。したがって、2つのモデルの固定効果部分が異なる場合（たとえば、主効果vs主効果+両方が同じ共分散構造をもつ相互作用）、REML LL、つまりAICcとBICは異なります。これにより、モデルの比較が無効になります。」
Re：Std Least SquaresパーソナリティのAICc値とBIC値が混合モデルのものと異なるのはなぜですか？ @fdottaviano 、
別の素晴らしい質問。
MLをSLSまたはさまざまな種類の固定効果と変量効果のモデルと比較する1つのオプションは、保存列と予測式の下のモデルから予測式を保存することです。 次に、分析メニュー/予測モデリングの下にあるモデル比較プラットフォームを使用します。 モデリングプラットフォームが異なるため、対数尤度の計算方法が異なるため、AICcまたはBICが部分的に得られません。 AICcまたはBICがないもう1つの理由は、ツリーベースのモデルを線形モデリングと比較できるようにすることです。 モデルの比較により、RSquare、RASE、AAEが提供されます。 各モデルの残差を比較することもできます
これはJMP Proでのみ使用できます。
Re：Std Least SquaresパーソナリティのAICc値とBIC値が混合モデルのものと異なるのはなぜですか？ありがとう @phersh 、
正解かどうか見てみましょう。
私が学んだことは、「SLS」と「一般化回帰」のパーソナリティはどちらもREMLを使用し、「混合モデル」のパーソナリティはMLを使用するということです。
一般化回帰は固定効果モデルのみを実行できるため、AICcまたはBICの用語でモデルを比較すると、それらすべてが固定効果で構成されているため、無効な比較のリスクはありません。
混合モデル（固定+ランダム効果）を適合させたい場合、パーソナリティに関して2つの選択肢があります。SLSと混合モデルです。
SLSを使用すると、モデルを比較できます-AICcまたはBIC用語で- ランダム効果の仕様が異なる場合-たとえば、2つのランダム効果と1つのランダム効果vsランダム効果なし-すべてのモデルに同じ固定効果指定があります。
混合モデルを使用する場合、AICcまたはBICの条件で、モデルをさまざまな固定効果の仕様と比較できます。効果 +相互作用vs主効果のみ-すべてのモデルに同じランダム効果仕様が提供されます。
SAS PROC MIXEDトレーニング資料がJMPにどのように適合するかを確認するには、最初に完全な固定効果仕様から始め、REMLを使用して、つまりSLSパーソナリティを使用して、さまざまなランダム効果仕様をテストする必要があります。最高のランダム効果仕様（最低のAICcやBICなど）を選択したら、MLを使用して、つまり混合モデルパーソナリティを使用して、さまざまな固定効果仕様をテストします。最良の固定効果仕様（最低のAICcまたはBICなど）を選択したら、SLSパーソナリティに戻り、最良の固定仕様とランダム仕様の両方を含む最終モデルを推定します。ここまでは順調ですね。
ただし、特定の固定効果の仕様と異なる共分散構造を持つ2つのモデル（ランダム効果と空間効果など）が疑わしい場合はどうでしょうか。共分散？JMPでは、混合モデルのパーソナリティを使用して空間モデルに合わせることができます。そのため、空間モデルはMLを介してのみフィットできます。これにより、同じ混合モデルパーソナリティを使用してランダムな効果でモデルをフィットさせることができるため、両方を同じ方法、つまりMLでフィットできます。さて、AICcまたはBICに基づいてどちらかを選択したい場合、それは無効ではないでしょうか？この状況でどのようにしてリンゴとリンゴを比較できますか？
Re：Std Least SquaresパーソナリティのAICc値とBIC値が混合モデルのものと異なるのはなぜですか？のおかげで @jiancao これに対する答えのために。 まず、本当に良い質問です。 これは、さまざまなログ尤度を使用するさまざまなモデリングプラットフォームによるものです。
ランダム効果のある混合モデルとSLSで使用されるML LLとREML LLを以下に示します。 @jiancao SASドキュメントからそれらをキャプチャしました https://support.sas.com/documentation/cdl/en/statug/63962/HTML/default/viewer.htm#statug_mixed_sect025.htm ）
主な違いは、REML LLにはペナルティ用語があることです。 （1/2）ログ| X`VinvX | 、モデルの固定効果Xを含みます。したがって、2つのモデルの固定効果部分が異なる場合（たとえば、主効果vs主効果+両方が同じ共分散構造をもつ相互作用）、REML LL、つまりAICcとBICは異なります。これにより、モデルの比較が無効になります。
これは、REMPではなくML LLを使用するというJMPの決定の根拠です。つまり、混合モデルパーソナリティでは、AICまたはBICを使用して、さまざまなモデルをさまざまな仕様の固定効果と比較できます。 （JMPの決定は、SAS Proc Mixedがデフォルトの推定方法としてREMLを使用するが、オプションとしてMLを提供するためであると言います:cara_que_sonríe_con_ojos_sonrientes:）
追加の注記：混合モデルの適合統計レポートの「-2残差対数尤度」はREML LLに続き（つまり、ペナルティ項を含みます）、SLSのREML分散成分推定セクションで報告される-2対数尤度と一致します。
一般化回帰プラットフォームの場合、現時点では変量効果をサポートしていないため、この場合は効果がありません。
GenRegには、1つのステップで変数の選択とモデルのフィッティングを可能にするLassoやエラスティックネットなどのさまざまなテクニックがあります。 リッジ回帰は、相関する因子がある場合に役立ちます。 ここに素晴らしい概要があります。
https://www.jmp.com/support/help/en/15.1/?os=win&source=application#page/jmp/overview-of-the-generalized-regression-personality.shtml
