サンプルサイズが小さい場合、モデル項をどのように選択すればよいでしょうか?(Lassoを使用すべきでしょうか?p値を用いて手動で項を選択すべきでしょうか?)やあ、
二次モデルに含める項を選択する最適な方法を探しています。:)
まず、最小二乗法を用いて、pHやその他の連続変数(近いうちにモデルに追加予定の離散変数も含む)が3つの異なる要因(濃度A、濃度B、比率C)によってどのように影響を受けるかを理解しようとしています。そのため、これらの要因(それらの二乗と相互作用)と、私が測定した出力(pH、レオロジー値など)との関係を見つける必要があります。
私はL9田口マトリックス実験計画法(3つのパラメータにそれぞれ3つの水準を設定)を用いてデータを取得しました。そのため、実験回数は9回のみです。各出力に使用するモデルの項を選択する必要があります。(pH用の最初のモデル、レオロジー測定用など、別のモデルを使用できます。)
実行回数がわずか9回なので、完全な二次モデル(10個のパラメータ)を当てはめることはできないと分かっています。主効果は直交していますが、2因子交互作用は主効果とエイリアシング(|r| ≈ 0.58)しているため、これらを削除する予定です。残るのは主効果と二次項(6個のパラメータ)です。私の質問は、これらの残りの項の中からどのように選択するかということです。手動による削減(有意でない項を1つずつ削除する)とLASSOのどちらが博士号取得にふさわしいでしょうか?
ご協力ありがとうございます!
敬具、
アンナ
Re: サンプルサイズが小さい場合のモデル項の選択方法(Lassoを使うべきか?p値を使って手動で項を選択すべきか?)ご質問があればお気軽にお尋ねください!
Re: サンプルサイズが小さい場合のモデル項の選択方法(Lassoを使うべきか?p値を使って手動で項を選択すべきか?)こんにちは、 @FrancesBudgie97 さん。
コミュニティへようこそ!
田口設計が使われているのを見るのは非常に稀です。念のため確認ですが、あなたの3つの因子は連続的な数値ですが、設計を作成する際に、それらをカテゴリ変数または離散的な数値として定義したのですね?
モデル内で他の項と相関関係にある可能性のある項を、デフォルトで削除することはお勧めしません。項間の相関関係は設計においてよく見られるものであり、それがモデルへの組み込みを妨げるものではありません。ただし、削除すると、項の組み込みに制約が生じ(すべての項を含めることができない、あるいはモデルに特異点が生じる)、推定精度が低下し(推定値の信頼区間が広くなる)、ある程度の多重共線性が生じることになります(モデルに含まれる項の分散膨張係数(VIF)値をチェックすることで、モデルの多重共線性の程度を評価できます)。
実験計画から応答曲面モデル(RSM)のすべての項を推定することはできないため、過飽和状態にあります。そのため、さまざまな応答に最も影響を与える可能性のある項を特定するのに役立つ特定の方法を使用する必要があります。興味深い選択肢としては、次のようなものがあります。
フランスのJMPユーザーグループで紹介されている使用例をこちらでご覧いただけます。この例では、異なるプラットフォームを使用して、モデル適合度指標(R² / RMSE / ...)、モデルの複雑さと精度のバランス( 尤度、AICc、BICなどの情報量規準を使用) 、用語の包含に関するモデル間の一致度などを比較しています。
モデル構築における用語の追加・削除方法に関するご質問については、上記の方法が役立ちます。しかし、より重要なのは、以下の点を定義することです。
- あなたの目的:スクリーニングの状況(p値が真のシグナルをランダムな変動やノイズから区別するのに役立つ場合)ですか?それとも最適化/予測のシナリオ(モデルの精度がより重要になる場合があり、RMSEやその他の予測指標に頼る場合)ですか?あるいはその中間で、よくわからない場合(情報量規準は、モデルを比較し、精度と複雑さのバランスを取ることで、含まれる用語と用語数の適切なバランスを決定するのに役立ちます)。
- あなたの専門知識:過去のデータや研究対象システムに関する知識に基づいて、用語を削除したり追加したりできますか?既に有効かつ重要であることが分かっている相互作用や主要な効果はありますか?モデルが妥当かどうかを確認するために、ドメインエキスパートとモデルをチェック/評価できますか?
- 検証戦略:回答に適切と思われるモデルを選択したら、これらのモデルを検証する必要があります。目的と実験予算に基づいて、検証を実行するためのさまざまなシナリオが考えられます。最適点のみを検証することに関心がありますか?それとも、研究対象の因子範囲でモデルを検証したいですか(そのためには、設計には含まれていないものの因子範囲を尊重した因子レベルの組み合わせを実行します)?検証結果の検証に厳密なルールはありませんが、これらの検証実験を実行する際に十分な注意(と時間!)を払うことで、モデルに対する信頼(そしてレビュー担当者からの信頼!)を大幅に高めることができます。
この回答がお役に立てば幸いです。