非直交実験計画法における効果量の算出こんにちは。JMPを使い始めたばかりなのですが、回帰分析と直交化効果の解釈について質問があります。
応答(力)に対する主効果と交互作用を調べるために、シミュレーションを用いて3因子3水準の実験計画法(X、Y、Z)を実施しました。いくつかの実験が欠落していたため、実験計画は完全な直交性を備えていません。
Fit Modelを使用して回帰分析を実行し、通常の出力(推定値、t値、p>|t|)を取得しました。また、直交コード化された効果を使用する効果スクリーニング/パレート図も確認しました。
実際に何を使えばいいのか、少し混乱しています。
- 効果が有意かどうかを判断する際、通常の回帰分析の結果(p値)を用いるべきでしょうか、それとも直交化されたp値を用いるべきでしょうか?
- 反応への影響の大きさを報告する際には、回帰係数、直交符号化値、あるいは因子範囲全体にわたる予測変化量などを用いるのが適切でしょうか?
- JMPが直交コード化された効果を報告する場合、それらは依然として中心化された(X − 平均)(Y − 平均)型の項に基づいているのでしょうか、それとも直交化によって相互作用の解釈に使用される参照点が変わるのでしょうか?
デザインが完全に直交しているわけではないので、私がすべてを正しく解釈しているかどうかを確認したいだけです。
ありがとう!
データ探索と可視化実験計画法結果の共有と伝達Re: 非直交実験計画法における効果量の算出こんにちは、 @RandomSquirrel1 さん。
コミュニティへようこそ!
ご提供いただいた情報と背景が限られているため、的確なサポートやアドバイスを提供することは困難です。そこで、あなたのテーマをより深く理解し、議論を始めるために、以下の質問をさせていただきます。
- あなたの研究の目的は何ですか?特定の効果や用語を特定する、現象を予測する、反応を最適化する、実験空間を探索するなどでしょうか?
- どのような実験計画を作成しましたか? 3つの因子それぞれに3つの水準を設定していることから、連続因子についてはI-Optimal、CCD、Box-Behnkenなどの応答曲面モデル計画、カテゴリ因子については完全/部分/最適因子計画を作成したと思われます。この計画では、何回の実験を行いましたか? 繰り返し実験は行いましたか?
- 欠落している実験はいくつありますか?また、それらの場所はどこですか?欠落している実験の理由は何ですか?(実験の実施や反応の測定が不可能/非現実的だったなど)
まず、欠落した実行データ(除外された行)を含む設計を評価し、本来意図した完全な設計と比較することをお勧めします。これにより、欠落した実行データが及ぼす影響をより正確に把握できます。そのためには、 「設計の比較」プラットフォームを使用し、欠落した実行データを含む設計テーブルと含まない設計テーブルを比較してください。これにより、エイリアシング構造の変化や、モデル内の各項の相対的な推定効率の変化を把握できます。
次に、設計状況を評価したら、 パラメータ推定パネルの分散膨張係数(VIF)値と標準誤差を確認することで、欠落した実行データがモデルの項の推定にどの程度の共線性を引き起こしているかを評価することもできます。VIF値と標準誤差は、一部の実行データが欠落している場合でも、モデル内の項の推定値(および関連するp値)がどの程度信頼できるかを評価するのに役立ちます。
直交化された項の効果とp値を、通常の項の効果とp値と比較してみましょう。2つの出力間で、パラメータ推定値に実質的に重要な変化が見られますか?p値は似ていますか?応答に対して実質的に重要な効果はありますか?実質的な重要性と統計的有意性の両方を考慮する必要があります。
報告に関するご質問ですが、回答はご質問の内容と目的によって異なります。何を調べようとしていたのでしょうか?これらの変化のうち、どれがあなたの研究にとってより重要な意味を持つのでしょうか?
最後の質問についてですが、正規化処理では元の推定値を使用し、共分散行列と行数およびRMSEに関連付けられたスケーリング係数を用いてスケーリングします。因子がコーディング列プロパティで適切に定義されている場合、正規化された推定値は中心化およびスケーリングされた推定値に基づきます。これらの正規化された推定値はモデル内の項の導入順序に依存するため、 効果の遺伝を考慮して指定するようにしてください。
この議論のきっかけがお役に立てば幸いです。
Re: 非直交実験計画法における効果量の算出この返信がまだ投稿されていない場合に備えて、再送いたします(以前送信した返信が表示されていないようです)。
こんにちは、ビクターさん。
ご回答ありがとうございます。
より詳しく説明すると、私の研究では、アンカーの幾何学的配置(X、Y、Z)が傷害指標にどのように影響するかを調べています。目標は、どの方向が最も影響力があるかを特定し、各方向の変化が反応にどのように影響するかを定量化することです(例えば、アンカーを最大位置から最小位置に移動させる場合など)。
私は各因子を連続変数として扱い、レベルを-1、0、1と符号化し、最小二乗法を用いて一次線形回帰モデルを当てはめた。各構成について1回ずつシミュレーションを行った。
物理的な制約により、極端な場所では一部のテストが実施されませんでした。
• 初回DOE:27人中3人が欠席
・第2回DOE:27人中7人が欠席
適合モデルは以下のとおりです。
損傷 = β₀ + β₁X + β₂Y + β₃Z + β₄XY + β₅XZ + β₆YZ + β₇XYZ
モデル診断:
- VIF値は1.0~1.35の範囲であり、多重共線性が低いことを示している。
- 標準誤差は0.4~1.1の範囲であった。
私が解釈しようとしている出力は以下のとおりです。
・主効果と交互作用効果が有意であるかどうかを特定する
・各効果の大きさを推定する(例:反応が-1から+1に変化した場合)。私の理解では、コード化された変数の場合、これは回帰係数の約2倍になります。
通常の回帰分析結果と直交化結果を比較すると、有意な効果は概ね一致しているが、いくつかのケースでは交互作用項が有意水準付近でわずかにずれることがある(例:p = 0.048 対 0.051)。
こうした状況を踏まえると、有意性の判定や効果量の解釈に、標準的な回帰分析の出力(推定値、t値、p>|t|)を用いるのは適切でしょうか?
ご協力ありがとうございます!
Re: 非直交実験計画法における効果量の算出こんにちは、ビクターさん。
ご回答ありがとうございます。
より詳しく説明すると、私の研究では、アンカーの幾何学的配置(X、Y、Z)が傷害指標にどのように影響するかを調べています。目標は、どの方向が最も影響力があるかを特定し、各方向の変化が反応にどのように影響するかを定量化することです(例えば、アンカーを最大位置から最小位置に移動させる場合など)。
私は各因子を連続変数として扱い、レベルを-1、0、1と符号化し、最小二乗法を用いて一次線形回帰モデルを当てはめた。各構成は1回ずつシミュレーションされた。応答指標は40から55の範囲であった。
物理的な制約により、極端な場所では一部のテストが実施されませんでした。
• 初回DOE:27人中3人が欠席
・第2回DOE:27人中7人が欠席
適合モデルは以下のとおりです。
損傷 = β₀ + β₁X + β₂Y + β₃Z + β₄XY + β₅XZ + β₆YZ + β₇XYZ
モデル診断:
- VIF値は1.0~1.35の範囲であり、多重共線性が低いことを示している。
- 標準誤差は0.4~1.1の範囲であった。
私が解釈しようとしている出力は以下のとおりです。
・主効果と交互作用効果が有意であるかどうかを特定する
・各効果の大きさを推定する(例:反応が-1から+1に変化した場合)。私の理解では、コード化された変数の場合、これは回帰係数の約2倍になります。
通常の回帰分析結果と直交化結果を比較すると、有意な効果は概ね一致しているが、いくつかのケースでは交互作用項が有意水準付近でわずかにずれることがある(例:p = 0.048 対 0.051)。
こうした状況を踏まえると、有意性の判定や効果量の解釈に、標準的な回帰分析の出力(推定値、t値、p>|t|)を用いるのは適切でしょうか?
ご協力ありがとうございます!
Re: 非直交実験計画法における効果量の算出こんにちは、 @RandomSquirrel1 さん。
はい、ありがとうございます。追加していただいた情報と結果は、状況を理解する上で大変役立ちました。
設計に含まれる因子数、水準数、および総実行回数から判断すると、 完全要因計画法を採用されたものと思われます。これらの計画法では、因子の水準のあらゆる組み合わせをテストするため、(一部の)欠損値に対して非常に頑健です。この診断結果は、得られた結果によって裏付けられているようです。VIF値が低く、直交化値と通常値の差が小さいことから、標準回帰分析の結果を使用しても問題ないと考えられます。
はい、おっしゃる通りです。主効果のパラメータ推定値は、他の要因が一定/固定されている場合、要因が0から1(または-1から0、1単位スケール)に変化したときの応答値の変化、つまり範囲の半分を表します。
その他のコメント:
- 行診断プロット( 実測値と予測値のプロットおよび残差プロット)にパターンがないことを確認することで、モデルが回帰の仮定を満たしていることを確認してください。これは、モデルがデータに適切に適合していること、モデルに項が不足していないこと(例えば、X*X、Y*Y、Z*Zなどの二次効果をモデルに追加する必要がある場合)、またはデータに特定の変換( Box-Cox変換など)を適用する必要がないことを確認するためです。
- モデルがデータに適合していることを確認するために、複数の指標を使用してください。個々のp値による有意性は良い出発点ですが、この情報だけに基づいてモデルから1つの項を削除することはお勧めしません。 適合度の要約、特にRMSE(予測精度)、R2/R2調整値(および両者の差、最小化すべき値)、モデル全体の統計的有意性、およびモデルの複雑さと精度のバランスを理解するのに役立つ情報量規準AICc/BIC指標(最小化すべき値)を確認してください。統計的有意性に近い項がある場合は、それらをモデルに残しておくことをお勧めします。
- モデルの精度が十分であることを確認できる検証実行をいくつか実行して、モデルの妥当性を検証してみてください。これにより、計算されたモデル項に対する信頼性も高まります。
- 極端な場所を避けてモデル検証を実行したい場合、またはモデル検証が成功せず、制約を尊重しながらモデルを改良してその妥当性を確認するために追加の実行が必要になる場合は、プラットフォームAugment Designs を使用して設計内に新しい実行を作成し、 要因制約を指定することで、これらの新しい実行が極端な場所で作成されないようにすることができます。
この回答と今後の手順が、あなたの学習の完了に役立つことを願っています。
Re: 非直交実験計画法における効果量の算出いくつかコメント/感想を述べます(順不同):
背景を理解するために、X、Y、Zが傷害指標に影響を与える理由(仮説)を説明していただけますか?モデル効果の順位を予測するとしたら、どのような順位になるでしょうか?
1. あなたは一次モデルを当てはめたと言っていますが、厳密には違います。あなたのモデルには二次および三次交互作用が含まれています。階乗と多項式の両方の次数があります。
2. 各変数を3つのレベルでテストしたということは、二次項も推定できるはずです。なぜこれらの項をモデルから除外したのですか?あるいは、非線形性に関心がなかったのなら、なぜ3つのレベルでテストしたのですか?
3. あなたの応答変数は「傷害指標」です。この応答変数について、私には何の文脈もありません。それは何ですか?シミュレーション実験で生じた変動は40から55まででしたが、これは実用的な価値がありますか?その指標のどの程度の変化が意味を持つのでしょうか?指標が1単位変化したら気になりますか?5単位変化したら?10単位変化したら?
4. シミュレーションを実行しています。アルゴリズム(モデル)が既に存在することに気づきました。あなたはアルゴリズムを解明しようとしているのですか?シミュレーションにおいて物理的に実現不可能なのはなぜですか?
5. 最初の実験と2番目の実験とはどういう意味ですか?これらは反復実験ですか?反復実験の間で何が変わりましたか?反復実験(同一の処理組み合わせ)であるならば、なぜ最初の実験では3が実行不可能で、2番目の実験では7が実行不可能なのでしょうか?最初の実験で欠落しているランは2番目の実験で利用できますか(またはその逆)?
6. 一般的に、分析ではまず実質的な有意性を判断し、その基準が満たされている場合はグラフによる分析を行い、最後に定量的分析を行う必要があります。異常なデータポイントはありますか? 定量的分析は飽和モデルから始める必要があります (ただし、ランダム化された反復では不可能です)。平均二乗誤差推定値を構成する要素 (どのような要因またはノイズ) を理解します。誤差がどのように推定されているか、またその誤差が現実世界の変動を代表しているかどうかについての知識がなければ、p 値はほとんど役に立ちません。調整済み R 二乗は最大化すべきデフォルトの統計量であり、R 二乗 - 調整済み R 二乗デルタを最小化する必要があります (過剰指定を減らす)。
ちなみに、極端頂点の処理に課題がある場合は、Box-Behnken法が推奨される設計です。
Re: 非直交実験計画法における効果量の算出こんにちは、statmanさん。詳細なフィードバックをありがとうございます。時間をかけて確認していただき、感謝しています。
いくつか点を明確にしておきます。
一次線形モデルと書いてしまいましたが、これは交互作用項を含む線形モデルです。3つのレベル(-1、0、1)を用いたのは、設計空間をより適切に表現し、潜在的な非線形性を検出するとともに、アンカー位置の範囲全体にわたって主効果と交互作用効果の両方の推定精度を向上させるためです。中間点は、線形係数と交互作用係数の推定に貢献し、線形性の仮定を検証するために用いられました。
実用的な意義に関して言えば、応答変数は胸骨のたわみ(mm)であり、これは傷害リスク(例えば、肋骨骨折)に直接関係しています。この指標の比較的小さな変化でも、傷害発生確率の有意な増加につながる可能性があるため、結果を解釈する際には統計的意義と実用的な意義の両方を考慮しました。
これら2つの実験計画法は、反復実験ではなく、異なるアンカー構成に対応しているため、欠落した実験回数がそれぞれ異なります。除外された構成は、物理的に非現実的または無効な設定となる極端な位置にあったため、実行不可能とみなされました。
ご指摘いただいたモデル診断について、残差の挙動、モデル適合度指標(RMSE、R²/調整済みR²)、および再現性がない場合の誤差項の役割など、より詳細に検討します。これにより、追加項(例えば、二次効果)やモデルの改良が必要かどうかをさらに評価できるはずです。
モデル診断と実践的な解釈に関するご提案、改めてありがとうございました。
Re: 非直交実験計画法における効果量の算出こんにちは、ビクターさん。
ご提案いただき、本当にありがとうございます。統計的有意性のみに基づいてモデルから項目を削除することには、慎重に対応します。
モデル出力におけるパラメータ推定値について質問があります。交互作用項について、XYのような形式ではなく、 (X − 0.0833) (Y + 0.0833)という形式で表示されます。これは、ソフトウェアが変数を中央値に戻しているためだと考えています。
この再中心化によって、主効果と交互作用効果の解釈方法に影響が出るでしょうか、それとも係数の解釈は元のコード化された変数と依然として整合しているでしょうか?
ありがとう!
Re: 非直交実験計画法における効果量の算出こんにちは、 @RandomSquirrel1 さん。
センタリングは、相互作用や多項式などの高次の項に対して、 低次の効果と高次の効果の間の共線性を低減するのに役立ちます。
中心化された効果の大きさの解釈は、中心化されていない効果と比べて変わりませんが、因子XとYが平均値に設定されている場合、相互作用項の値は0になります。一方、中心化されていない相互作用効果では、両方の因子が0の場合に値が0になりますが、これは研究対象の因子範囲外になる場合があります。このトピックの詳細については、次のディスカッションを参照してください。「 回帰分析における相互作用のみのIVの中心化」
この回答がお役に立てば幸いです。