n = 8 の線形回帰に 6 つの項があることは許容されますか?私は現在、2 水準と 3 因子、非複製、n = 8 の完全要因実験を分析しています。 JMP ガイドによると、ここでの適切な方法論は、後方選択を使用してモデルを重要な因子まで削減する前に、高次交互作用が重要ではないと仮定して、階乗を使用してモデルを次数 2 に適合させることです。
2x2x2 完全要因分析の JMP ガイド: https://community.jmp.com/t5/Learning-Center/Analyzing-Full-Factorial-Experiments/ta-p/271995
私の質問は、実際にすべての主効果とすべての二元交互作用が有意であることをデータが示していると仮定します。 これにより、観測値が 8 つだけのデータセットを記述する 6 つの項を含むモデルが残ります。 この時点では、項数が多いため r^2 が非常に高く、6 つの因子すべてで p < 0.05 となっています。 分析の観点から見ると、これは過剰適合とみなされますか?また、これはベストプラクティスではないと考えられますか?
もしそうなら、このデータを調べるより良い方法は、主効果のみを見ること（つまり、詳細に飛び込むのではなく、各パラメータの「平均」効果を見ること）でしょうか？
ありがとう。
品質およびプロセスエンジニアリングRe: n = 8 の線形回帰で 6 つの項を持つことは許容されますか?ありがとう、 @スタットマン。これはどれもとても役に立ちます。 最終的にデータを確認したところ、計画された実験において、データをグラフで確認した場合、モデルが教えてくれているのと同じ結論に達するだろうということがわかりました。相互作用と重要な要因。 そういうものとして、私はそれを良いと呼んでいます。
Re: n = 8 の線形回帰で 6 つの項を持つことは許容されますか?QW、私の考えは次のとおりです。
1. 重要でない項を削除した後に重要な要素が見つかるのは、MSE にバイアスがかかっているためです。 重要でない項 (SS が小さい可能性が高い) を削除すると、各項の DF も取得されます。 MSE は SS/DF であるため、(おそらく非現実的に) MSE を削減します。 F 値は MSfactor/MSerror です。 したがって、MSE を非現実的に下げると、F 値が大きくなり、その後 p 値が下がります。 私からのアドバイスは、どの変動源を比較しているのかを常に考慮することです。
2. 正規/半正規プロット (ダニエル プロット) は、解釈方法が必ずしも単純ではありません。 ラッセルの PSE はチャートの解釈を助ける試みですが、PSE が常に役立つとは限りません。 どの効果がランダム誤差の関数であるか (比較的直線である必要があります)、どの効果が割り当て可能であるかを考慮する必要があります。 エラーのランダムな分布から外れます。 法線プロットが S 字カーブ形状であるか壊れている場合、これは重大なノイズの影響を示しています (ランダムな誤差の分布が複数ある可能性があります)。 画像から、通常のプロットの上部にあるグレー表示された + が重要であるように見えます (私の推測では、これは Column2(x) です)。 通常のプロットとともにパレート図があると非常に役立ちます。 統計的シグナルと実際的な有意性の両方を評価します。
3. 知識 (そしておそらく数学的モデル) を構築する方法については、良いスタートが切れたと思います。 私は実践的>グラフィック>定量的な方法を使用します。
まず、実験で作成したデータのばらつきはどれくらいですか? データには（中小企業の観点から）実用的な価値がありますか? データはあなたの予測と比較してどうですか? 研究にどの要素を含めるかを決定するために使用した仮説と比較してどうですか? ANOG チャートと MR チャートは、因子の効果と応答変数を相関させるパターンを認識するのに優れています。 エンジニアリングを決してオフにしないでください。
次に、データをグラフ/プロットします。 JMP のグラフ ビルダーは非常に便利です。 異常なデータ ポイント (処理) はありますか? これは、正規プロットとパレート プロットが役立つ場所でもあります (ただし、それらの有用性は飽和モデルで最も役立ちます)。
最後に定量的 (効果、ANOVA、回帰など)。
4. DOE データの定量的手法によるモデルの改良について: これを行うために使用する統計/プロットが多数あります。
- R-2 乗-R-2 乗調整デルタ (これは、どちらかの統計値単独よりも重要です)
- RMSE (小さいほど良い)
- p 値 (値の偏りに注意し、比較対象を考慮してください)
- 残差 (NID(平均、分散) の仮定をテストするため)
DOE では、段階的回帰はお勧めしません (これは、観測/履歴データのデータ マイニングまたは回帰に最も役立つ加算的なモデル構築アプローチであり、もちろん、共線性に関する追加の懸念があります)。 私は減算的なアプローチ (飽和状態から始めて項を削除する) をお勧めします。 ステップ 3 は素晴らしいですね!
Re: n = 8 の線形回帰で 6 つの項を持つことは許容されますか?ありがとう、 @スタットマン。 延々と続けるつもりはありませんが、お時間をいただきありがとうございました。 ただし、飽和モデルからのパラメーター選択をガイドするために、通常のプロットを使用してみました。 しかし、一度それを実行すると、通常のプロットとレンスの疑似 p 値の両方によれば、どのパラメーターも有意ではないことに気づきました (添付ファイルの左側)。 しかし、これらの (疑似または実際の) p 値を使用して有意でない項を一度に 1 つずつ削除し始めると、自分の状況をよく説明していると思われるモデルに到達しました。調整済み R^2 = 0.95、p = 0.0351 (添付ファイル）。 最良のモデルに到達するには、擬似/実 p 値と正規プロットの両方の組み合わせが必要であると結論付けるのは正しいでしょうか?
この一連の思考で、パラメーターを選択する最良の方法には、定量的アプローチ (p 値、adj.R^2) と定性的アプローチ (領域知識、正規プロット、残差) の両方が含まれることに同意しますか? つまり、次の組み合わせです。
1. 因子は正規/パレート図ではどのようになりますか?
2. 項の追加/削除により定量的な値が向上しますか? R^2、モデル全体の p 値)?
3. データの定性的側面は変わりますか (これらの変更後も残差は正規分布のままですか、またデータ自体は現実的に意味がありますか)?
その場合、最適なモデルは、最初に正規/パレート プロットを確認することによって導き出され、段階的/モデル選択によって微調整され、残差と実際のデータの目視検査によって検証されます。
ありがとう！
Re: n = 8 の線形回帰で 6 つの項を持つことは許容されますか?コミュニティへようこそ。 私の考えは次のとおりです。
MSE を推定するために 3 次効果 (3 因子交互作用) を使用しています。 おそらくこれが、すべての効果が重要である理由です。 データを確認するより良い方法は、正規プロットおよび半正規プロット (レベル設定の任意性による) とパレート プロットを使用することです。 「分析」>「モデルの適合」>「マクロを使用してモデル (7 つすべての DF) を飽和させる」>「完全階乗」 出力で、応答の横にある赤い三角形を選択し、「効果のスクリーニング」を選択します。 パレートプロットと正規プロットを確認します。 通常のプロットでは、MSE バイアスなしで効果を相互に比較します。 実際の重要性を表す値をパレート図に追加します。
有意な効果が見つかったら、重要でない項を削除し、近似モデルを再実行して残差プロットを取得できます。
Re: n = 8 の線形回帰で 6 つの項を持つことは許容されますか?返信ありがとう、サム。
複製されていない 2^3 要因実験の場合、すべての主効果と 2 因子交互作用をモデル化することが「理論的に可能」です。 しかし、この議論から、この機能は実際にはそれほど信頼できるものではないように思われます。 主効果と 2 因子交互作用のモデル化に必要な自由度に関して、何か「経験則」はありますか? たとえば、DoF = 2x モデル項数のようなものでしょうか?
Re: n = 8 の線形回帰で 6 つの項を持つことは許容されますか?@QW特に小さなデータセットの場合、モデルを過剰適合させないように注意する必要があるという点では正しいです。ただし、計画された実験では、2 つの因子の相互作用がすべて有意である、および/または重要である場合があります。実験の計画と実行が注意深く行われていれば、効果の大きさに比べて実験誤差が小さい可能性があります。
次の方法でデータを評価するのが最善です。
- データをプロットする:
- すべてのデータと因子のプロット (因子プロットまたは主効果プロットと呼ばれることもあります)。外れ値やその他の異常なデータを探します。
- データが科学的/理論的な観点から意味があるかどうかを自問してください
- モデルを近似し、残差 (各行の近似における誤差) をプロットします。
- プロファイラーを使用してモデルの予測効果を調査する
- 重大な効果が実際には実際には重要ではない可能性があり、その場合は、実際の予測に大きな違いを与えずにモデルからその効果を削除できます。
過剰適合についてさらに懸念がある場合は、ステップワイズ回帰モデルのフィッティングをデータにも適用してみることもできます。
