n = 8 的线性回归中有 6 项可以接受吗？我目前正在分析具有 2 个水平和 3 个因子的完整析因实验，未重复，n = 8。 根据 JMP 指南，此处正确的方法是使用阶乘对模型进行 2 次拟合，假设高阶交互作用不显着，然后使用向后选择将模型减少到其重要因子。
2x2x2 全因子分析的 JMP 指南： https://community.jmp.com/t5/Learning-Center/Analyzing-Full-Factorial-Experiments/ta-p/271995
我的问题是 - 假设数据显示事实上所有主效应和所有双向交互作用都是显着的。 这样我就得到了一个包含 6 个项的模型，描述了一个只有 8 个观察值的数据集。 此时，由于项数较多，我的 r^2 非常高，并且所有 6 个因子的 p < 0.05。 从分析的角度来看，这是否被认为是过度拟合，这是否被认为不是最佳实践？
如果是这样，查看此数据的更好方法是否是仅查看主要效果（即查看每个参数的“平均”效果而不是深入细节）？
谢谢。
质量和工艺工程回复：n = 8 的线性回归中有 6 项可以接受吗？谢谢， @statman 。这一切都非常有帮助。 我最终查看了数据，并意识到在设计的实验中，如果我以图形方式查看数据，我会得出与模型告诉我的相同结论。相互作用以及哪些因素是重要的。 因此，我称之为好。
回复：n = 8 的线性回归中有 6 项可以接受吗？QW，这是我的想法：
1. 之所以在去掉不显着的项后发现显着的因子，是因为你对MSE有偏差。 当您删除无关紧要的项（可能具有较小的 SS）时，您还可以获取每个项的 DF。 由于 MSE 是 SS/DF，因此您可以降低 MSE（可能不切实际）。 F 值是 MS 因子/MS 误差。 因此，如果不切实际地降低 MSE，则会夸大 F 值并随后降低 p 值。 我的建议是始终考虑您正在比较的变异来源。
2. 正态/半正态图（丹尼尔图）不一定是直接解释的。 Russel 的 PSE 试图帮助解释图表，但 PSE 并不总是有用。 您必须考虑哪些效应是随机误差的函数（应该是一条相对直线）以及哪些效应是可分配的。 落在误差的随机分布之外。 如果您的正态图具有 S 曲线形状或被破坏，则表明存在显着的噪声影响（可能存在多个随机误差分布）。 从你的图片来看，正常图顶部的灰色 + 看起来很重要（我的猜测是这是 Column2(x)）。 将帕累托图与正常图结合起来确实很有帮助。 评估统计信号和实际意义。
3. 我认为你在如何建立你的知识（也许还有数学模型）方面有了一个良好的开端。 我使用实用>图形>定量方法：
首先，您在实验中创建的数据有多少变化？ 这些数据有任何实用价值吗（从中小企业的角度来看）？ 数据与您的预测相比如何？ 它与您用于确定研究中包含哪些因素的假设相比如何？ ANOG 和 MR 图非常适合识别将因子效应与响应变量相关的模式。 永远不要关闭工程。
其次，绘制数据图表。 JMP 的图形生成器非常有用。 是否有任何异常数据点（处理）？ 这也是正态图和帕累托图有用的地方（尽管它们对于饱和模型最有用）。
最后是定量的（效应、方差分析、回归等）。
4. 关于使用 DOE 数据的定量方法进行模型细化：我们使用许多统计数据/图表来执行此操作：
- R-square-R-square 调整后的增量（这比任何一个统计数据本身都更重要）
- RMSE（越小越好）
- p 值（注意有偏差的值，考虑比较的内容）
- 残差（测试 NID（均值、方差）假设
在 DOE 中，我不建议逐步回归（这是一种加法模型构建方法，对于数据挖掘或观察/历史数据回归最有用，当然您还需要担心共线性）。 我建议采用减法（开始饱和并删除项）。 你的第 3 步听起来很棒！
回复：n = 8 的线性回归中有 6 项可以接受吗？谢谢， @statman 。 我不想继续说下去，感谢您抽出时间。 但是，我尝试使用正态图来指导饱和模型中的参数选择。 然而，一旦我这样做了，我注意到根据正态图和 Lenth 的伪 p 值，我的参数都不显着（附件的左侧）。 但是，一旦我开始使用这些（伪或真实）p 值一次删除一个不重要的项，我就得到了一个似乎很好地描述了我的情况的模型：调整后的 R^2 = 0.95，p = 0.0351（依恋）。 需要结合伪/实 p 值和正态图才能得出最佳模型，这样的结论是否正确？
按照这个思路，您是否同意选择参数的最佳方法涉及定量（p 值、adj.R^2）和定性方法（领域知识、正态图、残差）？ 换句话说，它是以下内容的组合：
1. 我的因子在正态/帕累托图上看起来是什么样的？
2. 添加/删除项是否会提高定量值（adj. R^2，整个模型的 p 值）？
3. 它是否改变了数据的定性方面（这些变化后残差是否仍保持正态分布，数据本身是否有意义）？
在这种情况下，最佳模型将首先通过查看正态/帕累托图来指导，通过逐步/模型选择进行微调，并通过残差和实际数据的目视检查进行验证。
谢谢你！
回复：n = 8 的线性回归中有 6 项可以接受吗？欢迎来到社区。 这是我的想法：
您正在使用三阶效应（三因子交互作用）来估计 MSE。 这可能就是为什么所有影响都很显着的原因。 查看数据的更好方法是使用正态图和半正态图（取决于水平设置的任意程度）和帕累托图。 分析>拟合模型>使用宏>全阶乘使模型饱和（所有 7 个 DF） 在输出中，选择响应旁边的红色三角形，然后选择效果筛选。 检查帕累托图和正态图。 正态图将在没有 MSE 偏差的情况下相互比较效果。 向帕累托图添加代表实际意义的值。
一旦发现显着的影响，您可以删除不显着的项并重新运行拟合模型以获得残差图。
回复：n = 8 的线性回归中有 6 项可以接受吗？感谢您的回复，萨姆。
对于未重复的 2^3 因子实验，它“理论上能够”对所有主效应和 2 因子相互作用进行建模。 但从这个讨论来看，这种能力在实践中似乎并不那么可靠。 当谈到您想要多少自由度来建模主效应和两因素相互作用时，是否有任何“经验法则”？ 例如，DoF = 2x 模型项数吗？
回复：n = 8 的线性回归中有 6 项可以接受吗？@QW您是正确的，您应该小心不要过度拟合模型，尤其是对于小数据集。但是，对于设计的实验来说，所有两个因素的相互作用可能都是显着和/或重要的。如果实验的计划和执行很仔细，那么实验误差相对于效应大小可能很小。
最好通过以下方式评估数据：
- 绘制数据：
- 所有数据与因子的图（有时称为因子图或主效应图）。寻找异常值或其他异常数据。
- 问问自己，从科学/理论的角度来看，数据是否有意义
- 拟合模型，并绘制残差（每行的拟合误差）。
- 使用 Profiler 探索模型的预测效果
- 显着影响可能实际上并不重要，如果是这样，您可以将其从模型中删除，而与实际预测没有太大差异。
如果您对过度拟合还有其他担忧，您也可以尝试对数据应用逐步回归模型拟合，
