879413_zh-CN

liliconcom

仅在交互作用中以回归中的 IV 为中心

我在几处地方看到，JMP 在回归分析中会将涉及交互作用的 IV 置于中心，但不会将这些 IV 的简单效应版本置于中心？首先，这是真的吗？其次，如果是真的，这怎么会不违反回归的线性独立性要求呢？

例如，
Y = b0 + b1x1 + b2c2 + b3x1x2

如果由于 JMP 仅将交互作用集中于两者而将 x1x2 变成 x1'x2'，则当 x2 = 0 时，b1 不再是 x1 对 Y 的效应的估计值，因为交互作用项不再为 0。b2 也是如此。

鉴于这些问题，我怀疑自己误解了 JMP 的真正作用。有人能解释一下吗？

基础数据分析与建模回复：在 rrgression 中居中 IV

你好@Jimvano7 ，

欢迎加入社区！

中心多项式或交互效应将会改变截距值，并改变系数值。
在您的示例中，如果不居中，则截距为 b0。
如果已将 X1 和 X2 置于交互项的中心，则“新”截距对应于 b0 + 交互项中包含 X1 和 X2 的平均值以及系数 b'3 的部分。

请参阅“ 为什么 JMP® 默认将模型中的多项式居中？”。 JMP 中居中的原因：在模型中存在交互项或多项式项时，加入因子有助于降低多重共线性。多重共线性可能会使项系数更加复杂，估算精度更低（并可能导致统计显著性评估出现差异）。请参阅“逐步模型问题”中的实际示例。

以及之前讨论的中心多项式计算和抛物线截距的更多信息。

希望这能澄清情况，

回复：在 rrgression 中居中 IV

你好@Victor_G ，

感谢您的回复，抱歉表达不清楚。我不是在问为什么要对变量进行均值中心化。我经常这样做。

我有两个问题：

1) JMP 指的是参与交互作用的 IV 中心，而不是指这些 IV 的简单效应版本的中心吗？所以，以我的例子来说，X1 是简单效应，X1' 是交互作用中的 IV。
2) 如果它确实如我所读到的那样，那么当另一个变量为 0 时，b1 和 b2 的含义是什么，因为它们不再是 x1 对 Y 的影响和 x2 对 Y 的影响？

谢谢，

吉姆

回复：在 rrgression 中居中 IV

你好@Jimvano7 ，

没有什么比一个实际的例子更能说明 JMP 是如何工作的。
我准备了一个包含两个因素 X1 和 X2 的数据集、一个具有预定响应曲面方程 Y 的响应，以及两个用于居中 X1 和居中 X2 的计算列。

当使用原始变量和响应曲面模型启动模型拟合时，您可以看到 JMP 不会将原始变量置于中心，而是对涉及交互作用或多项式项的变量进行居中：

当启动具有中心变量和响应曲面模型的模型拟合时，您可以看到 Xi 和中心 Xi 之间的参数估计值相同，截距不同，但参数估计值与之前相同：

居中变量不会改变相应主效应估计值的系数（无论是否居中变量，“斜率”都是相同的），因此解释保持不变。

所以我认为这个用例和演示回答了你的两个问题（我不确定你是否理解你的第二个问题的问题）？

回复：在 rrgression 中居中 IV

你好@Victor_G ，

感谢您回答我的第一个问题并创建了示例。您的示例的问题在于，在包含 X1X2 时，您启用了 JMP 均值居中选项，因此 JMP 会进行均值居中。关闭该选项会得到截然不同的结果。以下是数据集中的数据。X1、X2 和 Y 均为连续变量。X1 的均值为 9.886，X2 的均值为 1.303。

版本 1.关闭 JMP 均值居中选项并获取原始 IV：

学期	估计	标准错误	t 比率	概率>|t|
截距	164.198	36.29445	4.52	0.0001*
X1	-50.64385	3.103592	-16.32	<.0001*
X2	-14.74154	8.796501	-1.68	0.1058
X1*X2	-6.260865	0.726168	-8.62	<.0001*

版本 2。打开 JMP 均值中心化选项，使用原始简单效应项和均值中心化交互作用项，我们得到

学期	估计	标准错误	t 比率	概率>|t|
截距	83.558404	35.53908	2.35	0.0266*
X1	-42.48702	2.977176	-14.27	<.0001*
X2	-76.63734	4.675518	-16.39	<.0001*
（X1-9.88614）*（X2+1.30283）	-6.260865	0.726168	-8.62	<.0001*

版本 3 。对所有变量手动进行均值中心化，并关闭 JMP 均值中心化功能。

学期	估计	标准错误	t 比率	概率>|t|
截距	-236.6291	19.63316	-12.05	<.0001*
居中 X1	-42.48702	2.977176	-14.27	<.0001*
居中 X2	-76.63734	4.675518	-16.39	<.0001*
居中 X1*居中 X2	-6.260865	0.726168	-8.62	<.0001*

如您所见，b0、b1 和 b2 在版本 1 和版本 2 之间均采用不同的值。

版本 1 ：由于该方程包含交互作用项，b1 (-50.644) 的含义以及为确定 b1 (H0 = 0) 显著性而进行的统计检验与 X1 对 Y 的影响（**当 X2=0 时**）相关。X1 不是主效应，而是一个简单效应——取决于 X2 为 0 的情况 (Jaccard & Turissi, 2003)。同样，b2 是 X1 = 0 时 X2 对 Y 的影响。

现在，当简单效应项中的 X2 为原始值，交互作用项中的 X2 为原始值时，数学运算就完美了。b1 是 X2 为 0 时 X1 对 Y 的影响。因此，b2X2 = 0 且交互作用 = 0。当 X2 = 0 时，我们得到 Y = 164.198 - 50.644X1。

版本 3 ：如果我们将简单效应项和交互作用项的中心 X1 表示为 X1'，将 X2 表示为 X2'，那么数学运算将再次完美地进行。b1 是当 X2' 为 0（当 X2 为 1.303 时）时 X1' 对 Y 的影响。因此，b2X2' = 0 且交互作用 = 0。当 X2' = 0 时（也就是当 X2 = 1.303 时），我们得到 Y = -236.629 + (-42.487)X1'。

版本 2 ：如果我们将 X1 和 X2 保留为简单效应项的原始值，并使用 X1' 和 X2' 将交互作用项居中，则当 X2 为 0 时，b1 不再是 X1 对 Y 的影响，因为在这种情况下我们剩下 Y = b0 + b1X1 + b3X1'X2' 或 Y = 83.558 + (-42.487)X1 + (-6.261)(-1.303)X1'。在这种情况下，斜率从50.644X1 变为 (-42.487)X1 + (8.158)X1' 。我的问题是：此版本中 b0、b1 和 b2 的解释是什么？

而且，由于 X1 完美地预测了 X1'，我们具有完美的多重共线性，那么为什么 JMP 能够在版本 2 中毫无错误地解析模型呢？

回复：在 rrgression 中居中 IV

你好@Jimvano7 ，

抱歉，我确实忘记在模型测试中关闭平均居中选项。
我仍然对您的一些言论感到困惑，例如：

而且，由于 X1 完美地预测了 X1'，我们具有完美的多重共线性，那么为什么 JMP 能够在版本 2 中毫无错误地解析模型呢？

X1 和 X'1 是模型中的变量，只需进行一些简单的变换即可从一个变量转换为另一个变量。X1 和 X1，或者 X'1 和 X'1 也会有同样的情况，所以我不明白你的意思？

这更多的是参数估计（b0、b1、b2......和b'0、b'1、b'2......）之间的相关性/共线性问题，这可能是一个问题。

重新启动测试，以下是估计相关性的一些结果：

左侧是未启用“多项式自动居中”的模型版本。您可以看到 X1/X1² 和 X2 效应的方差膨胀因子 (VIF) 较高。查看估计值的相关性，您会发现 X1 与 X1²、X2 与 X1*X2 参数估计值之间存在强相关性，并且这些主效应参数估计值的标准误差被夸大了。

右侧是带有多项式自动居中的模型版本。您可以看到所有效应的方差膨胀因子 (VIF) 都较低/可接受（< 2），即使某些效应估计值存在相关性，也能避免参数估计值之间（例如 X1 和 X1² 效应估计值之间）的微弱相关性。自动居中功能可避免共享相同原始变量的参数估计值膨胀（例如 X1 的主效应和多项式效应）。

我同意在这些情况下由于转换变量的翻译，解释可能会有所不同，因为您是根据与变量平均值的偏差来比较响应值，而不是基于与 0 的偏差。
您可能会发现一些很好的解释，说明为什么不建议对模型的 IV 进行均值中心化：：https: //stats.stackexchange.com/questions/65898/why-could-centering-independent-variables-change-the-main-effects-with-moderatio

总而言之，JMP 不会为了保持原始尺度和效应解释而对初始变量进行均值中心化，而是对多项式和交互作用进行均值中心化，以避免共线性，并提高其参数估计的精度。预测刻画器会自动使用原始变量来更好地理解变量效应（并且无论效应如何，变量“坐标”都保持不变）。

希望这对你有帮助，

回复：在 rrgression 中居中 IV

你好@Jimvano7 ：除了@Victor_G的非常好的观点之外，这个帖子可能还会有所帮助；

https://community.jmp.com/t5/Discussions/Intercept-of-a-parabola/mp/805020

回复：在 rrgression 中居中 IV

谢谢@Victor_G

我知道变量间的相关性会随着均值中心化而变化，也知道什么时候应该中心化或不中心化。我不清楚的是，当模型混合了原始变量和均值中心化变量时，上述 JMP 衍生模型（版本 2）中 b0、b1 和 b2 的解释。您的回复似乎没有回答我的问题。

在我关于版本 2 模型的讨论中，我询问了 b1 的含义。我指出，当尝试解释 b1 时，我们设 X2 = 0，则 Y = 83.558 + (-42.487)X1 + (8.158)X1'。在这种情况下，b1 (-42.487)并非X2=0 时 X1 对 Y 影响的斜率。相反，b1 似乎没有可解释的含义。同样的逻辑也适用于 X2。此外，（在您的数据集中）不存在 X1、X2 和 X1'X2' 都等于零的情况，因此当两个 IV 和两个 IV 的乘积等于 0 时，b0 并非 Y 的平均值。那么，这三个系数是什么意思呢？？？

回复：在 rrgression 中居中 IV

你好@Jimvano7 ：顺便说一下，我一直很感兴趣地关注着这个话题，以下是我的看法：

如您所见，均值中心模型中参数估计值的解释非常困难。“截距”实际上只是一个常数，用于确保最小二乘拟合，其系数也难以解释。此外，表格中许多相应的p值（均值中心化和非均值中心化）甚至没有检验相同的假设。

也就是说，所有预测都是相同的，如果你小心的话，你可以证明所有推论都是相同的（当测试相同的假设时，p 值等是相同的）。

但是，如果您感兴趣的是显示的输出，并且希望轻松解释该输出，那么就不要进行均值中心分析。

回复：在 rrgression 中居中 IV

@MRB3855

该模型的不同版本（版本 1-3）的假设并不相同，并且会做出不同的预测，正如我在之前的文章中使用 JMP 输出所展示的那样。版本 1 和版本 3 的假设对我来说很清晰，系数（参数估计值）的解释也都有意义。此外，由于 V1 和 V3 所回答的问题不同，预测结果也不同。但是，我不知道版本 2（JMP 版本，X1 和 X2 混合了原始变量和均值中心化变量）的假设是什么，因为据我所知，这些系数没有任何意义。

在版本 3 中，所有变量均以均值中心化，所有系数（包括截距）均有意义。b0 不仅仅是“一个确保最小二乘拟合的常数”。它是当 X1' 为 0（在 X1 的均值处）且 X2' 为 0（在 X2 的均值处）时 Y 的均值。

对我来说唯一没有意义的版本是 JMP 衍生的混合模型。

回复：在 rrgression 中居中 IV

你好@Jimvano7 ：所以，如果你分别根据版本 2 和 3 的输出完全展开方程，然后收集同类项并简化，你不会得到与版本 1 相同的方程吗？

而且这很容易做到，无需手动操作；只需将每个版本的预测 Y 值保存为数据表中的三个新列即可（通过输出中红色三角形菜单中的“保存列”）。如果这样做，预测的 Y 值会有所不同吗？

回复：在 rrgression 中居中 IV

@MRB3855 ,

我提供的三个表格分别展示了三个不同模型版本的三个公式。这三个公式各不相同。为了节省时间，我在这里再次复制了它们。

版本 1.关闭 JMP 均值居中选项并获取原始 IV：

学期	估计	标准错误	t 比率	概率>|t|
截距	164.198	36.29445	4.52	0.0001*
X1	-50.64385	3.103592	-16.32	<.0001*
X2	-14.74154	8.796501	-1.68	0.1058
X1*X2	-6.260865	0.726168	-8.62	<.0001*

版本 2。打开 JMP 均值中心化选项，使用原始简单效应项和均值中心化交互作用项，我们得到

学期	估计	标准错误	t 比率	概率>|t|
截距	83.558404	35.53908	2.35	0.0266*
X1	-42.48702	2.977176	-14.27	<.0001*
X2	-76.63734	4.675518	-16.39	<.0001*
（X1-9.88614）*（X2+1.30283）	-6.260865	0.726168	-8.62	<.0001*

版本 3 。对所有变量手动进行均值中心化，并关闭 JMP 均值中心化功能。

学期	估计	标准错误	t 比率	概率>|t|
截距	-236.6291	19.63316	-12.05	<.0001*
居中 X1	-42.48702	2.977176	-14.27	<.0001*
居中 X2	-76.63734	4.675518	-16.39	<.0001*
居中 X1*居中 X2	-6.260865	0.726168	-8.62	<.0001*

回复：在 rrgression 中居中 IV

@MRB3855

抱歉，我意识到你也让我把问题简化一下。我在之前的帖子里也做过类似的。总结一下，版本 1 和 2 中 X2=0，版本 3 中 X2'=0。

版本 1： Y = 164.198 - 50.644 * X1

版本 2： Y = 83.558 - 42.487 * X1 + 8.158 * X1'

版本 3： Y = -236.629 - 42.487 * X1'

回复：在 rrgression 中居中 IV

你好@Jimvano7 。你的算法不完整，也不正确。你需要在版本 2 中展开 8.158 * X1' 。

（其中 X1' = X1-9.88614）并且您将看到版本 2 中的方程与版本 1 中的方程完全匹配。

如果你假设 X2 = 0，那么在版本 3 中 X2' = 0 是不正确的。当 X2 = 0 时，X2' = 0 + 1.30283 = 1.30283。而且，正如我在上文中所述，你也必须小心处理 X1'。

仔细地将所有内容相乘，版本 2 和 3 中的方程式与版本 1 中的方程式完全匹配……我保证（我只是在 Excel 中完成了）。

回复：在 rrgression 中居中 IV

@MRB3855

我的回复好像因为某种原因丢失了——已经达到最大洪水限制了？？？。再试一次……

谢谢你注意到我漏掉了 X2 平均值的负号！而且，版本 3 中我说的是 X2' = 0，而不是 X2=0。版本 3 本来就是正确的。我复制了公式，并更正了版本 2 中的符号（8.158 变成了 -8.158）。

总而言之，当版本 1 和 2 的 X2=0，以及版本 3 的 X2'=0 时，我们得到：

版本 1： Y = 164.198 - 50.644 * X1

版本 2： Y = 83.558 - 42.487 * X1 - 8.158 * X1'

版本 3： Y = -236.629 - 42.487 * X1'

我完全同意当 X1=0 和 X2=0 时，所有三个公式都会产生相同的 Y 值。

但这不是我的问题。

我的问题是：

版本 2 中的 b0、b1 和 b2 是什么意思？

• 如果版本 2 中的 b1 (-42.487) 应为 X2 = 0 时 X1 对 Y 的影响，那么 b1 应该与版本 1 中的 b1 相同，为 -50.644。要使版本 2 中的 b1 与版本 1 中的 b1 匹配，唯一的方法是添加 b3X1'。因此，b1 不可能是 X2 = 0 时 X1 对 Y 的影响。b2 也是如此。
• 如果版本 2 中的 b1 (-42.487) 应为 X2' = 0 时 X1' 对 Y 的影响，那么 b0（截距）应为版本 3 中的 -236.629。要使版本 2 中的 b0 与版本 3 中的 b0 匹配，唯一的方法是添加 b3X1'。因此，当 X1' = 0 且 X2' = 0 或 X1 = 0 且 X2 = 0 时，b0 不能是 Y 的平均值。

因此，在我看来，b0、b1 和 b2 没有意义。我忽略了什么吗？

谢谢，

吉姆

回复：在 rrgression 中居中 IV

感谢@MRB3855和@Victor_G的评论和帮助！我在这个过程中学到了一些有趣的东西。这是根据原帖编辑的。

总结一下我最初的问题：

在启用“均值中心多项式”的情况下创建的 JMP 混合模型中，只有交互中的变量是均值中心的（版本 2），b0（截距）、b1 和 b2 的含义是什么？

版本 2 为：Y = b0 + b1X1 + b2X2 +b3X1'X2'，其中 X1' 是连续 X1 的均值中心化版本，X2' 是连续 X2 的均值中心化版本。此外，我假设 X1<>X1' 且 X2<>X2'。

这是我迄今为止的答案，如果我的结论是错误的，我很乐意听取任何人的意见。

b0：标记为“截距”的 JMP 输出实际上并不是截距，许多来源将其定义为当 X1 和 X2 等于 0 时 Y 的值（不是 Y 的平均值！）（例如，Montgomery、Peck & Vining，2001）。

当 X1=0 且 X2=0 时，输出中的截距系数并非截距，因为必须将 b0 + b3(X1 的负均值)(X2 的负均值) 相加才能得到真实截距。在版本 1 和版本 3 下，截距都是真实截距。我找不到版本 2 JMP 输出中的“截距”系数是实际截距的情况。有这种情况吗？

b1：JMP 输出中标记为 X1 的系数表示当 X2=mean(X2) 时 X1 对 Y 的影响，而不是像版本 1 和 3 中那样当 X2=0 时的影响。Jaccard & Turrisi (2003) 将其定义为当 X2=0 时的影响。“截距”是 b0 + b2X2 之和。

b2：JMP 输出中标记为 X2 的系数是当 X1 = mean(X1) 时 X2 对 Y 的影响的度量，而不是像版本 1 和 3 中那样当 X1 = 0 时。 “截距”是 b0 + b1X1 之和。

回复：在 rrgression 中居中 IV

你好@Jimvano7 。我无法代表 JMP 回答你的根本问题。但是……你可以选择“均值中心”（版本 2）或不选择（版本 1）。

回复：仅在交互中以回归中的 IV 为中心

嗨@Jimvano7 ，以及大家好，

我回答这个问题有点晚了，所以请原谅我没有回复所有的问题（或者忽略了一些细微差别），但我想分享一下我大约10年前在社区里就同一主题给出的一个答案（和视频）。我在视频中用预测分析器做了一个小演示，我认为这有助于解释一些估算。

https://community.jmp.com/t5/Discussions/estimates-in-multipule-regression/mp/10965/highlight/true#M10565

以下是该视频的直接链接：

https://www.youtube.com/watch?v=LLh1V9MtKvs

我希望这有帮助！

@朱利安

回复：仅在交互中以回归中的 IV 为中心

@朱利安

谢谢Julian。非常有帮助。

如果截距并非真正的截距，那么它的意义何在？我研究过的所有案例中，都必须在“截距”系数上添加其他值才能得到实际截距。

谢谢，

@Jimvano7

回复：仅在交互中以回归中的 IV 为中心

当其他系数不贡献任何值（即设为 0）时，截距总是直线（或回归平面，在包含多个项的模型中）在 Y 轴上位置的某种变体。当我们仅将交互作用项置于中心时，主效应的“无”含义发生了变化。虽然不是数值上的，我们仍然讨论每个预测变量的 0，但这个 0 在总体中指向的位置发生了变化，因为对交互作用进行均值中心化会将零交互作用效应移至总体的平均行为，而不是预测变量的字面原点 (0,0)。

简而言之，在这样的模型中，截距更像是协方差分析中的一个估计值，一个基于从统计上消除交互作用平均效应而得到的调整估计值。我认为这种解释在概念上没有特别的帮助，所以如果你们允许的话，我将用之前用过的例子来解释一下。

我总是觉得直观地看这些内容很有帮助。这是我之前用过的例子，让我们看看中心多项式模型（左）和非中心模型（右）的回归平面（它们是一样的）。我在 50 处为这两个模型添加了一个响应网格（这是中心模型的截距）。我还用蓝点来显示模型截距的位置。

从右边开始，截距的解释非常简单。它是响应平面与 X1 和 X2 均相交于 0 时的 Y 值。也就是说，学习时间和先前知识都为 0。很简单。（后面很重要：我们这里甚至没有考虑交互项，因为在这种模型中，当 X1=0 和 X2=0 时，我们知道交互项不会增加任何值，因为 b3 系数乘以了 0）

对于左侧居中的模型，模型截距 50 远高于两个 X 均为 0 时的值。但为什么考试分数会增加大约 20 分呢？

50 分表示我们拥有大约 40 分的先前知识和 0 小时的学习时间；或者，我们拥有 0 分的先前知识和 4 小时的学习时间。在这里，我切换了数值网格，以便您可以看到它们与我之前放置的蓝点对齐：

那么，这到底是怎么回事？！我们知道这些不是先前知识和学习时间的平均值，所以这不像保持一个变量不变，另一个变量保持其平均值那么简单。你可能会注意到：这些点在响应平面上与“真实”（X1=0，X2=0）截距的距离是对称的。而我们模型中，唯一一个在X1和X2因子之间对Y施加对称影响（以缩放方式）的项是交互项b3。

我们尚未考虑将*交互作用*项 B3 设置为 0。在此类模型中，这个零点的位置与 X1 和 X2 为 0 的位置不同（因为中心化）；它位于 X1 和 X2 的均值处，因此我们讨论的是*平均*交互作用。这里的截距 50 反映了一种调整后的基线：如果总体中不存在交互作用，那么这就是我们在（X1 = 0 或 X2 = 0）时得到的值。从概念上讲，这是一个根据交互作用的存在进行调整的截距估计值。

对我来说，这个术语比任何典型的截距都更难进行概念性解释，但在这种情况下，我会这样表述：由于交互项的系数为负，我们知道这些因素是相互拮抗的（其中一个因素越大，响应 Y 与另一个因素之间的关系强度就越弱）。也就是说，人们提前知道的越多，他们从学习中获得的价值平均就越少。或者说，人们学习得越多，他们从已知知识中获得的价值平均就越少。该模型中的截距试图告诉我们，*如果不是这样*，考试成绩会是什么样的。如果这种相互作用不是我们衡量的世界状态，那么学习时间为 0 小时的人会从他们以前的知识中获得更多价值，因此他们在考试中会做得更好，截距从 30 上升到 50。如果这种相互作用不是我们衡量的世界状态，那么之前知识为 0 的人会从他们的学习中获得更多价值，因此截距也会从 30 上升到 50。与 ANCOVA 一样，这是一个统计上的“仿佛”思想实验。

我希望这有帮助！

朱尔斯