879413_zh-TW

liliconcom

僅在交互作用中以迴歸中的 IV 為中心

我在幾個地方看到，JMP 在迴歸分析中會將涉及交互作用的 IV 置於中心，但不會將這些 IV 的簡單效應版本置於中心？首先，這是真的嗎？其次，如果是真的，這怎麼會不違反迴歸的線性獨立性要求呢？

例如，
Y = b0 + b1x1 + b2c2 + b3x1x2

如果由於 JMP 僅將交互作用集中於兩者而將 x1x2 變成 x1'x2'，則當 x2 = 0 時，b1 不再是 x1 對 Y 的效應的估計值，因為交互作用項不再為 0。 b2 也是如此。

鑑於這些問題，我懷疑自己誤解了 JMP 的真正作用。有人能解釋一下嗎？

基礎資料分析與建模回覆：在 rrgression 中居中 IV

你好@Jimvano7 ，

歡迎加入社群！

中心多項式或交互效應將會改變截距值，並改變係數值。
在您的範例中，如果不居中，則截距為 b0。
如果已將 X1 和 X2 置於交互項的中心，則「新」截距對應於 b0 + 交互項中包含 X1 和 X2 的平均值以及係數 b'3 的部分。

請參閱「 為什麼 JMP® 預設會將模型中的多項式置中？」。 JMP 中居中的原因：在模型中存在交互項或多項式項時，加入因子有助於減少多重共線性。多重共線性可能會使項係數更加複雜，估算精度更低（並可能導致統計顯著性評估出現差異）。請參閱「逐步模型問題」中的實際範例。

以及之前討論的中心多項式計算和拋物線截距的更多資訊。

希望這能澄清情況，

回覆：在 rrgression 中居中 IV

你好@Victor_G ，

感謝您的回复，抱歉表達不清楚。我不是問為什麼要對變數進行均值中心化。我經常這樣做。

我有兩個問題：

1) JMP 指的是參與交互作用的中心 IV，*不*是指這些 IV 的簡單效應版本的中心嗎？所以，以我的例子來說，X1 是簡單效應，X1' 是交互作用中的。
2) 如果它確實如我所讀到的那樣，那麼當另一個變數為 0 時，b1 和 b2 的含義是什麼，因為它們不再是 x1 對 Y 的影響和 x2 對 Y 的影響？

謝謝，

吉姆

回覆：在 rrgression 中居中 IV

你好@Jimvano7 ，

沒有什麼比一個實際的例子更能說明 JMP 是如何運作的。
我準備了一個包含兩個因素 X1 和 X2 的資料集、一個具有預定響應曲面方程式 Y 的響應，以及兩個用於居中 X1 和居中 X2 的計算列。

當使用原始變數和響應曲面模型啟動模型擬合時，您可以看到 JMP 不會將原始變數置於中心，而是將涉及交互作用或多項式項的變數置中：

當啟動具有中心變數和響應曲面模型的模型擬合時，您可以看到 Xi 和中心 Xi 之間的參數估計值相同，截距不同，但參數估計值與之前相同：

居中變數不會改變對應主效應估計值的係數（無論是否居中變量，「斜率」都是相同的），因此解釋保持不變。

所以我認為這個用例和演示回答了你的兩個問題（我不確定你是否理解你的第二個問題的問題）？

回覆：在 rrgression 中居中 IV

你好@Victor_G ，

感謝您回答我的第一個問題並創建了範例。您的範例的問題在於，在包含 X1X2 時，您啟用了 JMP 均值居中選項，因此 JMP 會進行均值居中。關閉該選項會得到截然不同的結果。以下是資料集中的資料。 X1、X2 和 Y 均為連續變數。 X1 的平均值為 9.886，X2 的平均值為 1.303。

版本 1.關閉 JMP 均值居中選項並取得原始 IV：

學期	估計	標準錯誤	t 比率	機率>|t|
截距	164.198	36.29445	4.52	0.0001*
X1	-50.64385	3.103592	-16.32	<.0001*
X2	-14.74154	8.796501	-1.68	0.1058
X1*X2	-6.260865	0.726168	-8.62	<.0001*

版本 2。開啟 JMP 均值中心化選項，使用原始簡單效應項和均值中心化交互作用項，我們得到

學期	估計	標準錯誤	t 比率	機率>|t|
截距	83.558404	35.53908	2.35	0.0266*
X1	-42.48702	2.977176	-14.27	<.0001*
X2	-76.63734	4.675518	-16.39	<.0001*
（X1-9.88614）*（X2+1.30283）	-6.260865	0.726168	-8.62	<.0001*

版本 3 。將所有變數手動進行均值中心化，並關閉 JMP 均值中心化功能。

學期	估計	標準錯誤	t 比率	機率>|t|
截距	-236.6291	19.63316	-12.05	<.0001*
居中 X1	-42.48702	2.977176	-14.27	<.0001*
居中 X2	-76.63734	4.675518	-16.39	<.0001*
居中 X1*居中 X2	-6.260865	0.726168	-8.62	<.0001*

如您所見，b0、b1 和 b2 在版本 1 和版本 2 之間均採用不同的值。

版本 1 ：由於方程式包含交互作用項，b1 (-50.644) 的意義以及為確定 b1 (H0 = 0) 顯著性而進行的統計檢定與 X1 對 Y 的影響（**當 X2=0 時**）相關。 X1 不是主效應，而是一個簡單效應－取決於 X2 為 0 的情況 (Jaccard & Turissi, 2003)。同樣，b2 是 X1 = 0 時 X2 對 Y 的影響。

現在，當簡單效應項中的 X2 為原始值，交互作用項中的 X2 為原始值時，數學運算就完美了。 b1 是 X2 為 0 時 X1 對 Y 的影響。因此，b2X2 = 0 且交互作用 = 0。當 X2 = 0 時，我們得到 Y = 164.198 - 50.644X1。

版本 3 ：如果我們將簡單效應項和交互作用項的中心 X1 表示為 X1'，將 X2 表示為 X2'，那麼數學運算將再次完美地進行。 b1 是當 X2' 為 0（當 X2 為 1.303 時）時 X1' 對 Y 的影響。因此，b2X2' = 0 且交互作用 = 0。當 X2' = 0 時（也就是當 X2 = 1.303 時），我們得到 Y = -236.629 + (-42.487)X1'。

版本 2 ：如果我們將 X1 和 X2 保留為簡單效應項的原始值，並使用 X1' 和 X2' 將交互作用項居中，則當 X2 為 0 時，b1 不再是 X1 對 Y 的影響，因為在這種情況下我們剩下 Y = b0 + b1X1 + b3X1'X2' (-6.261)(-1.303)X1'。在這種情況下，斜率從50.644X1 變為 (-42.487)X1 + (8.158)X1' 。我的問題是：此版本中 b0、b1 和 b2 的解釋是什麼？

而且，由於 X1 完美地預測了 X1'，我們具有完美的多重共線性，那麼為什麼 JMP 能夠在版本 2 中毫無錯誤地解析模型呢？

回覆：在 rrgression 中居中 IV

你好@Jimvano7 ，

抱歉，我確實忘記在模型測試中關閉平均居中選項。
我仍然對您的一些言論感到困惑，例如：

而且，由於 X1 完美地預測了 X1'，我們具有完美的多重共線性，那麼為什麼 JMP 能夠在版本 2 中毫無錯誤地解析模型呢？

X1 和 X'1 是模型中的變量，只需進行一些簡單的變換即可從一個變數轉換為另一個變數。 X1 和 X1，或 X'1 和 X'1 也會有同樣的情況，所以我不懂你的意思？

這更多的是參數估計（b0、b1、b2......和b'0、b'1、b'2......）之間的相關性/共線性問題，這可能是一個問題。

重新啟動測試，以下是估計相關性的一些結果：

左側是未啟用「多項式自動居中」的模型版本。您可以看到 X1/X1² 和 X2 效應的變異數膨脹因子 (VIF) 較高。查看估計值的相關性，您會發現 X1 與 X1²、X2 與 X1*X2 參數估計值之間存在強相關性，並且這些主效應參數估計值的標準誤差被誇大了。

右側是具有多項式自動居中的模型版本。您可以看到所有效應的變異數膨脹因子 (VIF) 都較低/可接受（< 2），即使某些效應估計值存在相關性，也能避免參數估計值之間（例如 X1 和 X1² 效應估計值之間）的微弱相關性。自動居中功能可避免共享相同原始變數的參數估計值膨脹（例如 X1 的主效應和多項式效應）。

我同意在這些情況下由於轉換變數的翻譯，解釋可能會有所不同，因為您是根據與變數平均值的偏差來比較反應值，而不是基於與 0 的偏差。
您可能會發現一些很好的解釋，說明為什麼不建議對模型的 IV 進行均值中心化：：https: //stats.stackexchange.com/questions/65898/why-could-centering-independent-variables-change-the-main-effects-with-moderatio

總而言之，JMP 不會為了保持原始尺度和效應解釋而對初始變數進行均值中心化，而是對多項式和交互作用進行均值中心化，以避免共線性，並提高其參數估計的精度。預測刻畫器會自動使用原始變數來更好地理解變數效應（並且無論效應如何，變數“坐標”都保持不變）。

希望這對你有幫助，

回覆：在 rrgression 中居中 IV

你好@Jimvano7 ：除了@Victor_G的非常好的觀點之外，這個帖子可能還會有所幫助；

https://community.jmp.com/t5/Discussions/Intercept-of-a-parabola/mp/805020

回覆：在 rrgression 中居中 IV

謝謝@Victor_G

我知道變數間的相關性會隨著平均值中心化而變化，也知道什麼時候應該中心化或不中心化。我不清楚的是，當模型混合了原始變數和均值中心化變數時，上述 JMP 衍生模型（版本 2）中 b0、b1 和 b2 的解釋。您的回覆似乎沒有回答我的問題。

在我關於版本 2 模型的討論中，我詢問了 b1 的意思。我指出，當嘗試解釋 b1 時，我們設 X2 = 0，則 Y = 83.558 + (-42.487)X1 + (8.158)X1'。在這種情況下，b1 (-42.487)並非X2=0 時 X1 對 Y 影響的斜率。相反，b1 似乎沒有可解釋的含義。同樣的邏輯也適用於 X2。此外，（在您的資料集中）不存在 X1、X2 和 X1'X2' 都等於零的情況，因此當兩個 IV 和兩個 IV 的乘積等於 0 時，b0 並非 Y 的平均值。那麼，這三個係數是什麼意思呢？ ？ ？

回覆：在 rrgression 中居中 IV

你好@Jimvano7 ：順便說一下，我一直很有興趣地關注著這個主題，以下是我的看法：

如您所見，均值中心模型中參數估計值的解釋非常困難。 「截距」其實只是一個常數，用來確保最小平方法擬合，其係數也難以解釋。此外，表格中許多對應的p值（平均值中心化和非平均值中心化）甚至沒有檢定相同的假設。

也就是說，所有預測都是相同的，如果你小心的話，你可以證明所有推論都是相同的（當測試相同的假設時，p 值等是相同的）。

但是，如果您感興趣的是顯示的輸出，並且希望輕鬆解釋該輸出，那麼就不要進行均值中心分析。

回覆：在 rrgression 中居中 IV

@MRB3855

模型的不同版本（版本 1-3）的假設並不相同，並且會做出不同的預測，正如我在先前的文章中使用 JMP 輸出所顯示的那樣。版本 1 和版本 3 的假設對我來說很清晰，係數（參數估計值）的解釋也都有意義。此外，由於 V1 和 V3 所回答的問題不同，預測結果也不同。但是，我不知道版本 2（JMP 版本，X1 和 X2 混合了原始變數和平均值中心化變數）的假設是什麼，因為據我所知，這些係數沒有任何意義。

在版本 3 中，所有變數均以平均值中心化，所有係數（包括截距）均有意義。 b0 不只是「一個確保最小平方法擬合的常數」。它是當 X1' 為 0（在 X1 的均值處）且 X2' 為 0（在 X2 的均值處）時 Y 的均值。

對我來說唯一沒有意義的版本是 JMP 衍生的混合模型。

回覆：在 rrgression 中居中 IV

你好@Jimvano7 ：所以，如果你分別根據版本 2 和 3 的輸出完全展開方程，然後收集同類項並簡化，你不會得到與版本 1 相同的方程嗎？

而且這很容易做到，無需手動操作；只需將每個版本的預測 Y 值儲存為資料表中的三個新欄位即可（透過輸出中紅色三角形選單中的「儲存列」）。如果這樣做，預測的 Y 值會有所不同嗎？

回覆：在 rrgression 中居中 IV

@MRB3855 ,

我提供的三個表格分別展示了三個不同模型版本的三個公式。這三個公式各不相同。為了節省時間，我在這裡再次複製了它們。

版本 1.關閉 JMP 均值居中選項並取得原始 IV：

學期	估計	標準錯誤	t 比率	機率>|t|
截距	164.198	36.29445	4.52	0.0001*
X1	-50.64385	3.103592	-16.32	<.0001*
X2	-14.74154	8.796501	-1.68	0.1058
X1*X2	-6.260865	0.726168	-8.62	<.0001*

版本 2。開啟 JMP 均值中心化選項，使用原始簡單效應項和均值中心化交互作用項，我們得到

學期	估計	標準錯誤	t 比率	機率>|t|
截距	83.558404	35.53908	2.35	0.0266*
X1	-42.48702	2.977176	-14.27	<.0001*
X2	-76.63734	4.675518	-16.39	<.0001*
（X1-9.88614）*（X2+1.30283）	-6.260865	0.726168	-8.62	<.0001*

版本 3 。將所有變數手動進行均值中心化，並關閉 JMP 均值中心化功能。

學期	估計	標準錯誤	t 比率	機率>|t|
截距	-236.6291	19.63316	-12.05	<.0001*
居中 X1	-42.48702	2.977176	-14.27	<.0001*
居中 X2	-76.63734	4.675518	-16.39	<.0001*
居中 X1*居中 X2	-6.260865	0.726168	-8.62	<.0001*

回覆：在 rrgression 中居中 IV

@MRB3855

抱歉，我意識到你也讓我把問題簡化一下。我在之前的貼文裡也做過類似的。總結一下，版本 1 和 2 中 X2=0，版本 3 中 X2'=0。

版本 1： Y = 164.198 - 50.644 * X1

版本 2： Y = 83.558 - 42.487 * X1 + 8.158 * X1'

版本 3： Y = -236.629 - 42.487 * X1'

回覆：在 rrgression 中居中 IV

你好@Jimvano7 。你的演算法不完整，也不正確。你需要在版本 2 展開 8.158 * X1' 。

（其中 X1' = X1-9.88614）並且您將看到版本 2 中的方程式與版本 1 中的方程式完全匹配。

如果你假設 X2 = 0，那麼在版本 3 中 X2' = 0 是不正確的。當 X2 = 0 時，X2' = 0 + 1.30283 = 1.30283。而且，正如我在上文所述，你也必須小心處理 X1'。

仔細地將所有內容相乘，版本 2 和 3 中的方程式與版本 1 中的方程式完全匹配……我保證（我只是在 Excel 中完成了）。

回覆：在 rrgression 中居中 IV

@MRB3855

我的回覆好像因為某些原因失去了──已經達到最大洪水限制了？ ？ ？ 。再試一次…

謝謝你注意到我漏掉了 X2 平均值的負號！而且，版本 3 中我說的是 X2' = 0，而不是 X2=0。版本 3 本來就是正確的。我複製了公式，並更正了版本 2 中的符號（8.158 變成了 -8.158）。

總而言之，當版本 1 和 2 的 X2=0，以及版本 3 的 X2'=0 時，我們得到：

版本 1： Y = 164.198 - 50.644 * X1

版本 2： Y = 83.558 - 42.487 * X1 - 8.158 * X1'

版本 3： Y = -236.629 - 42.487 * X1'

我完全同意當 X1=0 和 X2=0 時，所有三個公式都會產生相同的 Y 值。

但這不是我的問題。

我的問題是：

版本 2 中的 b0、b1 和 b2 是什麼意思？

• 如果版本 2 中的 b1 (-42.487) 應為 X2 = 0 時 X1 對 Y 的影響，那麼 b1 應該與版本 1 中的 b1 相同，為 -50.644。要使版本 2 中的 b1 與版本 1 中的 b1 匹配，唯一的方法是添加 b3X1'。因此，b1 不可能是 X2 = 0 時 X1 對 Y 的影響。 b2 也是如此。
• 如果版本 2 中的 b1 (-42.487) 應為 X2' = 0 時 X1' 對 Y 的影響，那麼 b0（截距）應為版本 3 中的 -236.629。要使版本 2 中的 b0 與版本 3 中的 b0 匹配，唯一的方法是添加 b3X1'。因此，當 X1' = 0 且 X2' = 0 或 X1 = 0 且 X2 = 0 時，b0 不能是 Y 的平均值。

因此，在我看來，b0、b1 和 b2 沒有意義。我忽略了什麼嗎？

謝謝，

吉姆

回覆：在 rrgression 中居中 IV

感謝@MRB3855和@Victor_G的評論和幫助！我在這個過程中學到了一些有趣的東西。這是根據原帖編輯的。

總結一下我最初的問題：

在啟用「平均值中心多項式」的情況下所建立的 JMP 混合模型中，只有交互作用中的變數是平均值中心的（版本 2），b0（截距）、b1 和 b2 的意思是什麼？

版本 2 為：Y = b0 + b1X1 + b2X2 +b3X1'X2'，其中 X1' 是連續 X1 的均值中心化版本，X2' 是連續 X2 的均值中心化版本。此外，我假設 X1<>X1' 且 X2<>X2'。

這是我迄今為止的答案，如果我的結論是錯誤的，我很樂意聽取任何人的意見。

b0：標記為「截距」的 JMP 輸出實際上並不是截距，許多來源將其定義為當 X1 和 X2 等於 0 時 Y 的值（不是 Y 的平均值！）（例如，Montgomery、Peck & Vining，2001）。

當 X1=0 且 X2=0 時，輸出中的截距係數並非截距，因為必須將 b0 + b3(X1 的負均值)(X2 的負均值) 相加才能得到真實截距。在版本 1 和版本 3 下，截距都是真實截距。我找不到版本 2 JMP 輸出中的「截距」係數是實際截距的情況。有這種情況嗎？

b1：JMP 輸出中標記為 X1 的係數表示當 X2=mean(X2) 時 X1 對 Y 的影響，而不是像版本 1 和 3 中那樣當 X2=0 時的影響。 Jaccard & Turrisi (2003) 將其定義為當 X2=0 時的影響。 「截距」是 b0 + b2X2 總和。

b2：JMP 輸出中標記為 X2 的係數是當 X1 = mean(X1) 時 X2 對 Y 的影響的度量，而不是像版本 1 和 3 中那樣當 X1 = 0 時。 「截距」是 b0 + b1X1 總和。

回覆：在 rrgression 中居中 IV

你好@Jimvano7 。我無法代表 JMP 回答你的根本問題。但是…你可以選擇「均值中心」（版本 2）或不選擇（版本 1）。

回覆：僅在互動中以回歸中的 IV 為中心

嗨@Jimvano7 ，以及大家好，

我回答這個問題有點晚了，所以請原諒我沒有回复所有的問題（或者忽略了一些細微差別），但我想分享一下我大約10年前在社區裡就同一主題給出的一個答案（和視頻）。我在影片中用預測分析器做了一個小演示，我認為這有助於解釋一些估算。

https://community.jmp.com/t5/Discussions/estimates-in-multipule-regression/mp/10965/highlight/true#M10565

以下是該影片的直接連結：

https://www.youtube.com/watch?v=LLh1V9MtKvs

我希望這有幫助！

@朱利安

回覆：僅在互動中以回歸中的 IV 為中心

@朱利安

謝謝Julian。非常有幫助。

如果截距並非真正的截距，那麼它的意義何在？在我研究過的所有案例中，都必須在「截距」係數上添加其他值才能得到實際截距。

謝謝，

@Jimvano7

回覆：僅在互動中以回歸中的 IV 為中心

當其他係數不貢獻任何值（即設為 0）時，截距總是直線（或迴歸平面，在包含多個項的模型中）在 Y 軸上位置的某種變體。當我們僅將交互作用項置於中心時，主效果的「無」意義發生了變化。雖然不是數值上的，我們仍然討論每個預測變數的 0，但這個 0 在總體中指向的位置發生了變化，因為對交互作用進行均值中心化會將零交互作用效應移至總體的平均行為，而不是預測變數的字面原點 (0,0)。

簡而言之，在這樣的模型中，截距更像是協方差分析中的一個估計值，一個基於從統計上消除交互作用平均效應而得到的調整估計值。我認為這種解釋在概念上沒有特別的幫助，所以如果你們允許的話，我將用之前用過的例子來解釋一下。

我總是覺得直觀地看這些內容很有幫助。這是我之前用過的例子，讓我們來看看中心多項式模型（左）和非中心模型（右）的迴歸平面（它們是一樣的）。我在 50 處為這兩個模型添加了一個響應網格（這是中心模型的截距）。我還用藍點來顯示模型截距的位置。

從右邊開始，截距的解釋非常簡單。它是響應平面與 X1 和 X2 均相交於 0 時的 Y 值。也就是說，學習時間和先前知識都為 0。很簡單。 （後面很重要：我們這裡甚至沒有考慮交互項，因為在這種模型中，當 X1=0 和 X2=0 時，我們知道交互項不會增加任何值，因為 b3 係數乘以了 0）

對於左側居中的模型，模型截距 50 遠高於兩個 X 均為 0 時的值。但為什麼考試分數會增加約 20 分呢？

50 分錶示我們擁有大約 40 分的先前知識和 0 小時的學習時間；或者，我們擁有 0 分的先前知識和 4 小時的學習時間。在這裡，我切換了數值網格，以便您可以看到它們與我之前放置的藍點對齊：

那麼，這到底是怎麼回事？ ！我們知道這些不是先前知識和學習時間的平均值，所以這不像保持一個變數不變，另一個變數保持其平均值那麼簡單。你可能會注意到：這些點在響應平面上與「真實」（X1=0，X2=0）截距的距離是對稱的。而在我們模型中，唯一在X1和X2因子之間對Y施加對稱影響（以縮放方式）的項是交互項b3。

我們尚未考慮將*交互作用*項 B3 設定為 0。在此類模型中，這個零點的位置與 X1 和 X2 為 0 的位置不同（因為中心化）；它位於 X1 和 X2 的平均值處，因此我們討論的是*平均*交互作用。這裡的截距 50 反映了一種調整後的基線：如果總體中不存在交互作用，那麼這就是我們在（X1 = 0 或 X2 = 0）時得到的值。從概念上講，這是一個根據交互作用的存在進行調整的截距估計值。

對我來說，這個術語比任何典型的截距都更難進行概念性解釋，但在這種情況下，我會這樣表述：由於交互項的係數為負，我們知道這些因素是相互拮抗的（其中一個因素越大，響應 Y 與另一個因素之間的關係強度就越弱）。也就是說，人們事先知道的越多，他們從學習中獲得的價值平均就越少。或者說，人們學習得越多，他們從已知知識中獲得的價值平均就越少。這個模型中的截距試圖告訴我們，*如果不是這樣*，考試成績會是什麼樣的。如果這種交互作用不是我們衡量的世界狀態，那麼學習時間為 0 小時的人會從他們以前的知識中獲得更多價值，因此他們在考試中會做得更好，截距從 30 上升到 50。如果這種交互作用不是我們衡量的世界狀態，那麼先前知識為 0 的人會從他們的學習中獲得更多價值，因此截距也會從 30 上升到 50。與 ANCOVA 一樣，這是一個統計上的「彷彿」思想實驗。

我希望這有幫助！

朱爾斯