使用逐步回歸分析混合 DOE在 Mixture 案例研究(網絡廣播和 JMP 文檔庫)中,我注意到使用向後回歸來分析結果。 為什麼逐步回歸不與常規(非 Pro)JMP 中的正向回歸或所有可能的模型一起使用? 由於混合模型的特殊性,逐步不可能嗎?
實驗設計回复:使用逐步回歸分析混合 DOE以下是我的想法,大部分是哲學性的:
我的第一個想法是永遠不要逐步進行實驗設計。該實驗旨在研究因素和這些因素的預測模型(例如,一階、一階加二階等)。 該模型應該是先驗預測的。逐步是揭示可能未知或預測的關係的過程。
混合設計在很大程度上是優化設計。也就是說,已知混合物的成分很重要,現在您正在嘗試找到要操作的最佳表面“區域”。您應該已經了解模型的術語並正在優化這些術語。還可能有在混合設計中存在相當數量的共線性,這使得逐步具有挑戰性。
回复:使用逐步回歸分析混合 DOE那麼如何找到最好的模型,向後回歸呢? Steisee 中所有可能的模型?...
回复:使用逐步回歸分析混合 DOE該方法很大程度上取決於您在知識連續體中的位置(例如,篩選、優化、您是在解釋還是在預測)。 在篩選階段進行實驗時,我確實建議從完整模型(如果可能的話飽和)開始,並從中刪除無關緊要的項(向後或減法模型構建)。當您進行優化時,問題會有所不同(就像一般的混合設計一樣)。您應該已經對一階和二階線性和非線性有了很好的了解。統計意義不太重要(它已經確定)。您正在“微調”級別設置。
回复:使用逐步回歸分析混合 DOE你好@弗蘭克德魯伊克,
我同意“哲學”的觀點@statman關於逐步回歸,更面向“非設計”數據集,以便在沒有先驗模型的情況下揭示一些因素和影響。使用 p 值的傳統模型選擇技術對於混合物沒有用:由於估計效應之間的多重共線性(效應之間的別名),估計的標準誤差相當大,導致誤導和扭曲的 p 值。
對於(基於模型的)混合設計,前向逐步回歸可能是可能的,但要採取保障措施並謹慎行事(例如,在模型中強制主效應且無截距)。 對於混合設計,有兩種選擇可能值得考慮,Philip J. Ramsey 博士在他的一次演講中強調了這一點:“使用 JMP Pro 14 進行約束混合物和混合過程實驗的分析策略”:
- 使用米勒偽因子方法的傳統前向選擇
- 使用分數加權引導和自動驗證的傳統前向選擇:JMP Pro 中的 SVEM、廣義回歸平台(Gotwalt 和 Ramsey)
Ramsey 博士不建議對混合物使用“所有可能的模型”,部分原因是需要在每個模型中強制使用純分量項。 從務實和實踐的角度來看,“所有可能的模型”方法在計算方面可能要求很高(並且不是很有效),因為無論效果之間的層次結構和遺傳性如何,都構建了具有各種效果數量的所有可能模型。 因此,所創建的模型中有很大一部分可能不是很有趣(且相關)值得考慮,但仍然以不可知論和“蠻力”的方式創建和評估。
由於基於模型的混合設計假設有一個先驗模型,因此與基於信息標準的驗證方法(例如 AICc(JMP Pro 中的廣義回歸平台,或 JMP 中的向後逐步))一起使用向後回歸會更安全。
由於您對預測性能比因素篩選更感興趣,因此您還可以“手動”進行向後回歸,方法是從包含模型(JMP、標準最小二乘法)的所有假定效果的完整模型開始,並刪除項只要它有助於降低模型的 RMSE(預測誤差)即可。
對於與模型無關的混合設計(例如空間填充設計),使用高效且有效的插值的機器學習方法對於在均勻分佈的點上構建預測模型可能非常有用(但過度擬合可能很快發生):SVM 、神經網絡、k 最近鄰、高斯過程、...
最後,可能需要進行驗證運行,以驗證和估計模型的預測性能。
我希望這個額外的回復能夠幫助你,
回复:使用逐步回歸分析混合 DOE我在網絡研討會上看到 -logworth(p-value) 帕累托圖用於向後回歸;如果 p 值不適合混合物,這是否正確? 注意:我需要對非 jmp pro 用戶進行培訓,因此我無法使用廣義的機器學習。
回复:使用逐步回歸分析混合 DOE我正在基於全三次 Scheffé 模型分析三因子 FLA 1、FLA 2 和 FLA 3 混合 DOE。 推動標準最小二乘法,並嘗試使用基於對數帕累託的向後回歸來刪除低效應參數(混合分析的 P 值?)我得到以下結果:我是否還應該刪除所有選定的效應或僅刪除非包含效應?

我還在逐步中使用“所有可能的模型”進行了分析,並根據 AICC 排名得到了一個非常好的模型,可能是一個錯誤的模型(基於 P 值的向後回歸會生成正確的模型......?),但是對於指定非常有用最佳輸出 Y 設置!


我絕對同意,由於混合分析中的強共線性,驗證列是必要的,並且使用廣義回歸和實際機器學習工具是正確的方法;我將仔細研究 SVEM。 對於我的非專業用戶DOE培訓我必須依靠經典方法; “所有可能的模型”看起來還不錯,如上所示? 當然,對於更複雜的情況,超過 3 個混合成分過程效應會產生太多模型,順序方法絕對是必要的;然而,由於共線性很強,選擇好參數以繼續下一步將是相當困難的。
回复:使用逐步回歸分析混合 DOE你好@弗蘭克德魯伊克,
無論您的 DoE 是階乘還是混合模型,如果有一個先驗假設模型,您應該尊重實驗設計背後的三個原則:
- 效應稀疏性:效應稀疏原則實際上是指實驗中只有少數效應具有統計顯著性。 響應中的大部分變化都是由少量效應來解釋的,因此主效應(單因素)和兩因素交互作用很可能是析因實驗中最顯著的響應。 它也被稱為帕累托原則。
- 效果層次:層次原則指出,交互程度越高,交互解釋響應變化的可能性就越小。 因此,主效應比 2 個因子交互作用解釋更多的變異,2FI 比 3FI 解釋更多的變異,……因此應優先考慮低階效應的估計。
- 效應遺傳:與遺傳遺傳類似,效應遺傳原理假定只有在交互作用之前的有序項顯著時才可以考慮交互作用項。 該原則有兩種可能的實現方式:強的或者虛弱的遺傳。 遺傳性強意味著只有當兩個相應的主效應都存在時,交互項才能包含在模型中。 弱遺傳意味著如果至少存在一個相應的主效應,則模型中包含交互項。
在您的情況下,當嘗試刪除這些影響時,您與效果遺傳原則相衝突:您無法刪除主效應 FLA1 和相互作用 FLA2xFLA3 ,除非您已經刪除了包含這些術語的所有其他影響術語。 所以你應該把它們留在這裡。
如前所述,僅根據混合設計的 p 值創建模型可能會產生很大的誤導。
您嘗試使用 AICc(或 BIC?)標準的第二個選項似乎更合理,因為 AICc(或 BIC)是一種信息標準,試圖“平衡”模型的複雜性與其準確性(越低越好)。
關於您的屏幕截圖,似乎具有較多項數的模型可能對您的情況有用,因為模型號 9 具有較低的 RMSE 和較低的 BIC。 它還可以糾正似乎表現出某種異方差性的殘差圖(殘差越大,風味得分越高)。
希望這個補充評論對你有幫助,
回复:使用逐步回歸分析混合 DOE你好 Victor,我絕對同意你的遺傳原則,這就是為什麼在這種情況下基於 p 值的向後回歸在這裡不起作用。因此,我使用了所有可能的模型以及前向 AICC 選擇,取得了非常好的結果。 我現在正在研究另一個帶有過程變量的混合情況,並再次使用所有可能的模型方法生成一個(可能是錯誤的)但非常有用的模型! 對於非專業 JMP 用戶,我建議使用逐步所有可能的模型方法進行混合 DOE 分析。
回复:使用逐步回歸分析混合 DOE嗯,您進行一兩次混合實驗並得出結論“我建議使用逐步所有可能的模型方法進行混合物 DOE 分析”。我建議你謹慎對待這個建議,否則,正如丹尼爾所說,你將遭遇“過早概括”的失敗。
回复:使用逐步回歸分析混合 DOE至少我得到的模型滿足 Cox 務實的陳述“錯誤但對實現我的目標有用”在常規非 JMP pro 中什麼是更好的替代方案? 這些模型會更好嗎?
回复:使用逐步回歸分析混合 DOE對於專業用戶,我絕對推薦帶有驗證的機器學習方法
回复:使用逐步回歸分析混合 DOE我的想法可能已經在之前的討論中表達過,但我想明確地表達出來。 首先,我們不會測試主效應參數估計。 為什麼不? 成分比例總和為 1 的約束所產生的影響超出了線性模型的數學範圍。 效應是當因素改變其水平時響應的變化。 在非混合實驗中,因子水平的變化是獨立的,因此在正確設計的實驗中,改變因子的效果是唯一確定的。 獨立於所有其他成分而改變一種混合物成分是不可能的。 因此,我們不能將效果唯一地分配給混合實驗中的一個組分。
其次,我們無法檢驗主效應參數估計。 JMP 錯誤地根據參數為零的原假設測試主效應的參數估計值。 主要效應參數是平均響應加上純混合物響應的平均變化,因此零假設是平均響應,而不是零。 此外,聯合測試是不可能的,因為平均響應是所有主效應參數的一部分。

該模擬數據集中的真實平均響應為 20。 X1、X2 和 X3 的真實主效應參數(包括平均響應)分別為 10、20 和 30。 參數與 0 顯著不同,但這是錯誤的原假設。 每個主效應估計都標有測試混雜的註釋。
我們不詢問主效應,但我們可以而且應該詢問高階項,因為它們告訴我們表面的形狀並且是可測試的。
回复:使用逐步回歸分析混合 DOE非常有趣,Marc,您為非 JMP Pro 用戶推薦什麼混合物 DOE 結果分析方法? 在我上面的例子中,使用對數帕累托進行向後回歸不起作用; AICc 與 Steisee 一起轉發所有可能的模型都運行良好。
回复:使用逐步回歸分析混合 DOE我不推薦為混合實驗選擇線性模型的特定方法。 我重申@statman考慮所有的建議先驗在設計實驗和分析實驗時再次了解知識。
回复:使用逐步回歸分析混合 DOE這意味著我們應該關註三元圖中的內部點來嘗試估計高階項? 那麼,空間填充 DOE 是比嘗試估計雙向交互模型更好的選擇嗎?
回复:使用逐步回歸分析混合 DOE我完全同意,這就是我在上面的示例中所做的,我使用了正確的方法嗎?
回复:使用逐步回歸分析混合 DOE只是為了澄清使用混合優化設計時如何生成點(在 3 個混合因子的情況下):
- 頂點處的點有助於估計主效應參數,
- 邊緣中間的點有助於估計 2 因素相互作用。
- 中心點用於三級交互。
在沒有任何先驗模型的情況下,空間填充設計在實驗空間中創建隨機且均勻分佈的點。
如果您已經了解將使用的模型類型(例如雙向交互模型),則優化設計可能更有用和更有效,因為點的生成將針對效果項的參數估計進行優化您已在假設的模型中指定(與空間填充設計點生成的“隨機性”不同)。
空間填充設計在缺乏有關可能模型的任何先驗知識的情況下非常有用,具有非線性響應面的概率,並且在不可測量的點(穩定性問題)的情況下,在建模可能性方面具有更大的靈活性,非常高或非常低的值,...)。
希望這能澄清這兩種方法的使用之間的區別。回复:使用逐步回歸分析混合 DOE假設您正在測試包含 5 種成分的混合物,並且想知道哪些成分對響應有影響,您如何篩選出這些有效成分? 由於混雜,這可能嗎?
回复:使用逐步回歸分析混合 DOE我想即使有空間填充設計篩選也會很困難?
備註:我在非混合物 DOE 方面擁有豐富的經驗,因此我的上述問題對於混合物專家來說可能看起來很幼稚。到目前為止,我的結論是,混合物 DOE 需要經驗,並且由於分析方法不如非混合物明確,對於科學家來說,它看起來不太人為。 我正在準備在即將到來的能源部培訓中回答很多問題,其中公式很重要。 感謝大家的投入,是一個很大的幫助!
回复:使用逐步回歸分析混合 DOE空間填充設計往往更關注內部而不是實驗空間的邊界,以及優化(由於均勻分佈的設計點和多種建模/算法選項,擬合最佳預測模型)。
混合物設計更多地用於優化策略中,以找到特定性能/響應的最佳配方比例,但有些設計可以幫助您“篩選”混合因素(或至少評估混合因素之間的相對重要性,因為由於多重共線性,統計顯著性不適合在此篩選效應)。
一般來說,如果您不熟悉混合設計,互聯網上有很多可用資源。 以下是一些可以幫助您的示例:
https://reliawiki.org/index.php/Mixture_Design
https://online.stat.psu.edu/stat503/lesson/11/11.3
https://www.lexjansen.com/sugi/sugi21/iv/138-21.pdf
希望這個回答對你有幫助
回复:使用逐步回歸分析混合 DOE謝謝維克多!
回复:使用逐步回歸分析混合 DOE如果高階模型是“正確的”,那麼空間填充設計不一定是“更好的”。 考慮一個更簡單的情況:僅單個連續因素的一階效應。 最好的 10 次試驗設計是什麼? 在低設置下運行五次,在高設置下運行五次。 “空間填充”設計會將運行分佈在兩個以上的級別上,這在統計上效率不高。
當響應在單純形的狹窄區域中快速變化且該區域未知時,混合物的空間填充設計是有利的。 這是一種針對混合實驗的篩選設計。
回复:使用逐步回歸分析混合 DOE恕我直言,在對他人進行方法論培訓之前,您應該精通許多應用程序。 我建議您閱讀康奈爾大學(康奈爾大學是混合物方面的領先專家之一)來開始您了解混合物的旅程。
約翰·康奈爾 (1990)“混合物實驗、設計、模型和分析”,威利(SBN:047152221X)
一些最喜歡的論文:
斯尼,羅納德·D., 混合實驗的設計與分析,質量技術雜誌,卷。 3、4號,1971年10月
康奈爾,約翰,將混合實驗嵌入階乘實驗,質量技術雜誌,卷。 1990年10月22日第4期
斯尼,羅納德·D., 唐納德·馬夸特,混合物實驗的篩選概念和設計s,技術計量學,卷。 18、1號,1976年2月
以及我們自己的 Dan Obermiller 的:JMPing 混合實驗的技巧
回复:使用逐步回歸分析混合 DOE這考克斯混合模型試圖幫助實驗者回答這個問題。 它需要指定參考混合物。 該模型用於確定每個組件的獨特效果。
回复:使用逐步回歸分析混合 DOE衷心感謝這些參考資料! 我將深入研究這個具有挑戰性的主題
回复:使用逐步回歸分析混合 DOE我在 Louis Valente 的演示中看到了一種通過點類型列對混合設計點進行標記和著色的好方法,請參見下文。 如何創建這個點類型列?

回复:使用逐步回歸分析混合 DOESample Scripts 文件夾(位於 \Samples\Scripts 下的 JMP 文件夾中)中有一個腳本可以執行此操作。腳本的名稱是“LabelMixturePoints.jsl”。
回覆:使用逐步迴歸分析混合 DOE感謝您詳細的回答,這激發了我對配方工作的思考。
如果模型中有未知項,您建議如何處理,例如:我想發現效果,特別是由於配方中的新成分而產生的雙向交互作用。研究的目的更像是篩選而不是優化,逐步適合這種情況嗎?
回覆:使用逐步迴歸分析混合 DOE我對你的問題感到困惑。 你說“模型的未知術語”,然後你說該術語是已知的新成分。 我將透過混合物設計對新成分進行實驗,並使用混合物設計分析來評估新成分的效果和可能的相互作用。 在這種情況下我不會使用逐步。 恕我直言,抱歉是多餘的,逐步用於暴露尚未識別的因素(例如資料探勘),而不是用於分析研究中因素已知的實驗。