我想揭開神秘面紗實驗設計(DoE) 對一些術語和概念進行了簡單的解釋，這些術語和概念在人們剛開始時可能會造成混淆。 在這整個過程中系列博文，我們一直在使用一個案例研究，其目的是了解如何在 GC-MS 分析水樣中的痕量雜質時設置大體積進樣器 (LVI)。 我們引入了一個實驗計劃，其中包括測試 8 個 LVI 因素的 26 種設置組合作為示例，以說明我們在設計實驗中尋找的一些最重要的屬性。
在本系列的早期文章中，我們引入多元線性回歸，我們看到我們的 26 次運行實驗有有用的相關屬性用於理解重要行為，包括主效應、二次效應和雙因素相互作用. 但是，我們還透露，不可能建立具有所有潛在重要影響的多元線性回歸模型。 我們的模型中每個效應至少需要運行一次，加上所有主效應、二次方程和雙因子交互作用以及截距，我們計算出總共 44 個參數進行估計。 我們將其比作邀請 20 人在只能容納 12 人的房間裡開會。
在這篇文章中，我們將了解如何理解所有可能的影響中哪些對我們包含模型很重要。 愛因斯坦的名言是“一切都應該盡可能簡單，但不能更簡單。”[1] 這就是我們在這裡追求的平衡。 我們需要一個系統模型來捕獲我們需要了解的行為，以便我們可以設置 LVI 以最大化我們的檢測信號。 我們不想錯過重要的影響，但我們也不想要一個不必要的複雜模型。 我們需要一個節儉的模型。
我們將研究如何使用 26 次運行實驗中的數據來構建僅具有最重要效應的多元線性回歸模型。 首先，讓我們回到會議類比，但願它不會超出臨界點！
分步打造最佳會議
What if 20 people wanted to attend a meeting in a room that holds only 12? (Photo from https://unsplash.com/search/photos/meeting)What if 20 people wanted to attend a meeting in a room that holds only 12? (Photo from https://unsplash.com/search/photos/meeting)What if 20 people wanted to attend a meeting in a room that holds only 12? (Photo from https://unsplash.com/search/photos/meeting)What if 20 people wanted to attend a meeting in a room that holds only 12? (Photo from https://unsplash.com/search/photos/meeting)如果 20 個人想在一個只能容納 12 人的房間裡參加會議怎麼辦？ （圖片來自 https://unsplash.com/search/photos/meeting）我們的會議只能容納 12 人，而我們可能想參加 20 人。 在這 20 個人中，我們需要誰在房間里為我們提供最好的會議？
我們將從第 0 步開始逐步選擇與會者來回答這個問題。
步驟 0。 我們從會議室裡沒有人開始。
步驟1。 我們對會議中的 20 個人中的每一個人都進行了單獨測試，並保留了會議質量最好的一個人：凱蒂——她是這次會議的最佳人選。 其他人暫時都在房間外面。
第2步。 現在我們檢查剩下的 19 位可能的與會者，並將他們每個人都放在房間裡，以找出哪一對 Katie + 1 給我們帶來了最好的會議。 我們發現 Katie + Robert 是最好的。 其他18人在房間外面。
第 3 步。 我們通過其餘 18 位與會者，找出 Katie + Robert + 1 的最佳組合。 我們將 Judy 添加到房間中。
步驟4。 等等…
第 12 步。 ......直到我們有一個完整的房間。
這是我們能擁有的最好的會議嗎？ 我們發現 Michael 是第 12 位與會者的最佳人選（其他八位很糟糕，尤其是 Phillip）。 Michael 對會議的貢獻是否足以證明他的參與是合理的？ 他會不會大部分時間都在敲打手機來擾亂會議？ 我們真的需要會議中的所有 12 個人嗎？
現在我們看看會議質量從第 0 步到第 12 步是如何變化的。 我們尋找會議質量最高的地方，發現它在第 4 步。
Meeting Quality versus Step.Meeting Quality versus Step.Meeting Quality versus Step.Meeting Quality versus Step.會議質量與步驟。
我們得出結論，最好的會議是與凱蒂、羅伯特、朱迪和路易斯。 我們找到了最好的平衡點，可以涵蓋我們會議所需的理解。 其他每個可能的與會者都可以做出有用的貢獻，但不足以抵消房間裡這麼多人互相交談的負面影響。
這是設計會議的好方法嗎？ 我不知道。 也許你可以試試，然後告訴我。 然而，它很好地類比了我們如何使用來自設計實驗.
逐步構建最佳模型
對於 PkHt(SUM) 模型，我們有 44 種可能的效果。 我們將以與我們決定會議中應該有哪些人相同的方式來決定我們的模型。
步驟 0。 我們首先將一個僅攔截模型擬合到我們 26 次運行的實驗中的數據。除非我們的任何因素都不會對響應產生任何重要影響，否則此模型太簡單而無用。 預測刻畫器沒有 X 軸，因為我們在模型中沒有因子效應：
實際響應結果與模型預測的關係圖向我們表明該模型不是很有用。
每次運行的實際結果與那些因素設置的模型預測之間的一致性很差。 對於完美預測的模型，這些點將與 45 度線對齊。 當前模型僅預測一個值。 它告訴我們所有運行的平均 PkHt(SUM) (4862070)，如果我們對這些因素的影響一無所知，這是對 PkHt(SUM) 的最佳估計。
步驟1。我們尋找具有截距和其他 43 個參數之一的最佳模型。 我們擬合了 43 種不同的可能模型，發現具有 Speed(Inj) 的截距和二次效應的模型是最好的。 所有 42 個其他效應在這個階段都不在模型中。
下面是 Profiler 圖，顯示了 PkHt(SUM) 相對於 Speed(Inj) 的曲線變化：
實際與預測相比有所改善，但仍然不是很好：
第2步。我們發現 Vol(Inj) 和 T(Inj) 的相互作用是在這一步添加的最佳效果。 我們可以在 Vol(Inj) 設置為最低設置的 Profiler 圖中看到這種效果……
......在最高的設置。
請注意 PkHt(SUM) 與 T(Inj) 的斜率如何變化。 同樣，實際和預測之間的一致性得到改善。
步驟 3 至 19。 我們以這種方式繼續，在每一步添加最重要的效果。
步驟 20。 快進到第 20 步，所有因素的影響都包含在一個具有 20 個影響加上截距的複雜模型中。
實際與預測現在看起來好多了。
我們可以走得更遠，直到我們擬合了與我們在實驗中運行的參數一樣多的參數，但是在這個階段我們可能已經過擬合了。 現在我們回顧一下模型質量從第 0 步到第 20 步是如何變化的。 我們可以看看實際與預測的變化情況。
我們可以看到，隨著我們逐步完成這些步驟，模型得到了改進，儘管可能是以復雜性為代價的。 在每一步，我們都添加了產生最佳模型的效果，但我們沒有說明“最佳”是什麼意思。 要有一個過程來決定每一步的最佳模型和所有步驟的最佳模型，我們需要能夠用一個數字來衡量模型的好壞。 事實上，統計學家已經想出了很多方法來做到這一點。 在這個例子中，我們使用了更正後的赤池信息準則或者AICc . 在每一步，我們都添加了使模型具有最低 AICc 的效果。 在這裡，我們有 AICc 與步數的關係圖：
較低的 AICc 代表更好的模型：AICc 隨著數據擬合的提高而降低；向模型添加參數會增加 AICc。 我們可以用它來找到平衡擬合優度和復雜性的最佳點。 在這種情況下，我們看到 AICc 從第 0 步減少到第 7 步，然後向第 20 步增加超標。 （黃色和綠色帶是一個指南——AICc 在這些範圍內的模型在某種程度上相當於最佳模型。）因此，我們可能會在第 7 步選擇模型：
前進和後退
我們描述的過程稱為逐步回歸或者逐步選擇. 更具體地說，我們使用了向前逐步選擇。 你可以使用落後當您的運行次數多於要擬合的參數時進行選擇，因此您可以從模型中的所有效果開始，然後通過在每一步中去除最不重要的效果來向後工作。 您還可以使用向前和向後的組合。 您的另一個選擇是是否指定影響遺傳，因此只有當二階效應的主效應也在模型中時才能包括二階效應。 服從效應遺傳的模型通常是首選。
這些不同的選項和其他選項在軟件中的自動逐步過程中可用，例如JMP . 中的廣義回歸平台JMP臨提供交互式和可視化界面來探索模型的可能性。 這很有用，因為模型的最終選擇將不僅僅依賴於 AICc 或任何一種統計度量。
“所有模型都是錯誤的......
......但有些是有用的。”[2] 如果你是 DoE 的新手，這句名言抓住了一個令人擔憂的事實：最終沒有正確的答案！ 該模型將逼近真實行為，因此在某種意義上總是“錯誤”的。 你不應該認為這是一個問題。 以這種方式“錯誤”的模型使我們能夠專注於理解重要的行為，以滿足我們的科學和工程目標。 正如我們之前所說，我們的目標是一個簡約的模型。
通過這個例子，我們已經看到瞭如何通過對相對大量的可能影響進行排序以找到重要的少數影響來構建有用的模型。 我們還看到瞭如何使用統計方法以及我們對系統的經驗和知識來選擇最有用的模型。 我們設計的實驗為我們提供了實現這一目標所需的數據，而且實驗工作量最少。 在每個步驟中，該方法都可以選擇最佳效果，因為設計的相關屬性非常清晰。 再次強調，要點是，如果您想確信有效地獲得最有用的解決方案，則需要使用 DoE。
在本系列的最後一篇文章中，我們將嘗試總結我們所學到的所有知識，並討論我們遺漏的內容。
筆記
[1] 事實上，愛因斯坦好像沒說過這個. 具有諷刺意味的是，他的版本並沒有想像中那麼簡單。
[2] 喬治·博克斯。 看這個維基百科條目更多。
