作者
William D. Kappele，Objective Experiments 總裁
Julie Kidd，美國合成材料工程師
Heather Schaefer，美國合成材料工程師
介紹
有時您在正常工作過程中會遇到一個有趣的問題。這就是我們所發生的事情。在使用設計實驗來配製合成鑽石時，我們進行了一些無法測量反應的試驗——它們低於我們測量系統的檢測極限。
我們可以改變因子設定直到我們能夠進行測量，但如果沒有必要，我們不想增加這筆費用。
起初，我們簡單地將所有無法測量的事物都標記為「零」。然而，我們對此還是有點緊張——畢竟，我們對 JMP 撒了謊——這是我們不喜歡做的事情！
正是懷著對誠實的渴望，我們的冒險開始了。
https://www.youtube.com/watch?v=Zf0REURPFU0
冒險
我們的兩個回應都低於我們測量系統的偵測極限。我們對這些回應的了解僅限於它們處於檢測極限和零之間的某個範圍內。僅已知位於某個範圍內的資料稱為「審查資料」。我們知道在可靠性分析中如何處理刪失數據，但我們不知道如何在設計實驗中處理它。
我們問比爾是否知道該怎麼做。他建議我們使用最大似然估計值——但他不確定如何在 JMP 中做到這一點。他聯繫了 JMP 的布拉德瓊斯 (Brad Jones)，布拉德向他介紹了參數生存平台。雖然它的設計並不能完全滿足我們的需要，但它可以用來得到答案。
我們希望分享我們所學到的知識——如何比較不同的分析以及如何使用 JMP 來執行這些分析——但我們的專案是專有的。我們似乎必須對學習保密，直到希瑟想出了一個好主意：把我們的工作偽裝成烤巧克力餅乾！隨後，她和朱莉成功創建了符合我們工作要求的「cookie」資料集，不會洩露任何秘密。
正如所有類比一樣，我們的餅乾類比看起來有點做作。然而，如果您耐心等待，您將能夠看到我們真正面臨的問題，並學會在工作中出現此類問題時如何處理。
一個簡單的類比：烤餅乾
假設我們實際上正在烘烤巧克力餅乾。我們的目標是利用我們的配方製作出最薄的餅乾。 （我們告訴過您，這可能看起來有點做作！我們確實想要製作厚餅乾。）我們使用的配方是圖 1 中的經典雀巢 Toll House 餅乾配方。
|
圖 1 – Toll House Cookie 官方食譜，由雀巢提供。 |
我們以合理的方式將成分分組，為我們的實驗創建了 5 個因素。圖 2 列出了這些因素。
晶片 乾（麵粉、小蘇打、鹽） 奶油（奶油、糖、紅糖、香草） 溫度 時間 |
圖 2 – 因素。 |
以下是我們用於創建實驗設計的因素和水平：
因素 | 類型 | 低級 | 進階 |
|---|
晶片 | 混合物 | 0 | 0.5 |
奶油 | 混合物 | 0 | 0.5 |
乾燥 | 混合物 | 0 | 0.8 |
溫度 | 連續的 | 375 | 450 |
時間 | 連續的 | 5 | 12 |
我們也面臨一些限制。圖 4 顯示了具有這些限制的實驗設計的一部分（見圖 3）。
|
圖 3 – 建立帶有約束的設計 |
|
圖 4—我們的實驗設計的一部分。 |
然後我們烤餅乾…
使用 JMP 分析數據
烤好餅乾後，我們需要測量厚度。你不知道嗎！我們沒有一個很好的統治者。我們確實無法測量 1 毫米以下的任何東西。我們當然可以說餅乾很薄，但我們無法說出它到底有多薄。我們的偵測極限是1毫米。
最初，我們只是簡單地輸入“零”來表示我們無法測量的餅乾厚度（低於我們的檢測限）。請記住，我們知道我們有一塊餅乾，所以「零」不可能是正確的，但我們想嘗試一下。
這些數據很容易分析。我們只是使用了具有“標準最小二乘”特性的“擬合模型”命令。
為了理解我們如何分析審查數據，我們需要了解一些背景知識。
最大似然估計
雖然最小平方法是將資料擬合到模型的絕佳技術，但它並不容易用於刪失資料。另一種技術，最大似然估計，更容易用於審查數據。 JMP 在「擬合模型」命令中多次使用最大似然估計（例如，如果您選擇「廣義線性模型」選項），但它僅在參數生存平台中提供針對刪失資料的選項。
我們需要「哄騙」 JMP 做我們想讓它做的事情。
參數生存平台
JMP 的「參數生存」平台使用最大似然估計並提供分析刪失資料的能力。它被設計用於「故障時間」回應 - 而不是 cookie 高度 - 但事實證明解決這個問題很容易。當 JMP 要求輸入“事件時間”時，只需選擇“Cookie 高度”，如圖 5 所示。
選擇發行版
參數生存平台要求您選擇一個分佈。常態分佈本來是我們的首選，但卻不可用。我們選擇對數常態分佈，因為它具有很強的模擬常態分佈的能力。此外，由於我們的身高接近零，常態分佈可能模擬了噪聲，從而可以預測負身高（這是你在餅乾中永遠不想要的！）。對數常態分佈避免了這種麻煩。
新增「審查」欄
在表中新增審查列可以讓我們告訴 JMP 哪些運行包含審查資料（低於檢測限的資料）。它將以不同於其他測量的方式處理這些測量。 （它不會將它們視為零——它會以更複雜的方式處理它們。）
優化配方：中位數與平均值
參數生存平台中的優化器將「失敗機率」作為一個因素。這對我們的分析來說是不必要的，那麼我們應該把它設定成多少呢？
通常在響應曲面法中，我們預測平均值。由於我們預期對數常態分佈近似於常態分佈，因此中位數應該非常接近平均值。如果我們將「失敗機率」設為 0.5，我們就應該得到我們需要的結果。圖 6
|
圖 5 – 參數生存平台 |
展示如何將「失敗機率」鎖定在中間值。
另請注意，回應將始終標記為“時間”。當然，你知道這實際上是「Cookie Height」。
您可以新增“可取性函數”並像平常一樣設定可取性。您也可以像往常一樣使用“最大化可取性”來找到“最佳點”。
如果您想製作等高線圖，您需要儲存預測公式並使用「圖形」下的「等高線分析器」。
|
圖 6 – 分位數刻畫器 |
結果
那我們發現了什麼？
首先，我們找了一把非常好的尺子，這樣我們就能知道餅乾的實際厚度（這很難，而且花了很長時間）。然後我們就可以繪製實際值與預測值的圖表了（見圖 7）。由於沒有提及噪音，因此並沒有講述整個故事。因此我們也創建了實際值與殘差值的圖表（見圖 8）。看看這兩者，你會發現結果是相似的。殘差大小相似，但偏差不同。
接下來我們用這兩個模型來預測最佳點。兩個模型預測的最佳點基本上相同，預測的烘焙時間僅略有不同（見圖 9 和 10）。我們為每個 Sweet Spot 烘烤了 50 塊餅乾，並比較了結果（見圖 11）。
|
圖 7 – 實際曲線與預測曲線 |
|
圖 8 – 實際值與殘差值曲線 |
|
圖 9 – 刪失資料分析的最佳點 |
|
圖 10 – 歸零資料分析的最佳點 |
兩個 Sweet Spot 產生的餅乾厚度相同。我們發現這兩種模型的最佳點基本上相同，因此分析技術對於找到最佳點並不重要。
仔細觀察圖 9、10 和 11。雖然它們預測了相同的 Sweet Spot，但刪失模型的實際預測更為準確。甚至審查模型預測的置信限也更接近現實。因此，如果您需要準確的預測，那麼刪失模型是更好的選擇。
|
圖 11 – 最佳點比較 |
我們確實遇到了兩個問題
- 我們已經審查了數據。
- 我們需要用不會預測負 Cookie 高度的分佈來模擬雜訊。
具有零數據的模型沒有解決這兩個問題。考慮刪失資料的模型將這兩個問題都考慮在內。一個自然的問題是：“只解決其中一個問題是否能產生與審查模型一樣好的結果？”
雖然我們沒有簡單的方法來測試問題 1（我們無法在 JMP 中查看具有常態分佈的刪失資料），但我們可以查看問題 2。我們不能輕易使用廣義線性模型平台，因為它不能用於混合。但是，我們可以對資料進行對數變換，並用標準最小平方法進行分析。這會使資料看起來就像是對數常態分佈的。
這種方法的一個問題是將資料歸零不起作用。相反，我們用刪失範圍的平均值（0.5）取代零。當然，我們仍在對 JMP撒謊！我們也對這些數據進行了分析，但沒有進行對數變換，以便進行比較。
此分析的結果如圖 12 和圖 13 所示。請注意，最佳點與使用零的常態分佈資料的標準最小二乘擬合相同。但是，對數轉換的預測值為 0.63（95% 信賴區間為 0.53 和 0.76），而刪失範圍平均值的預測值為 0.68（95% 信賴區間為 0.42 和 0.93），而這些都比歸零資料分析的預測值好得多。圖 14 對四種模型進行了比較。
|
圖 12 – 對數轉換分析的最佳點 |
|
圖 13 – 範圍分析平均值的最佳點 |
|
圖 14 – 三個模型的實際值與殘差圖 |
您可以看到，刪失資料模型和對數轉換模型的預測都非常好 - 刪失模型預測值稍高，對數轉換模型預測值稍低。看起來沒有必要使用對數常態分佈。
概括
- 將「零」分配給低於檢測限的反應預測效果不佳，但產生了一個可行的最佳點。
- 將審查範圍的平均值分配給預測檢測極限以下的回應以及產生了一個可行的 Sweet Spot。一般來說這不太可能起作用——看來我們這次很幸運。
- 對 (2) 中的資料集進行對數轉換得到與 (2) 類似的結果，但有類似的警告。
- 使用 JMP 的參數生存平台，結合刪失資料和對數常態分佈來模擬噪聲預測以及找到了可行的最佳點中位數. 整體來說這可能是最好的效果。
結論
我們在工作上遇到了兩個問題：
- 審查數據
- 我們需要以一種避免負值（至少在低端）的方式來模擬雜訊。
利用我們的數據，我們能夠透過兩種方式解決這些問題：
- 使用參數生存平台對刪失資料和對數常態分佈進行分析。
- 使用標準最小平方法分析資料的對數變換，將刪失值替換為範圍的平均值。
事實證明，正態分佈在這裡表現良好——沒有預測到負的餅乾高度。
這兩種方法的預測效果都比簡單地將資料歸零到偵測限以下要好。兩種方法基本上都找到了相同的最佳點。
那我們真正學到了什麼呢？
- 為未知值分配零效果很好。這大概是因為運氣好嗎。我們不期望這適用於所有數據集。
- 分配刪失範圍的平均值效果更好，但這也可能只是運氣好。整體而言，我們並不認為這是一個好的策略。
- JMP 的參數生存平台讓我們可以對資料進行刪失分析，儘管在這種情況下，它並沒有產生比刪失範圍的平均值更好的結果。儘管如此，這很可能是未來最好的策略。雖然 (1) 和 (2) 只是猜測，但參數生存平台背後的最大似然估計是完善的。
- 常態分佈和對數常態分佈對我們來說都很有效。
現在我們已經與您分享了我們的冒險（和我們的學習）。現在是吃餅乾的時間了！
想了解更多？
以下是一些可供進一步了解的有趣參考資料：
Russell B. Millar， 最大似然估計和推斷：附 R、SAS 和 ADMB 範例， J. Wiley and Sons，2011 年，ISBN 978-0470094822 。
http://ussynthetic.com/ （有關 US Synthetic 的資訊）
http://www.ObjectiveExperiments.com （有關培訓和研討會的資訊）
http://www.jmp.com/ （有關 JMP 軟體的資訊）
http://en.wikipedia.org/wiki/Censoring_(統計學) （對審查的詳細解釋）
http://mathworld.wolfram.com/MaximumLikelihood.html （關於最大似然估計的簡要說明）
http://en.wikipedia.org/wiki/Chocolate_chip_cookie （了解巧克力曲奇的歷史）
關於作者
Julie Kidd 是 US Synthetic 的材料工程師。她的專業是陶瓷和複合系統以及材料特性，包括法醫冶金學和故障分析。
Heather Schaefer 是 US Synthetic 的材料工程師。她的專業是鑄造和壓制含能材料，重點是紅外線誘餌彈的開發。
他們目前正在共同為石油和天然氣工業開發改良的合成鑽石。
Bill Kappele 是Ob 總裁客觀實驗。他負責課程的傳授和開發。朱莉和 希瑟從比爾那裡學習了實驗設計。
