作者
William D. Kappele,客觀實驗公司總裁
Julie Kidd,美國合成公司材料工程師
Heather Schaefer,美國合成公司材料工程師
介紹
有時您在正常工作過程中會遇到一個有趣的問題。 這就是我們身上發生的事情。 在使用設計的實驗來配製合成鑽石時,我們進行了一些無法測量反應的試驗 - 它們低於我們測量系統的檢測極限。
我們可以更改因子設置,直到可以進行測量,但如果不需要,我們不想增加該費用。
起初,我們只是簡單地將「零」分配給我們無法測量的一切。 不過我們對此有點緊張——畢竟,我們對 JMP 撒了謊– 我們不喜歡做的事情!
正是懷著對誠實的渴望,我們的冒險開始了。
https://www.youtube.com/watch?v=Zf0REURPFU0
冒險
我們的兩個響應低於我們測量系統的檢測極限。 我們對這些響應所知道的只是它們位於檢測極限和零之間的範圍內。 僅已知位於某個範圍內的資料稱為「審查資料」。我們知道如何在可靠性分析中處理審查數據,但我們不知道如何在設計的實驗中處理它。
我們問比爾是否知道該怎麼做。 他建議我們使用最大似然估計 - 但他不確定如何在 JMP 中執行此操作。 他聯繫了 Brad Jones(JMP),Brad 引導他使用參數生存平台。 雖然它的設計目的並不是完全滿足我們的需要,但它可以用來得到我們的答案。
我們想分享我們所學到的知識——如何比較不同的分析以及如何使用 JMP 來執行這些分析——但我們的專案是專有的。 看起來我們的學習必須成為我們的秘密,直到希瑟想出了一個好主意:把我們的工作偽裝成烘焙巧克力餅乾! 然後,她和朱莉成功創建了一個符合我們工作的「cookie」資料集,不會洩露任何秘密。
與所有類比一樣,我們的 cookie 類比似乎有點做作。 但是,如果您耐心等待我們,您將能夠看到我們真正面臨的問題,並學習在您的工作中出現此類問題時如何處理。
一個簡單的比喻:烘烤餅乾
假設我們實際上正在烘烤巧克力餅乾。 我們的目標是使用我們的配方來生產最薄的餅乾。 (我們告訴過你這可能看起來有點做作! 我們真的會嘗試製作厚餅乾。)我們使用的食譜是圖 1 中的經典 Nestle Toll House 餅乾食譜。

|
圖 1 – Toll House 餅乾的官方配方,由雀巢提供。 |
我們以邏輯方式將成分分組,為我們的實驗創建 5 個因素。 這些因素如圖 2 所示。
洋芋片 乾(麵粉、小蘇打、鹽) 奶油(奶油、糖、紅糖、香草) 溫度 時間 |
圖 2 – 因素。 |
以下是我們用於創建實驗設計的因素和水平:
因素 | 類型 | 低級 | 高水準 |
|---|
洋芋片 | 混合物 | 0 | 0.5 |
奶油狀 | 混合物 | 0 | 0.5 |
乾燥 | 混合物 | 0 | 0.8 |
溫度 | 連續的 | 第375章 | 450 |
時間 | 連續的 | 5 | 12 |
我們也有一些限制。 具有這些限制的實驗設計的一部分(見圖 3)如圖 4 所示。

|
圖 3 – 建立具有約束的設計 |

|
圖 4 – 我們實驗設計的一部分。 |
然後我們烤餅乾…
使用 JMP 分析數據
烘烤餅乾後,我們需要測量厚度。 你不知道嗎! 我們沒有一個很好的統治者。 我們確實無法測量 1 毫米以下的任何物體。 我們當然可以看出我們有一塊薄餅乾,但我們無法確切地說出有多薄。 我們的檢測極限為 1 毫米。
最初,我們只是簡單地為我們無法測量的餅乾厚度輸入「零」——那些低於我們檢測極限的餅乾。 請記住,我們知道我們有一塊餅乾,所以「零」不可能是正確的,但我們認為我們應該嘗試一下。
這些數據很容易分析。 我們只是使用“擬合模型”命令和“標準最小二乘法”特性。
為了理解我們如何分析審查後的數據,我們需要一些背景知識。
最大似然估計
雖然最小平方法是將資料擬合到模型的出色技術,但它並不容易用於審查資料。 另一種技術是最大似然估計,它更容易用於審查數據。 JMP 在「擬合模型」命令中的不同時間使用最大似然估計(例如,如果您選擇「廣義線性模型」選項),但它只為參數生存平台中的刪失資料提供選項。
我們需要「哄」JMP 做我們想讓它做的事情。
參數化生存平台
JMP 的「參數生存」平台使用最大似然估計,並提供分析審查數據的能力。 它的設計目的是與「故障時間」回應(而不是 cookie 高度)配合使用,但事實證明很容易解決這個問題。 當 JMP 詢問“事件時間”時,您只需選擇“Cookie 高度”,如圖 5 所示。
選擇發行版
參數生存平台要求您選擇一個分佈。 常態分佈本來是我們的首選,但當時不可用。 我們選擇 logNormal 分佈是因為它具有很強的模擬常態分佈的能力。 此外,由於我們的高度接近零,常態分佈可能會模擬噪聲,從而允許預測負高度(您可以預測的高度)絕不想要一塊餅乾!)。 logNormal 分佈避免了這種麻煩。
新增「審查」欄
透過在表中新增審查列,我們可以告訴 JMP 哪些運行包含審查資料(低於檢測限的資料)。 它將以不同於其他測量的方式對待這些測量。 (它不會將它們視為零——它會以更複雜的方式處理它們。)
優化配方:中位數與平均值
參數生存平台中的優化器將「失敗機率」視為一個因素。 這對於我們的分析來說是不必要的,那麼我們應該將其設定為多少呢?
通常在響應曲面方法中,我們預測平均值。 由於我們預期對數常態分佈接近常態分佈,因此中位數應該非常接近平均值。 如果我們將「失敗機率」設為 0.5,我們應該會得到我們需要的結果。 圖6

|
圖 5 – 參數化生存平台 |
展示如何將“失敗機率”“鎖定”在中位數。
另請注意,回應將始終標記為“時間”。當然,你知道這確實是“餅乾高度”。
您可以新增“意願函數”並照常設定意願。 您也可以像往常一樣使用“最大化意願”找到“最佳點”。
如果要繪製等高線圖,則需要儲存預測公式並使用「圖形」下的「等高線刻畫器」。

|
圖 6 – 分位數刻畫器 |
結果
那我們發現了什麼?
首先,我們挖了一把非常好的尺子,這樣我們就可以知道餅乾的實際厚度(這非常困難並且花了很長時間)。 然後我們就可以繪製實際與預測的圖(見圖 7)。 這並沒有講述整個故事,因為它忽略了噪音。 因此,我們也創建了實際與殘差圖(見圖 8)。 看看這兩個,你會發現結果是相似的。 殘差大小相似,但偏差不同。
接下來我們預測了這兩個模型的最佳點。 兩個模型預測的甜蜜點基本上相同,只是預測的烘焙時間略有不同(見圖 9 和圖 10)。 我們為每個甜蜜點烘烤了 50 塊餅乾並比較了結果(見圖 11)。

|
圖 7 – 實際曲線與預測曲線 |

|
圖 8 – 實際與殘差曲線 |

|
圖 9 – 檢視資料分析的最佳點 |

|
圖 10 – 歸零資料分析的最佳位置 |
兩個甜蜜點產生相同的餅乾厚度。 我們發現兩個模型的最佳點基本上相同,因此分析技術對於尋找最佳點並不重要。
仔細觀察圖 9、圖 10 和圖 11。 儘管他們預測了相同的甜蜜點,但審查模型的實際預測更準確。 甚至審查模型預測的置信限也更接近現實。 因此,如果您需要準確的預測,則審查模型會更好。

|
圖 11 – 最佳點比較 |
我們確實遇到了兩個問題
- 我們對數據進行了審查。
- 我們需要使用不能預測負 Cookie 高度的分佈來對雜訊進行建模。
具有歸零資料的模型沒有解決這些問題。 用於審查數據的模型考慮了這兩個問題。 一個自然的問題是,“僅解決這些問題之一會產生與審查模型一樣好的結果嗎?”
雖然我們沒有簡單的方法來測試問題 1(我們無法在 JMP 中查看常態分佈的刪失資料),但我們可以看看問題 2。 我們無法輕鬆使用廣義線性模型平台,因為它不能與混合物一起使用。 但是,我們可以對資料進行對數轉換並使用標準最小二乘法進行分析。 這具有將資料視為對數常態分佈的效果。
這種方法的一個問題是資料歸零不起作用。 相反,我們用審查範圍的平均值 (0.5) 替換了零。 當然我們是還在說謊至 JMP ! 我們也分析了這個數據沒有用於比較的對數變換。
此分析的結果如圖 12 和 13 所示。 請注意,最佳點與使用零擬合常態分佈資料的標準最小平方法相同。 然而,對數轉換的 95% 置信區間為 0.53 和 0.76 的預測為 0.63,截尾範圍平均值的 95% 置信限為 0.42 和 0.93 的預測為 0.68,比歸零資料分析的預測要好得多。 圖 14 是所有四種模型的比較。

|
圖 12 – 對數轉換分析的最佳點 |

|
圖 13 – 極差平均值分析的最佳點 |

|
圖 14 – 所有三個模型的實際與殘差圖 |
您可以看到,刪失資料模型和對數轉換模型的預測都相當好 - 刪失模型的預測有點高,對數轉換模型的預測有點低。 看起來沒有必要使用 logNormal 分佈。
概括
- 將「零」分配給低於檢測限的反應預測效果不佳,但產生了可行的最佳點。
- 將刪失範圍的平均值分配給低於預測檢測限的反應以及產生了可行的最佳點。一般來說,這不太可能起作用——看來我們這次很幸運。
- (2) 中資料集的對數轉換產生了與 (2) 類似的結果,但有類似的警告。
- 使用 JMP 的參數生存平台和刪失資料和對數常態分佈對雜訊進行建模預料到的以及產生了可行的最佳點對於中位數。 一般來說,這可能效果最好。
結論
我們在工作上遇到了兩個問題:
- 審查數據
- 我們需要以避免負值(至少在低端)的方式對雜訊進行建模。
利用我們的數據,我們能夠透過兩種方式解決這些問題:
- 使用參數生存平台分析刪失資料和對數常態分佈。
- 使用標準最小平方法分析資料的對數轉換,將刪失值替換為範圍平均值。
事實證明,正態分佈在這裡工作得很好——沒有預測負的餅乾高度。
這兩種方法的預測效果都比簡單地將資料歸零到偵測限以下要好。 兩種方法都發現了本質上相同的最佳位置。
那我們做了什麼真的學習?
- 為未知值分配零效果很好。 這大概是因為運氣好。 我們不希望這適用於所有資料集。
- 分配審查範圍的平均值效果更好,但這也可能只是運氣好。 總的來說,我們不認為這是一個好的策略。
- JMP 的參數生存平台讓我們可以分析審查後的數據,儘管在這種情況下,它並沒有產生比審查範圍的平均值更好的結果。 儘管如此,這可能是未來最好的策略。 雖然(1)和(2)只是猜測,但參數生存平台背後的最大似然估計是成熟的。
- 常態分佈和對數常態分佈都適合我們。
現在我們已經與您分享了我們的冒險經歷(以及我們的學習)。 現在是吃餅乾的時候了!
尋找更多?
以下是一些有趣的參考資料,以獲取更多資訊:
拉塞爾·B·米勒,最大似然估計與推理:以 R、SAS 和 ADMB 為例, J. Wiley 父子公司,2011 年,ISBN 978-0470094822 。
http://ussynthetic.com/ (有關美國合成的資訊)
http://www.ObjectiveExperiments.com (有關培訓和研討會的資訊)
http://www.jmp.com/ (有關 JMP 軟體的資訊)
http://en.wikipedia.org/wiki/Censoring_(統計) (對於審查的一個很好的解釋)
http://mathworld.wolfram.com/MaximumLikelihood.html (最大似然估計的簡單解釋)
http://en.wikipedia.org/wiki/Chocolate_chip_cookie (了解巧克力餅乾的歷史)
關於作者
Julie Kidd 是 US Synthetic 的材料工程師。 她的專長是陶瓷和複合材料系統以及材料表徵,包括法醫冶金和失效分析。
Heather Schaefer 是 US Synthetic 的材料工程師。她專業是鑄造和壓制高能量材料,重點是紅外線誘餌彈的開發。
他們目前正在共同開發用於石油和天然氣行業的改良合成鑽石。
比爾·卡佩爾是奧布總裁客觀實驗。 他負責課程交付和開發。茱麗葉和希瑟向比爾學習了實驗設計。