本次報告將探討預測限值、信賴限值和容差限值的關鍵作用。由於這些限值易於計算且幾乎出現在所有教科書中,因此被廣泛應用;然而,這也意味著它們經常被誤用或誤解。目前的問題之一在於如何準確估計混合模型的這些限值,這在大多數行業中都是一個嚴重的難題。
儘管 JMP 採用了目前最佳的方法來估算這些限制(基於 2019 年發表在 Wiley Medicine 期刊上的一篇論文),但如果不謹慎,我們仍可能遇到問題,因為該方法本身存在一些缺陷。作為一家顧問公司,我們使用的方法必須可靠。因此,我們決定深入研究這個問題,並透過 JMP 中的模擬來評估這些限制。
本次示範著重於講述問題背後的故事,旨在讓各行各業的人士了解這些統計難題,並示範如何使用 JMP 模擬不同場景以及如何評估模型。演示重點展示了為此目的而設計的圖形介面,以及模型構建和生成可解釋輸出的過程。
歡迎來到我的演講。我叫托馬斯,來自NNE公司,擔任製藥業的統計顧問。今天,我想和大家聊聊一個我非常感興趣的主題,我認為它與各行各業都息息相關。這個主題是基於經典統計學,更具體地說,是關於置信度、預測和容差極限。我們這就開始吧!首先,我想先給大家設定一個場景。請大家想像一下,您是一家生產醫用注射器的公司的品質控制工程師。仔細想想,醫用注射器要確保安全,就必須控制好一些品質特性。
其中一點是尺寸必須合適。如果注射器的設計尺寸是固定的,就應該保持原樣,因為如果尺寸過大,可能會導致患者用藥過量;如果尺寸過小,則可能導致患者用藥不足。因此,注射器存在一些規格限值,一些專家會指出,某些特性必須在這些數值範圍內才能確保安全。例如,假設注射器的直徑必須在 10 到 10.5 毫米之間。
假設你是品質工程師,來到辦公室後發現收到了一批貨。假設是100支注射器,你需要對這批註射器的品質做出評價。你先抽取了一個樣本,測量了直徑,發現內徑符合規格。就第一個樣本而言,內徑符合規格,但你開始思考,這足以證明整批產品的品質都符合標準嗎?僅僅基於一個樣本就做出這樣的結論,很難站得住腳。
然後你採取次優方案,也就是抽取10個樣本,得到這樣的數值。它們都在規格範圍內。你最終可能會報告平均值,並且似乎對此感到滿意,但這時衛生部門來了。他們告訴你沒問題,你的平均值沒問題,觀察結果也很好,這張圖表看起來不錯,但你怎麼知道下一個樣本不會像這樣?或者,即使對你有利,它也可能像這樣。
這就是問題之一:當你報告某個平均值或某個特定量,或只想展示像這樣的圖表時,你實際上無法量化你對估計值或結論的不確定性。這就是使用統計區間的原因。今天我們要討論的主題就是如何給予某個數值的區間,然後我們就可以說明我們對這個區間的掌握程度。
這就是我做這個演講的初衷,但接下來的議程是,我會更詳細地探討統計區間,從理論角度出發,為後續內容奠定基礎。然後,我會介紹一些我用 JMP 製作的模擬範例。我創建了一個介面,方便大家體驗不同的場景,之後大家就會明白這為什麼重要。最後,我們會以 NNE 為例,看看在處理客戶資料時,典型的工作流程是怎麼樣的。
正如我所說,如果我們從統計區間理論入手,首先,我要先制定一些基本規則。在開始實踐之前,我們需要先明確這些規則。我想指出的是,建立預測區間和容差區間的方法有很多種。我今天要介紹的方法是基於經典統計學,也是JMP中實現的方法。但需要提醒的是,還有其他方法可以建立預測區間和容差區間。這些是我認為最常用的方法。
我們首先要做的假設,或者說第一個問題是:我們是否獲得了代表性的數據?因為在建構區間時,我們首先要做的就是收集一些數據,這些數據來自過去,我們想從中得出一些結論。我們稱之為樣本。這個樣本是否具代表性且隨機?我的意思是,透過區間,你可以對整體做出一些推論。這個總體可能是你的流程,也可能是你心中特定的目標總體,但你的樣本是否具有代表性?因為這就是我們接下來要討論的區間。舉個例子,假設每次你收到一批貨物,貨物都裝在一個盒子裡,而你總是只從頂部取樣,因為這最簡單。
在某些製程中,根據其設定方式,這可能會造成問題,因為你可能無法從其他零件取樣。例如,你可能使用烤箱生產某種產品(例如醫療器材),而你總是從烤箱內的特定位置取樣。如果溫度有任何波動,那麼取樣結果的代表性就可能受到影響。
總之,在最簡單的情況下,我們先假設資料服從常態分佈。也就是說,無論我們測量的是什麼,無論是注射器的直徑或其他任何品質特性,我們的反應值都服從常態分佈。如果資料不服從常態分佈,您可以嘗試對其進行轉換。請記住,這是我們保證區間有效的前提條件之一。
如果你的資料不符合常態分佈,且轉換方法無效,那麼你可能需要更複雜的資料結構,例如模型。我舉個例子,因為它與我們接下來要討論的內容有關。這是一些來自常態分佈的數據,其中包含批內變異。
你可以看到各組資料分佈幾乎一致,但批次間也有差異。這意味著,例如,不同批次的產品可能具有不同的特性,或許使用了不同的原料。你需要考慮到數據中會出現這種情況,但總體而言,數據仍然遵循常態分佈。這些就是基本規則。
我將開始講解三種主要的區間類型。首先是信賴區間、預測區間和容差區間。信賴區間是最常見的區間之一。它用來描述某個分佈中的參數或特徵。例如,假設資料服從某種分佈,那麼理論上,你可以說它有一個理論值。
例如,如果我們討論平均數或標準差(這是最常見的概念之一),你可能想要估計過程的平均值,同時也需要給出一定的置信度。你會報告一個你認為實際平均數、標準差、分位數或其他特徵所在的區間。例如,“我們有 95% 的把握認為燈泡的平均壽命在 1000 到 1200 小時之間。” 與其說“你知道嗎?我生產的燈泡的平均壽命是 1100 小時”,不如給出一個範圍,並賦予它一定的置信度。
我們談論置信度時,究竟指的是什麼?置信度應該理解為方法的有效性。它並非關乎具體的區間,而是關乎方法本身。換句話說,從長遠來看,使用這種方法計算出的區間中,95% 的區間實際上會包含真實參數。這也意味著,在 5% 的情況下,它不會包含真實參數。因此,您可以根據需要選擇置信度,95% 是一個非常常見的值。您也可以使用 90%、99% 或 99.99%。這完全取決於您使用區間的目的。
請注意,很多人可能會認為 95 指的是,如果你計算出一個區間,那麼未來 95% 的樣本平均值都會落入該區間內,但事實並非如此,所以要小心。
這些是我將要使用的公式。可以看到有兩個公式,還有兩個。我來解釋一下原因。第一個公式假設資料服從常態分佈且不考慮隨機效應,而第二個公式則假設存在隨機效應。這些是經典公式,而這些是後來發展的公式。我現在不會深入講解這些公式,但如果有人想深入了解,歡迎提問。
接下來是預測區間。信賴區間用於平均值、標準差或某個特徵值,而預測區間則用於特定觀測值。例如,如果您是客戶而不是生產商,以燈泡為例,您可能更想了解某個特定燈泡的性能,而不是其平均表現。因為購買燈泡時,您只想知道它能滿足您的特定需求多久。
預測區間用於預測未來單一觀測值的區間。如果修改公式,它可以用於三個觀測值、五個觀測值,但通常只針對一個觀測值。需要注意的是,當你計算預測區間並聲稱其置信度為 95% 時,你指的是一個額外的觀測值。這並不是說所有未來的觀測值都應該落在預測區間內,或是只有其中一個落在區間內。
例如,我們有 95% 的把握認為單一新燈泡的壽命在 700 到 1500 小時之間。同樣,這種把握是指,如果您重複此過程,那麼 95% 的情況下您的結果都是正確的。以下是公式,包括經典公式和考慮隨機效應的混合模型公式。
接下來是容差區間。容差區間比預測區間更嚴格。它通常用於製藥或醫療器材公司,因為它用於建立一個涵蓋未來總體觀測值比例的區間。現在,你不僅希望包含一個額外的值,而是希望包含,比如說99%的未來值。這樣你就可以相當有把握地認為這是一個夠好的區間。
舉個例子,你可以說我們有 95% 的把握認為,未來至少有 99% 的燈泡壽命在 650 到 1550 小時之間。這樣一來,你就有了兩種信心:95% 和 99%。它們分別代表了置信度和覆蓋率。當然,你可以設定 95% 或 99% 以外的其他值。這只是舉例子。從長遠來看,置信度意味著,以這種方式計算出的 95% 的區間將包含未來至少 99% 的燈泡壽命。
你可以看到第一個公式很典型,但很快就會變得複雜。這個公式實際上來自一些文章,據我所知,它是目前最好的猜測,也是我們能找到的最佳公式。它適用於只有一個隨機效應的情況,但可以推廣到其他情況。
好了,廢話不多說。咱們直接進入JMP,看看真正有趣的部分。正如我所說,我先給你們展示一下我寫的腳本。最小化這個視窗。這就是你們看到的輸入介面,也就是主介面。這裡有兩個標籤頁,我們先從第一個開始。這個標籤頁是用來模擬資料和我們剛才看到的區間的。我們有兩種模型:一種是只包含平均數的模型,另一種是包含隨機效應的模型。在平均值模型中,你只需要計算常態分佈及其限值。你可以更改平均值、標準差以及想要模擬的資料點數量。所有這些計算都是在背景自動完成的。
你可以進行研究,也可以嘗試分析它們之間的關係。這裡有信賴區間(綠線)、預測區間(紅線)和容差區間。這個練習的目的是看看如果我改變覆蓋範圍會發生什麼。
那麼,容差分佈的範圍就會變得更窄,或者你可能想保持 95% 的覆蓋率,並想改變置信度。置信度是 1 減 0.5。如果我想設定更高的置信度,例如,請注意 -1.8 到 2 之間的預測區間。如果我想更有把握,那麼範圍就會變寬。範圍變寬是因為你允許的估計失敗次數較少。由於你的置信度是 99%,你必須付出的代價是區間變寬,這適用於所有區間。
當然,你總要在以下幾個方面找到平衡:對你來說夠好的東西、你能承受的最高故障率,以及你希望估計趨勢的精確度。
如您所見,我們可以點擊這裡的“模擬”按鈕。在這裡您將看到實際數值,這只是為了方便演示。均值模型沒有問題。接下來我將切換到隨機效應模型,我認為它更有意思。這裡我們同樣看到了平均值和標準差。現在,如您所見,標準差是組內變異—組內變異包括平均值、批次內變異和組內變異。
然後是批間差異,但可以透過指定差異比率來獲得。差異比率是指批內差異中批間差異所佔的比例。接下來是批次數量和每個批次內的物料數量。例如,我可以點擊“模擬”。您可以看到,現在我把它改回通常值 5。
這裡可以看到,模擬資料點存在組間差異,因此每組內的分佈相當均勻,但組間也存在一定程度的差異。這是因為我們設定了方差比。如果我將變異數比提高到 10 倍,可以看到組內差異遠小於組間差異。
一點值得思考。這一切都始於我們處理一些客戶資料的時候,這些資料批次和條目都不多。我把批次和條目減少到兩個,模擬一些數據。我再模擬一次,稍後我會解釋原因。結果仍然很接近。稍後您就會明白,因為這種異常情況很常見。我把方差比設為 1。
好了,開始了。抱歉。因為現在我們有了……這很有趣。我們有了置信限。置信限是針對製程平均值的。它應該比單一限值要平滑一些,但你可以看到預測限值在置信限值之內。現在想想,預測限值應該包含你對平均值估計的誤差,再加上一些隨機抽樣所帶來的額外誤差。從某種意義上說,它應該比置信限值寬得多,但實際上它的估計值卻比置信限值窄。這在直覺上說不通,但這就是我們批次和樣本量少所要付出的代價。
這個問題尚未解決,因為這些公式是基於Wiley Medicine的一篇論文。就我所知,它們是目前你能寫出的最佳公式之一,也是最佳方法之一,但你必須意識到,如果你使用的批次和項目數量很少,或者隨機效應的層級很少,那麼就會出現問題。如果組數較少,這些限制條件將較不可靠。
這一點需要注意。另外,請注意公差區間,它們似乎非常寬。這些公差限值也出現在那篇文章中,但它們並沒有出現這個問題。無論如何,我還想向您展示您可以切換選項卡,因為當您在這裡進行模擬時,您只會模擬一次。進入該選項卡後,您需要再次單擊,然後再次進行模擬。
但如果您想多次運行以了解整體行為呢?這時,您可以轉到此選項卡,其中包含相同的資訊。它專門用於隨機模型。例如,您可以點擊最後一個選項卡中的按鈕,運行 250 次。然後點擊“模擬”,稍等片刻。很快您應該就能得到輸出結果。現在我們有了輸出結果。這裡有一些總體圖表、一些直方圖、一些平滑的核密度估計圖,它們可以幫助您了解預測限值和容差限值的分佈範圍和形狀。
你可以看到,容差極限往往比預測極限更寬,而預測極限往往比信賴區間更寬。這在當前情況下是合理的。我還補充了一些我認為非常重要的資訊。置信限是指置信限包含實際平均值的機率是多少?在這個模擬中,理論上應該是 95%,但實際上是 94.4%。這相當不錯。
當我使用估計置信度時,預測區間有多少次會多出一個點? 94% 的情況。我在這裡用小星號標出這一行,是因為千萬不要這樣使用預測區間,但我認為這種情況很常見,所以有必要提一下。
如果你認為一個預測區間的置信度為 95%,那就表示未來 95% 的樣本都會落在區間內。但當你發現,在這種情況下,即使置信度為 95%,也只有 84% 的樣本會落在區間內時,你肯定會感到失望。所以,如果你打算這樣使用預測區間,請務必謹慎,因為你可能高估了預測的準確性。
然後我們得到估計的置信度和估計的容差限覆蓋率。在這種情況下,它們都應該是 95%,而且相當不錯。我認為,尤其要注意這一點,如果我們提高方差並減少批次數量的話。讓我們再次模擬一下,看看會發生什麼。現在,我們只有三個批次,每個批次 20 個項目,且變異數比非常高。讓我們看看輸出結果。
例如,現在,在你認為預測區間能涵蓋 95% 的情況下,你實際上只涵蓋了 57%。這個區間已經夠好了,因為它在這種情況下表現良好,而且也接近了預期值。但請不要反過來使用預測區間。以上就是我的介面說明。
最後,正如我之前承諾的,我們來看一個數據分析的例子。現在,我想回到我們之前討論過的注射器範例。請想像這樣的場景:你有兩條不同的生產線,分別生產注射器,一條是生產線一,另一條是生產線二。總共有 40 批產品。你可以在這裡看到。如果我們一直向下滾動,可以看到有 40 批產品,每條生產線 20 批,並且你已經測量了注射器的直徑。
這是您的樣本。每個批次有 20 個測量值。我們該從哪裡開始呢?例如,我們可以先查看分佈情況,因為在 JMP 中取得信賴區間、預測區間和容差區間相當容易。您可以進入分佈分析,然後請求 95% 的置信區間。接下來,您可以請求預測區間。您可以再次請求 95% 的置信區間。最後,您可以請求容差區間。這樣,您就得到了所需的區間。
這裡我覺得沒問題,但還是建議你謹慎一些,因為正如我們之前討論的,我們所做的一個假設是分佈服從常態分佈。這個結果看起來還不錯。或許在實際應用中,你可以說它已經夠好了。不如我們讓 JMP 擬合所有不同的分佈,然後告訴我們它認為哪個最好?稍等片刻,應該很快就能出來了。
我們必須盡可能地尊重這些假設,但這裡我們看到,JMP 並沒有優先選擇常態分佈。它實際上會提示你“請選擇以下分佈之一”。或者,如果你查看直方圖,可以繪製常態分位數圖,看看你的資料點是否落在紅線內,通常情況下就沒問題。如果曲線盡可能筆直,那就更好了。也許你可以勉強使用這個模型,但讓我們來看看如何做得更好。
我們通常的做法是進入「擬合模型」頁面。首先,我們只輸入註射器直徑作為Y軸變量,其他變數都不要輸入。然後,我們查看殘差,發現有些奇怪的地方。似乎存在兩個水平。我們再試一次。進入「擬合模型」頁面。我們將輸入直徑變量,並可能將批次新增為隨機效應,因為我們並不關心批次本身,但我們承認批次之間可能存在差異。新增批次作為隨機效應,並輸入生產線資訊。點擊“運行”。
我們在這裡看到了什麼?我們可以看到殘差現在分佈得相當均勻,沒有明顯的形狀。換句話說,我們可以合理地假設模型是正確的。生產線似乎非常顯著,這意味著生產線 1 和生產線 2 的產量水準存在差異。為什麼?我們不知道。這其中肯定有原因,但這僅僅說明將其保留在模型中是明智之舉。
接下來,我們來看變異數分量。我們可以看到批次間變異對製程的影響程度,以及批次內變異的影響程度。通常,我們會加上平方根,以便估算每個變異數分量的標準差。我們可以看到,它們相當接近,批次間和批次內的變異程度大致相同。
一旦你有了 JMP,獲得置信區間的最簡單方法是使用 Profiler,因為 JMP 現在會用藍線告訴你:“如果你在生產線 1,我的最佳估計是平均值為 10.29,但有 95% 的置信度,它在 10.27 到 10.30 之間。 10.18 到 10.20 之間。
如果您需要預測區間,可以在這裡申請。正如我所說,這是一個複雜的公式。現在,對於每條生產線,他們會提供來自生產線 1 的一個注射器的數據。如果您取一個新的注射器,最佳預測值在 10.21 到 10.36 之間,置信度為 95%,而您還有一些來自生產線 2 的其他值。您可以隨時保存這些數據。如果您儲存了列,例如,各個信賴區間,這些值就會儲存到您的資料表中,隨時可用。
現在,我先把它們刪掉,因為我要向你們展示我們是如何用自己寫的腳本來處理這個問題的。這是另一個腳本,我們打開它。它實際上是一個工作流程。首先,我們需要做的就是確認模型是否滿意,然後點擊「運行」。之後,腳本或工作流程會自動給出正確的結論。現在它正在運行,我們需要稍等片刻。最後,你會得到一個控製表輸出。
你可以看到它複製了文件中的信息,然後計算了許多新的列。最簡單的檢視方法是點擊名為「控製圖限值」的腳本,它會輸出你想要的內容。這樣做的目的是讓你獲得容差區間以及根據模型計算的置信區間。根據你的模型,由於生產線是固定效應,你會得到兩組不同的限值。一組是生產線 1 的限值,另一組是生產線 2 的限值。
如果我們單獨來看一個例子,這個結果的解讀取決於置信度……我看看我們的置信度是多少,0.05,但這只是單側檢定。如果是雙側檢驗,我可以這麼做。總之,現在我們可以以95%的置信度說,至少有99.73%(這是我們設定的覆蓋率)來自1號生產線的未來人口將位於這兩條線之內,2號生產線的情況也一樣。
既然我們的數據在規格範圍內,那就說明我們已經盡力證明了我們維持了足夠的品質水準。如果超出規格範圍,您可能需要擔心,這可能意味著您的流程不夠完善,但也可能意味著您需要收集更多數據,因為數據越多,這些限制就越窄。以上就是我的報告。希望您有所收穫。謝謝聆聽。