756665_zh-TW

liliconcom

追尋「黃金曲線」：FDA與PLS資料序列分析的比較（2021-EU-30MP-742）

Beatrice Blum，寶潔服務有限公司資深統計師
Phil Bowtell，數據與建模科學首席統計學家

隨著感測器如今經濟實惠，寶潔公司大力擴展其感測器的應用，以開發新的、更好的測試方法。感測器在時間或位置等連續體上提供離散測量，通常會產生平滑的曲線。然而，我們從這些感測器數據中提取的指標是生硬的總和統計數據，例如平均值、總和和積分。這些被認為代表了與消費者相關的不同產品特性，但我們難以建立穩健的數學連結。使用歷史方法，我們在此過程中測量的大量產品性能資訊並未得到利用。我們建議應用函數資料分析 (FDA)，一種用於樣條擬合任何類型曲線的數學方法，來提取代表產品特性的判別曲線特徵。透過嬰兒護理產業的案例研究，我們展示瞭如何將感測器數據轉化為有意義的資訊。此外，我們將 FDA 與 SIMCA 中的 PLS 進行比較，以了解何時使用每種方法。

我們設想，將這些配對與消費者數據結合，就能建構產品組合格局，讓我們能夠了解最佳產品效能，也就是所謂的黃金曲線。最終，我們的目標是透過優化產品組合，根據已確定的消費者相關黃金曲線來設計尿布、護墊、刮鬍刀等產品。

自動產生的成績單...

揚聲器	抄本
比阿特麗斯·布魯姆	大家好，感謝您今天參加 Phil 和我的探索演講，讓我們一睹我精彩的 2021 年封鎖髮型。
	我們將討論如何處理一些感測器數據，為什麼要使用功能數據分析（FDA）和偏最小二乘法
	（請）我們正努力追趕黃金曲線。我叫 Beatrice Blum，是寶潔數據與建模科學部門的統計師，負責支持德國嬰兒和女性護理產品的研發。我的合著者是來自英國的 Phil Bowtell。 Phil，你想介紹一下自己嗎？
菲爾·鮑特爾	非常感謝，Bea。你好，我叫Phil。我住在英國，和Bea一樣，也是資料和建模科學小組的統計學家。我為歐洲的各類技術科學提供支持，包括和Bea一起從事嬰兒護理工作。謝謝。
比阿特麗斯·布魯姆	因此，我們今天要介紹的是我們所收集的數據的簡要介紹，以及我們如何嘗試找出與消費者反應、收益 1 和收益 2 相關的不同曲線形狀的含義。
	我們將特別注意比較這些數據的兩種分析方法（PLS 和 FDA），並嘗試了解何時使用哪種方法。
	請注意，我們假設您在本次演講中對 PCA、PLS 和 FDA 有一定的了解，但您真正需要知道的只是一般概念和數據……數據是如何組織的。
	但即使你不熟悉，你仍然很可能能夠跟上這次談話的進程。
	您可能知道寶潔公司正在開發和生產尿布。為了提高這些尿布及其在消費者心目中的產品性能，
	我們努力捕捉並理解尿布的重要特性。特別是在一些測試方法中，我們會在不同位置和不同條件下將液體塗抹在尿布上。
	協議或條件並測量 K 數據曲線（如左側所示）和 P 數據曲線（如右側所示）。
	我們假設這些 K 數據曲線與我們的消費者反應（稱為收益 1）有某種聯繫，而這些 P 數據曲線與我們的消費者反應（收益 2）有關。
	那麼，我們先來看看 K 資料曲線，並分析它們，或嘗試借助 JMP 中的函數資料探索器進行擬合。這樣，我就切換到 JMP 了。
	這是我在 JMP 中的資料表。
	就列數而言，這是一個非常有限的數據表。我們調查的10種產品（A到K）只有一列。
	對於每種產品，我們都按照我們的方法進行了三次重複實驗。我將這兩列合併成一個 ID 列，它由樣品名稱和重複次數組成。
	我們收集隨時間推移的連續變數數據，我們的原始訊號稱為 K raw。
	那麼讓我們看看 K raw 是什麼樣子的。
	我選了兩種產品，這次是G和I，因為它們的曲線看起來差異很大。你可以看到，曲線先上升，然後又下降，這種變化相當……相當平滑。
	對於 PLS 來說，提升並不是什麼大問題，因為它是為了模擬光譜數據而創建的，而對於 FDA（功能數據分析）來說
	這需要平滑的曲線和平滑的導數，但如果曲線只是向上跳躍，則可能不會發生這種情況。
	這些跳躍與我們塗在尿布上的醬汁（？）有關。還可以看到三次重複實驗，所以這個方法似乎重複性很好。
	相當不錯。然而，我們在原始數據中看到了很多噪音。它再次下沉，在這裡震盪，我們假設我們將建模很多噪音和過度擬合。
	因為這裡有太多的振盪。所以我們發現，在擬合之前需要先平滑曲線，這就是我們下面看到的。我們用視窗大小為 20 的移動平均超級樣本（？）來平滑曲線。
	我會過去嘗試適應
	功能
	組件到這個。所以我把變數放到對應的角色中。我使用平滑後的K值，而不是原始資料。我需要ID變數和ID函數。 X是我們測量K值的時間，最終我們希望將這些數據與我們的收益率1連結起來。
	連續變量，並嘗試理解我們的預測曲線與消費者反應之間的關係。所以我把它放在了補充角色。
	運行它，從 FDE 獲得原始輸出，通常我只是從擬合 B 樣條曲線開始，因為這很好、很容易且相對較快。
	可以看到，儘管程式碼量有好幾千行，但這只花了幾秒鐘。所以我們得到了結果。看起來還不錯……雖然遠看還行，但讓我們深入一點。
	如同前面所提到的，當談到開發功能資料分析的目的時，它期望的是平滑的曲線。
	在這個特殊情況下，B 樣條實際上只是將三次樣條拼接在一起
	並繞過像這樣的角落，這裡沒有三次……當然沒有三次曲線，但行為上有一個真正的變化和一個轉折點，
	它必須四處走動，試圖捕捉這種行為，但你可以看到它做得很差。它在試圖表現我們在頂部觀察到的平台期方面也做得不好。
	因此，儘管這種方法非常快速、簡單，而且在大多數情況下，它確實是一種很好的方法，
	上下文，使用 B 樣條函數可能不是最佳選擇。與其這樣，
	我查閱了幫助文檔，做了一些研究，發現如果我們有剖面數據，或者像光譜數據之類的數據，就應該使用P樣條。 JMP推薦的就是P樣條，所以我們就用了。
	因為我確實看到我們在這裡有階躍變化，所以吸引它的唯一方法就是使用階躍函數。
	由於 P 樣條曲線需要更長的時間來擬合，因此我對它們進行了預擬合，我們只需看看結果是什麼樣子。
	因此，我們再次查看實際和預測的批次，發現他們在獲取這些轉折點方面做得更好了，
	實現了向上的一步。他們也在某種程度上抓住了這裡的高原，但這之前就已經假設了，是的，他們仍然這樣做
	捕捉到相當多的噪音。所以這不太平滑。如果能用B樣條曲線來擬合就更好了。
	下坡式的退化類型。也許在真正需要的地方，只需逐步使用 P 樣條函數即可，但至少這比我們的 B 樣條函數擬合好得多。讓我們看看會發生什麼。
	所以它在二維評分圖上很好地展現了我們不同的產品。我們可以清楚地看到不同產品的重複資料是如何相互關聯的。
	有A，有H等等。有些不太好，所以I分佈得更廣一些，而且與其他I重疊。
	然而，我們可以看到，原始數據中良好的可重複性似乎在這裡得到了很好的體現。我們決定採用四個FPC，
	就像這裡看到的一樣。我們可以看到，它們很好地預測了我們的曲線。
	但最終，我們的目標顯然是觀察消費者反應與不同曲線之間的關係。因此，JMP 在後台，也就是廣義迴歸模型中所做的，就是利用報酬率 1 對這四個 FPC 來擬合。
	透過這些結果，我們現在可以看到收益率 1 的變化如何改變曲線的形狀；可以清楚地看到向上的趨勢。
	所以
	似乎相對容易捕捉到正在發生的事情，所以這真的是一個糟糕的產品，所以它肯定有很多上升，很多停滯不前，
	這似乎下降了很多。所以我們找到了一個我們認為可能接近收益率1的黃金曲線的點。
	然而，當我們查看真正從消費者收集的數據時，現在不是連續的 K，而是按分類順序排列。
	我們必須看到，從 0.31 開始，這四種產品幾乎完全相同...
	0.031 到 0.034。如果我們觀察曲線形狀以及它們在左側的變化，我們會發現它們非常不同。
	所以它並不完全一致；你甚至可以說它與我們在擬合連續收益率 1 時看到的結果完全不一致。所以透過下面的這個，這會…它們看起來非常相似，儘管消費者反應已經存在很大差異。
	再說一次，這與我們所看到的連續的並沒有太大的不同。
	說完這些我回到了我的幻燈片
	回到我的幻燈片。在這裡，我們可以看到如何將從 FDA 擬合中提取的數據與我們的產量 1 進行擬合。
	你實際上可以看到，這是一個非常非常好的模型。它好到我們一直懷疑它是否適用於新的數據。我們採用了自動驗證和模型平均法進行擬合，就像 Phil Ramsey 和 Tiffany Rao 在《Discoveries America 2020》中提出的一樣。
	R 平方為 97，然後 R...以 R 平方交叉驗證 R 平方為 90，這太好了，我們不敢相信這是真的。
	讓我們看看 Phil 使用 PLS 查看相同數據時發現了什麼。
菲爾·鮑特爾	所以，正如你所說，我們得到的 R 平方為 97%，而印刷 R 平方為 90。一切看起來都很棒。讓我們來看看偏最小平方法與此結果的比較結果如何。
	我一直在研究主成分分析，也就是偏最小平方法，這是我們在處理光譜或曲線時會用到的工具。它之所以被廣泛使用，是因為我們所有的輸入都高度相關，而且
	傳統的迴歸技術並不能很好地處理這個問題。我們首先註意到的是，當我們查看Bea在上一張投影片中的得分圖時
	在演示中，它看起來幾乎與主成分分析中得到的完全相同，所以我們在這裡看到了一些共同的聯繫。
	當我運行偏最小二乘法時，我看到的結果是 R 平方為 73%，
	不如 97 那麼好。而且，如果你將觀察值與預測值進行比較，
	我們確實看到了看起來還不錯的效果，但顯然產品 B 產生了一些影響和不當影響。
	在JMP和SIMCA中，我們得到的交叉驗證指標Q平方較低，僅33%。所以這其實不是一個好的模型。
	這是基於我們現有的原始平滑資料進行的。其他轉換方法也可以嘗試，但我們確實沒能建立一個好的模型。這肯定無法與FDA競爭。
	然而，我們確實從模型中得到了係數估計值。我們也得到了一個叫做 VIP 的量，它們結合起來讓我們了解曲線的哪些特定區域會激發預測，或告訴我們預測結果如何。所以，如果我疊加
	這裡是原始數據圖上的 VIP 和係數，綠色突出顯示了對預測產生重大影響的區域，這些區域對模型有貢獻。
	橙色代表中等，影響不大。灰色代表低，這實際上告訴我們，從預測的角度來看，第一個高峰實際上並沒有太大的影響。
	接下來，我來看另一組數據。這是 p 數據曲線，這些曲線是我們收集到的。
	四個條件，或許可以稱之為協議或條件，在三個位置。我們還有第五個協議或條件，但這只在位置 1 處進行，因此這裡沒有繪製出來。
	左邊是位置 1，右邊是位置 3，上方是條件 1，底部是條件 4。
	需要注意的是，這些曲線非常相似。我們確實看到了一些細微的偏差。
	但有人問，我們需要所有這些曲線嗎？它們都需要嗎？或者我們可以取其中一部分來幫助我們理解數據。所以我做的是把所有乘積都按順序畫出來。所以我得到了位置 1，
	條件 1，一直到位置 3、條件 4 並繪製資料。
	我們一眼就能看出，有一些共同的趨勢，也有一些差異。所以我們總是…我們發現這裡有三種產品似乎與其他產品不同。
	所以我們的產品品質是有差異化的。如果我觀察不同的情況，就會發現，這些產品顯然會隨著我們條件的改變而改變。
	從位置來看，似乎影響不大。我們能不能更詳細地研究一下這個問題。
	所以，對於任何多變量數據，通常你首先要做的就是直接把它放入主成分分析中，看看能不能得到結果。所以，它是一種探索性資料分析工具。
	如果我查看分數圖，我會將您剛剛看到的所有資料放入包中，它會顯示主要成分，並按產品進行顏色編碼。
	我們一眼就能看出，產品 D、G 和 H 似乎與其他產品的位置不太一樣。這裡有三種產品，那邊有七種產品。
	當我們與開發和製造這些產品的人交談時，我們發現這完全合理。所以，這些數據確實凸顯了我們預期會看到的情況，這很好。
	然後我根據不同的地點進行標註，但我並沒有發現任何規律。我覺得你得有點大膽才能斷言那裡發生了什麼事。
	然而，當我根據不同的條件進行著色時，我確實看到了一些規律。如果我看一下我們這裡的三個產品，D、G 和 H，
	我可以看到，從右到左，我們看到了從條件1到條件4的變化，這七種產品也是如此。條件5位於中間，這也是我們預料之中的，因為測量設備實際上是不同的。
	所以，從探索性的角度來看，我們可以看到這些差異。讓我們看看能否從更統計的角度來看這個問題。我將以地點 3 為例，重點放在地點 3 內的四種情況。
	為了做到這一點，我將使用多塊正交分量分析，這有點拗口，所以它就簡化為 MOCA。
	而且，我還將研究分層建模，但我不會這樣做...在本次演講中過多討論這個問題，我將集中精力...重點關注 MOCA，這是我們在統計包 SIMCA 中發現的兩種技術。
	現在我們的想法是，我們查看數據塊，傳統上每個數據塊代表測量某種化學物質或某種產品的不同方法。例如，我們有近紅外線、紅外線和拉曼光譜。
	我們利用 MOCA 和分層建模要做的兩件事首先是評估冗餘度。
	我可能只需要近紅外線和拉曼光譜進行預測，事實上，如果我知道近紅外線並且知道拉曼，我實際上可以預測紅外線，否則它是多餘的。
	這就是我們要看的，但要注意的一點是，當我談到冗餘時，並不意味著我可以扔掉那個特定的塊。
	因為就其本身而言，它可能會增強預測。所以，這是在冗餘度和可預測性之間尋求平衡。正如我們已經看到的，如果我查看這些圖表，似乎可能存在一些冗餘。
	那麼究竟發生了什麼事？好吧，讓我們從重疊的角度來思考這個問題。我得到了位置3和四個條件。為了表達重疊，我畫了一張很棒的維恩圖，我們可以開始嘗試理解我們得到了什麼樣的訊息。
	第一個資訊點是全域聯合訊息，也就是我們擁有的四種情況所共有的資訊。
	然後我可以獲得僅對兩個或三個條件共同的信息，即局部聯合信息，如此處以橙色突出顯示。
	最後剩下的就是獨特的訊息，這就是不同條件本身為參與者帶來的好處。那麼，我們在這裡可以期待看到什麼呢？
	那麼，左邊表示四種條件其實有相當大量獨立資訊的情況。
	我們可能會想，不，這裡不會有任何冗餘，我們必須保留所有四個。
	右圖中，我們有大量全局聯合和局部聯合信息，但沒有那麼多獨特信息，這可能表明我們可能存在冗餘的情況，並且我們可能只需要查看一個或兩個條件，而不是全部四個條件。
	就 SIMCA 所做的事情而言，
	它進行了一些建模，我們得到了四個條件，並且它擬合了四個組件，其中兩個正在查看聯合組件，兩個正在查看獨特組件。
	總的來說，我們解釋了數據的很大一部分變異性。從頂部的數字可以看出，它幾乎解釋了100%的變異性。這是一件好事。
	綠色條表示全局聯合訊息，我們可以看到，這些訊息確實很大；我們得到了一個很高的數字。所以
	這只是告訴我們這四種不同情況之間存在大量重疊。
	如果我查看橙色的局部聯合訊息，就會發現有一些，就在條件 2、3 和 4 之間。它不是很大。
	最後，我們可以看看每個條件中每個獨特資訊的獨特貢獻，這些貢獻非常小。所以我們幾乎可以肯定這裡會存在一些冗餘。
	我們也可以研究產品的獨特性來自哪裡。所以這裡氣泡的大小表示它是否獨特。
	現在，如果沒有唯一性，我們得到的氣泡就會非常小，例如，產品 I 和 F 的氣泡就非常小。如果我們單獨查看這些氣泡，我們預計這裡只會有很多綠色的條形。
	如果我們看一下產品 H，我們會看到更多的獨立性。這說明，對於條件來說，存在一些足夠的獨立資訊。
	不過，這根本不是一個大泡沫，實際上看起來有很多冗餘。所以我們接下來要做的是，我們考慮了所有13種可能的條件和地點，運行了MOCA分析和分層模型，
	由此，它告訴我們，理想情況下，我們需要在位置 1 和 3 處滿足第一個條件，在位置 1 處滿足第五個條件，
	這其實有點違背了我們之前的說法。你知道，我們之前說過，
	你知道情況略有不同，地點卻沒有任何差別。嗯，不完全是，顯然在預測方面發生了一些事情，
	但我們已經能夠將 13 種不同的組合減少到 4 種，並且得到了一個相當好的模型，R 平方為 85.5
	Q平方為69.3。交叉驗證指標還不錯；如果兩者更接近就更好了，但至少我們在這裡建模數據，在本例中是產量2，比我們過去使用P數據時做得更好。
	好了，我要把話轉回給 Bea。
比阿特麗斯·布魯姆	菲爾，謝謝你提供的這些非常有趣的見解。現在我們來看看FDA如何處理P數據，以及我們能從中獲得什麼。
	與菲爾向我們展示的類似，我們可以看到，位置因素的影響不如四種不同條件的影響那麼大。因此，它們對結果的影響更大。
	我們還可以看到，這很有趣，當我們看看這裡表現最好的兩款產品，分別為 74 和 72，
	它們是曲線，是相應的預測曲線，它們看起來非常不同，甚至與我們在 K 曲線中看到的差異更大，甚至可能更大。
	因此，如果我們要尋找黃金曲線並試圖找出真正表現最佳的配置文件，這會給我們帶來困難，因為很難在這兩條曲線之間找到共同點。
	所以真正的問題是，是否存在幾條黃金曲線，或者我們應該追求的是那些已經表現良好的曲線之間的平均曲線？
	我們目前還無法回答這個問題。我們也無法回答是否存在任何冗餘，或我們真正需要衡量哪些位置條件組合。
	然而，當我再次從這些 FDA 中提取摘要並嘗試建立模型並預測產量 2 時，我再次得到一個非常好的模型，其 R 平方為 98，並按 R 平方為 97。是的，我們已經知道這好得令人難以置信。
	另一方面，我們確實嘗試使用測量部門提供給我們的曲線中提取的其他值來對相同的產量 2 進行建模。
	但是，嘗試對這些提取的值進行建模並預測產量 2 卻完全失敗了。我們得到的 R 平方甚至與我們在這裡得到的 R 平方相差甚遠。
	因此，我們確實認為有些事情正在發生，並且在嘗試了解如何模擬收益率 2 方面取得了相當大的進展。
	讓我們總結一下我們的發現。我們已經看到，這兩個模型，或者更確切地說是兩種方法，都得出了非常相似的主成分，並且它們在從 K 曲線和 P 曲線中提取的共性方面也一致。
	FDA 可能更容易使用，幾乎不需要資料準備。它允許我們根據產量 1 和產量 2 來預測曲線形狀，這確實讓我們大致了解黃金曲線可能會是什麼樣子。
	它還表明哪些測量實際因素似乎更為重要。
	我們能夠獲得真正好的收益模型，但確實對這些模型提出了深刻的質疑。
	目前我們無法擷取哪些位置條件組合最值得保留。我們希望透過 JMP 對此進行跟進。
	另一方面，PLS 並沒有給我們非常有用的信息，告訴我們曲線的哪些部分對於區分我們的產品最有幫助。
	MOCA 和分層 PLS 也能幫助我們明確需要遵循的測量方案，以便從 P 曲線中獲得最相關的資訊。 PLS 模型預測產量的適配優度指標似乎比 FDA 模型更合理。
	我們共同努力，找到了清晰的模式來區分我們的產品。 PLS 和 FDA 都讓我們能夠：
	從曲線中提取關鍵特徵，並計算出良好的產量預測模型。我們還了解了曲線的各個方面以及哪些協議最有意義。
	我們成功地模擬或預測了比過去更好的收益率。這是一個巨大的進步。
	這其實是一個很好的例子，說明即使廚師太多也不會把湯弄壞。這兩種方法都在某種程度上是一致的，但它們也確實在彼此不同的地方提供了不同的附加資訊。這項工作仍在進行中；我們將在此基礎上擴展。
	特別，
	我們將添加新的獨立數據來驗證或改進模型。我們仍然需要微調需要保留哪些協議，以便提供最相關、冗餘最少的資訊。
	我們希望 JMP 能夠在這方面提供協助，並在 FDE 平台上實現這一點。我們的最終目標是了解尿布的材料成分
	這將導致哪些曲線形狀，以及這些曲線形狀與消費者收益之間的關係。在追尋黃金曲線的過程中，我們取得了良好的進展，並很高興最終能夠完全捕捉到它。
	最後，我們感謝您的關注，現在我們願意回答您的問題。

進階統計建模基礎資料分析與建模消費者與市場研究資料混合與清理數據探索與視覺化實驗設計預測模型和機器學習品質與工藝工程可靠度分析