揚聲器
|
成績單
|
| 比阿特麗斯·布魯姆 |
大家好,感謝您今天參加 Phil 和我的 Discovery 演講,讓我們一睹我精彩的 2021 年鎖定髮型。 |
| |
我們將討論如何處理一些傳感器數據,為什麼使用功能數據分析 (FDA) 和偏最小二乘法 |
| |
(PLS)我們追求抓住黃金曲線。 我叫 Beatrice Blum,是寶潔公司數據和建模科學部門的一名統計學家,負責支持德國的嬰兒和女性護理研發。 我的合著者是來自英國的 Phil Bowtell。 菲爾,你想自我介紹一下嗎? |
| 菲爾·鮑特爾 |
非常感謝你,碧。 你好,我叫菲爾。 我住在英國,和 Bea 一樣,我是數據和建模科學小組的一名統計學家。 我支持歐洲的各種技術科學,包括 Bea 的嬰兒護理。 謝謝。 |
| 比阿特麗斯·布魯姆 |
因此,我們今天要介紹的內容是快速介紹我們收集的數據,以及我們如何嘗試找出不同曲線形狀相對於消費者反應(產量 1 和產量 2)的含義。 |
| |
我們將特別注意比較這些數據的兩種分析方法(PLS 和 FDA),並嘗試了解何時使用哪種方法。 |
| |
請注意,在本次演講中,我們假設您了解 PCA、PLS 和 FDA 的一些知識,但您真正需要知道的是一般概念和數據……數據是如何組織的。 |
| |
但即使您不熟悉,您仍然很可能能夠理解本次演講的內容。 |
| |
所以您可能知道寶潔公司正在開發和製造尿布。 為了改善這些尿布及其在消費者眼中的產品性能, |
| |
我們試圖捕捉並理解尿布的重要特徵。 特別是在我們的一些測試方法中,我們在不同位置和不同條件下將液體塗抹到尿布上。 |
| |
協議或條件並測量 K 數據曲線(如左圖所示)和 P 數據曲線(如右圖所示)。 |
| |
我們假設這些 K 數據曲線在某種程度上與我們的消費者響應(稱為產量 1)相關,並且這些 P 數據曲線與我們的消費者響應(產量 2)相關。 |
| |
因此,讓我們首先查看 K 數據曲線並分析這些曲線,或者嘗試借助 JMP 中的函數數據瀏覽器來擬合這些曲線。 這樣,我將切換到 JMP。 |
| |
這是我在 JMP 中的數據表。 |
| |
這是一個列數非常有限的數據表。 我們有一欄列出了我們一直在調查的 10 種產品,從 A 到 K。 |
| |
對於每一種產品,我們都在我們的方法中進行了三次重複。 我將這兩列組合成一個 ID 列,它由樣品名稱和重複編號組成。 |
| |
我們隨著時間的推移收集連續變量數據,我們的原始信號稱為 K 原始信號。 |
| |
那麼讓我們看看 K raw 是什麼樣子的。 |
| |
我只選擇了兩種產品,在本例中是 G 和 I,因為它們的配置文件似乎完全不同。 你可以看到,我們有一些曲線向上跳躍,然後以一種相當……相當平滑的行為變平的情況。 |
| |
對於 PLS 來說,升級並不是什麼大問題,PLS 是為了嘗試對光譜數據進行建模而創建的,而對於 FDA(功能數據分析)來說 |
| |
這將期望平滑的曲線和平滑的導數,如果曲線只是向上跳躍,則可能不會給出這些。 |
| |
這些跳躍與我們應用於尿布的醬汁(?)有關。 還可以看到三個重複,因此該方法似乎具有很好的重現性。 |
| |
相當不錯。 然而,我們在原始數據中看到很多噪音。 它再次下沉,在這裡振盪,我們假設我們將模擬大量噪音和過度擬合 |
| |
只是因為我們這裡有太多的波動。 所以我們發現它表明在擬合之前平滑曲線,這就是我們在這裡看到的。 我們通過使用窗口大小為 20 的移動平均超級樣本(?)來平滑曲線。 |
| |
然後我會過去嘗試適應 |
| |
功能性的 |
| |
組件到此。 所以我把我的變量放入相應的角色中。 我使用平滑後的 K 代替原始數據。 我需要我的 ID 變量和我的 ID 函數。 我的 X 是我們測量 K 的時間,以及最終我們想要實現的目標,即將這些數據鏈接到我們的產量 1 |
| |
連續變量,並嘗試了解我們的預測曲線與消費者反應的關係。 所以我把這個放到了輔助的角色裡。 |
| |
運行它,從 FDE 獲取原始輸出,通常我只是從擬合 B 樣條線開始,因為這很好、簡單且相對較快。 |
| |
可以看到,儘管我們有幾千行,但這只花了幾秒鐘。 這樣我們就得到了結果。 它看起來並不算糟糕……從遠處看確實很糟糕,但是讓我們深入了解一下。 |
| |
正如已經提到的,當談論功能數據分析的開發目的時,它期望平滑的曲線。 |
| |
在這種特殊情況下,B 樣條實際上只是將三次樣條拼接在一起 |
| |
並繞過像這裡這樣的拐角,那裡沒有三次……當然沒有三次曲線,但行為的真正變化和轉折點, |
| |
它必須四處走動並嘗試在某種程度上捕獲該行為,但您可以看到它做得非常糟糕。 它在試圖代表我們在頂部觀察到的這些高原方面也做得不好。 |
| |
因此,儘管速度非常快、簡單,並且在大多數情況下,在這個特定的情況下是一個非常好的方法 |
| |
就上下文而言,B 樣條可能不是最好的選擇。 相反, |
| |
我在幫助中閱讀了一些內容並做了一些研究,發現好吧,如果我們有輪廓數據,如果我們有光譜數據之類的東西,我們應該使用 P 樣條線。 這就是 JMP 的建議,因此我們選擇了 P 樣條曲線。 |
| |
因為我確實看到我們這裡有階躍變化,所以吸引……吸引這一點的唯一方法是使用階躍函數。 |
| |
由於 P 樣條線需要更長的時間來擬合,因此我預先擬合了它們,我們只需看看結果是什麼樣子。 |
| |
因此,我們再次查看這裡的實際和預測批次,然後發現,哦,他們在實現這些轉折點...轉折點方面做得更好 |
| |
實現向上的一步。 他們也在某種程度上捕捉到了這裡的高原,但之前已經假設是的,他們仍然這樣做 |
| |
捕獲相當多的噪音。 所以這並不是很順利。 如果有一個適合這個的 B 樣條實際上會非常好 |
| |
下山退化型風格。 也許只需在真正需要的區域中步進 P 樣條即可,但至少這比我們的 B 樣條擬合要好得多。 讓我們看看發生了什麼。 |
| |
因此,它在將我們的不同產品放在其上(二維得分圖)方面做得非常好。 我們可以清楚地看到不同產品的複製品如何相互分組。 |
| |
有A;我們有 H 等等。 其中一些不太好,所以 I 的分佈有點遠,並且與其他的重疊。 |
| |
然而,我們可以看到,我們在原始數據中看到的良好再現性似乎在這裡表現得很好。 我們決定選擇四個 FPC, |
| |
正如這裡所看到的。 我們可以看到他們很好地預測了我們的曲線。 |
| |
但最終,我們的目標顯然是了解消費者的反應如何與不同的曲線相關。 因此,JMP 在廣義回歸的後台所做的就是使用 Yield 1 擬合這四個 FPC。 |
| |
通過結果,我們現在可以看到產量 1 的變化如何改變曲線的形狀;可以清楚地看到一條向上的線。 |
| |
所以 |
| |
似乎相對容易捕捉正在發生的事情,所以這是一個非常糟糕的產品,所以它肯定上漲了很多,這裡停滯不前, |
| |
而這似乎又下降了很多。 因此,我們發現了一些我們認為可能接近收益率 1 的黃金曲線的東西。 |
| |
然而,當我們查看我們真正從消費者那裡收集的數據時,現在不是連續的 K,而是我們只是按類別將它們排序。 |
| |
我們必須看到這四種產品從 0.31 開始幾乎完全相同...... |
| |
0.031 至 0.034。 如果我們觀察左側的曲線形狀以及它們如何變化,我們會發現它們有很大不同。 |
| |
所以它並不完全一致;你甚至可以說它與我們在擬合連續產量 1 時所看到的完全不相符。 因此,通過這裡的這一點,這……它們看起來非常相似,儘管消費者的反應已經存在很大差異。 |
| |
再說一遍,這一期與我們從連續期中看到的情況並沒有太大不同。 |
| |
然後我回到我的幻燈片 |
| |
回到我的幻燈片。 在這裡,我們可以看到如何將從 FDA 提取的數據與我們的產量 1 相匹配。 |
| |
你實際上可以看到這是一個非常非常好的模型。 它太好了,以至於我們總是懷疑這是否適用於新數據。 我們通過使用自動驗證和模型平均來進行擬合,正如 Phil Ramsey 和 Tiffany Rao 在 2020 年 Discoveries America 中所提倡的那樣。 |
| |
R 平方為 97,然後 R...按 R 平方交叉驗證 R 平方為 90,這太好了,讓我們相信這是真的。 |
| |
接下來,讓我們看看 Phil 使用 PLS 查看相同數據時發現了什麼。 |
| 菲爾·鮑特爾 |
所以,正如你所說,我們的 R 平方為 97%,而壓力 R 平方為 90。 一切看起來都非常好。 讓我們看看偏最小二乘法與此相比如何。 |
| |
所以我一直在研究主成分分析、偏最小二乘法,這是我們在擁有光譜或曲線時使用的工具。 它被廣泛使用是因為我們所有的輸入都將高度相關並且 |
| |
傳統的回歸技術不能很好地解決這個問題。 我們注意到的第一件事是,當我們查看 Bea 在上一張幻燈片中的得分圖時 |
| |
在演示中,它看起來幾乎與主成分分析中的完全相同,因此我們可以在其中看到一些常見鏈接。 |
| |
當我運行偏最小二乘法時,我看到的是 R 平方為 73%, |
| |
沒有97那麼好。 而且,如果你將觀察到的情況與預測相比較, |
| |
我們確實看到了看起來很合適的產品,但顯然產品 B 產生了一些影響和不適當的影響。 |
| |
在 JMP 和 SIMCA 中,我們得到了交叉驗證度量 Q 平方,較低為 33%。 所以這並不是一個好的模型。 |
| |
這是根據我們擁有的原始平滑數據完成的。 您還可以嘗試其他轉換,但實際上我們無法構建一個好的模型。 它當然無法與 FDA 競爭。 |
| |
然而,我們從模型中得到的一件事是係數估計。 我們還得到了這個稱為 VIP 的量,這些量一起讓我們了解曲線的哪些特定區域令人興奮或告訴我們預測發生了什麼。 所以如果我只是覆蓋 |
| |
這裡是原始數據圖上的 VIP 和係數,綠色突出顯示了這對預測確實產生重大影響的區域,以及對模型的貢獻。 |
| |
橙色是中等的,不是那麼多。 灰色很低,這實際上告訴我們,從預測的角度來看,第一個峰值確實沒有太大影響。 |
| |
接下來,我正在查看另一組數據。 這是 p 數據曲線,這裡我們有已收集的這些曲線。 |
| |
三個地點的四個條件,也許可以稱之為協議或條件。 我們還有第五個協議或第五個條件,但這僅在位置 1 處進行,此處未繪製。 |
| |
我們所擁有的是左側的位置 1,右側的位置 3,頂部的條件 1,一直到底部的條件 4。 |
| |
值得注意的是,這些曲線非常相似。 我們確實看到了一些輕微的偏差。 |
| |
但有人提出的一個問題是,我們需要所有這些曲線嗎? 它們都需要嗎? 或者我們可以提取一個子集並使用它們來幫助我們理解數據。 所以我所做的就是獲取所有產品並按順序繪製它們。 所以我有位置 1, |
| |
條件 1,一直到位置 3,條件 4 並繪製數據。 |
| |
我們可以立即看到一些共同的趨勢;我們還可以看到一些差異。 所以我們總是......我們看到這裡有三種產品似乎與其他產品不同。 |
| |
所以我們有一些產品差異化。 如果我觀察不同的條件,我可以看到,顯然,隨著我們改變條件,這些產品肯定會發生變化。 |
| |
從位置上看,似乎影響並不大。 讓我們看看是否可以更詳細地研究一下這個問題。 |
| |
因此,對於任何多變量數據,通常,您要做的第一件事就是將其投入主成分分析,看看是否會產生任何結果。 所以它是一個探索性數據分析工具。 |
| |
如果我查看分數圖,我會獲取您剛剛看到的所有數據,將其放入包中,它會顯示主要組件,並按產品進行顏色編碼。 |
| |
我們可以立即看到產品 D、G 和 H 似乎與其他產品相距甚遠。 我們這裡有三種產品,這裡有七種產品。 |
| |
當我們與開發這些產品和製造這些產品的人交談時,這是完全有道理的。 因此,數據實際上突出了我們期望看到的東西,這是件好事。 |
| |
然後我通過不同的位置進行突出顯示,但我並沒有真正看到這裡的模式。 我認為你必須非常冒險才能說那裡正在發生一些事情。 |
| |
然而,當我根據不同的條件著色時,我確實看到了一些圖案的出現。 如果我看看我們這裡的三種產品,D、G 和 H, |
| |
我可以看到,當你從右向左看時,我們看到從條件 1 到條件 4 的轉變,這裡的七種產品也是如此。 條件 5 位於中間,這也是我們所期望的,因為它實際上是不同的測量設備。 |
| |
所以,從探索的角度來看,我們可以看到這些差異。 讓我們看看是否可以從更統計的角度來看待這個問題。 對於我要查看的示例,我將重點關注位置 3 並查看位置 3 中的四個條件。 |
| |
為此,我將使用多塊正交分量分析,這有點拗口,所以它只是簡化為 MOCA。 |
| |
而且,我還將研究分層建模,但我不會那樣做……在本次演講的背景下討論太多,我將重點關注……重點關注MOCA 和這些是我們在統計包SIMCA 中找到的兩種技術。 |
| |
現在這裡的想法是,我們查看數據塊,傳統上每個塊代表測量某種化學品或某種產品的不同方法。 例如,我們有近紅外、紅外和拉曼光譜。 |
| |
我們希望通過 MOCA 和分層建模完成的兩件事首先是評估冗餘。 |
| |
可能我只需要近紅外和拉曼光譜來進行預測,事實上,如果我知道近紅外並且我知道拉曼,我實際上可以預測紅外,否則它是多餘的。 |
| |
這就是我們要考慮的問題,但需要注意的一件事是,當我談論冗餘時,它並不自動意味著我可以扔掉那個特定的塊。 |
| |
因為它本身可能會增加預測。 因此,這是冗餘和可預測性之間的平衡行為。 正如我們已經看到的,如果我查看這裡的這些圖表,看起來可能存在一些冗餘。 |
| |
那麼到底發生了什麼? 好吧,讓我們從重疊的角度來考慮這個問題。 我已經有了位置 3,並且已經有了四個條件。 為了表達重疊,我有一個很棒的維恩圖,我們可以真正開始嘗試理解我們所獲得的信息類型。 |
| |
第一個信息點是全球聯合信息,這是我們擁有所有四種情況所共有的信息的地方。 |
| |
然後我可以獲得僅對兩個或三個條件通用的信息,即局部聯合信息,如此處橙色突出顯示的那樣。 |
| |
最後剩下的就是獨特的信息,這就是不同的條件本身給聚會帶來的東西。 那麼在這裡我們會看到什麼呢? |
| |
好吧,左側表示這四個條件實際上具有相當大量的獨立信息的情況。 |
| |
我們可能會想,不,這裡不會有任何冗餘,我們必須保留所有四個。 |
| |
右邊的圖像中,我們有大量的全局聯合和局部聯合信息,並且沒有那麼多獨特的信息,這可能表明我們可能存在冗餘的情況,並且我們可能會逃避查看其中的一兩個信息條件,而不是全部四個。 |
| |
就 SIMCA 的工作而言, |
| |
它進行了一些建模,我們得到了四個條件,並且安裝了四個組件,其中兩個正在查看聯合組件,其中兩個正在查看獨特的組件。 |
| |
總的來說,我們解釋了數據的很多變異性。 我們可以從頂部的數字看到解釋了近 100% 的變異性。 這是好事。 |
| |
綠色條是查看全局聯合信息,我們可以看到,這些信息確實很大;我們的人數很多。 所以 |
| |
這只是告訴我們這四種不同的條件之間存在大量重疊。 |
| |
如果我查看橙色的局部聯合信息,就會發現有一些位於條件 2、3 和 4 之間。 它並不大。 |
| |
最後,我們可以看看每個條件的每個獨特信息所具有的獨特貢獻,而且這是相當小的。 所以我們非常確定會有一些冗餘。 |
| |
我們還可以調查產品的獨特性來自哪裡。 所以這裡氣泡的大小就表明了它是否是唯一的。 |
| |
現在,如果我們沒有唯一性,我們就會得到非常小的氣泡,因此,例如,產品 I 和 F 非常小。 如果我們單獨查看這些,我們會期望這裡有很多綠色的綠色條。 |
| |
如果我們看看產品 H,我們會看到更多的獨立性。 它告訴我們有一點獨立的信息足以滿足條件。 |
| |
但這並不是一個大泡沫,一點也不,而且實際上看起來存在很多冗餘。 所以接下來我們採取了所有 13 種可能的條件和位置,我們運行了 MOCA 分析以及層次模型, |
| |
由此,它告訴我們,理想情況下,我們需要位置 1 和 3 處的第一個條件,以及位置 1 處的第五個條件, |
| |
這確實有點違背我們所說的。 你知道,我們之前說過,嗯, |
| |
您知道條件略有不同,但地點根本沒有不同。 嗯,不完全是,在預測方面顯然發生了一些事情, |
| |
但我們已經能夠從 13 種不同的組合減少到 4 種,模型相當不錯,R 平方為 85.5 |
| |
Q 平方為 69.3。 交叉驗證措施還不錯;如果這兩個更接近就好了,但至少我們在這裡對數據進行建模,在本例中為產量 2,比我們過去能夠做到的更好,使用的是 P 數據。 |
| |
那麼,我將回到Bea。 |
| 比阿特麗斯·布魯姆 |
菲爾,謝謝你提供的這些超級有趣的見解。 現在讓我們看看 FDA 對 P 數據做了什麼以及我們可以從中得到什麼。 |
| |
與菲爾向我們展示的類似,我們可以看到位置作為一個因素,如果你可以說,它的影響不如不同的四個條件那麼大。 所以他們的結果差異更大。 |
| |
我們還可以看到,這非常有趣,當我們查看這裡表現最好的兩款產品(74 和 72)時, |
| |
它們是曲線,相應的預測曲線,它們看起來非常不同,甚至比我們在 K 曲線中看到的更不同,甚至可能。 |
| |
因此,如果我們要尋找黃金曲線並嘗試找出真正性能最佳的配置文件,這會給我們帶來困難,因為很難找到這兩條曲線之間的共同點。 |
| |
所以問題是,是否存在幾條黃金曲線,或者已經表現良好的曲線之間的平均曲線是否是我們必須追求的? |
| |
我們還不能回答這個問題。 我們也無法回答是否存在任何冗餘或我們真正需要從中測量哪些位置條件組合。 |
| |
然而,當我再次從這些 FDA 中提取摘要並嘗試構建模型並預測產量 2 時,我再次得到一個 R 平方為 98 的超級好模型,並按 R 平方為 97。 是的,我們確實已經知道這好得令人難以置信。 |
| |
另一方面,我們確實嘗試使用測量部門提供給我們的曲線中的其他提取值對相同的產量 2 進行建模。 |
| |
但嘗試對這些提取的值進行建模並預測產量 2 根本沒有成功。 我們能夠實現的 R 方甚至與我們在這裡得到的 R 方相差甚遠。 |
| |
因此,我們確實認為正在發生一些事情,並且我們在嘗試理解如何對 Yield 2 進行建模方面邁出了相當大的一步。 |
| |
讓我們總結一下我們的發現。 我們已經看到,這兩種模型,或者更確切地說,兩種方法,都會產生非常相似的主成分,並且它們在從 K 和 P 曲線中提取的共性方面是一致的。 |
| |
FDA 可能更容易使用,幾乎不需要準備數據。 它使我們能夠根據產量 1 和產量 2 預測曲線形狀,這確實讓我們對黃金曲線的外觀有所了解。 |
| |
它還表明保留哪些測量實際因素似乎更重要。 |
| |
我們能夠獲得非常好的產量模型,但確實對這些模型提出了深刻的質疑。 |
| |
目前,我們無法提取哪些位置條件組合與保留最相關。 我們希望通過 JMP 跟進此事。 |
| |
另一方面,PLS 並沒有為我們提供非常有用的信息,即曲線的哪些部分在區分我們的產品方面信息最豐富。 |
| |
MOCA 和分層 PLS 還為我們指明了我們確實需要保留的測量協議,以便從 P 曲線中捕獲最相關的信息。 就擬合優度指標而言,預測產量的 PLS 模型似乎比 FDA 模型更為合理。 |
| |
我們的共同努力幫助我們找到了使我們的產品脫穎而出的清晰模式。 PLS 和 FDA 都使我們能夠, |
| |
從痕跡中提取基本特徵並為我們的產量計算良好的預測模型。 我們還了解了曲線的各個方面以及哪些協議最有意義。 |
| |
我們能夠比過去更好地建模或預測我們的產量。 這是向前邁出的一大步。 |
| |
這是一個很好的例子,實際上太多的廚師並沒有破壞肉湯。 兩種方法都同意某一點,但它們也確實提供了彼此不同的不同附加信息。 這項工作正在進行中;我們將從這裡開始擴展。 |
| |
特別, |
| |
我們將添加新的獨立數據來驗證或改進模型。 我們仍然需要微調我們需要保留哪些協議,以便為我們提供最相關和最少冗餘的信息。 |
| |
我們希望 JMP 能夠在這方面提供幫助,在 FDE 平台中實現這一點。 我們的最終目標是了解紙尿褲的材料成分是什麼 |
| |
將產生哪些曲線形狀以及這些曲線形狀與消費者收益的關係。 在追求黃金曲線的過程中,我們取得了良好的進展,並且很高興最終能夠完全捕捉到它。 |
| |
在此,我們感謝您的關注,並歡迎提問。 |