| スピーカー |
トランスクリプト |
| ベアトリス・ブルム |
こんにちは。今日はフィルと私のディスカバリー プレゼンテーションにご参加いただき、2021 年のロックダウン中の私の素敵なヘア スタイルを垣間見ていただきありがとうございます。 |
| |
センサーデータへのアプローチ方法、機能データ分析(FDA)と部分最小二乗法の使用理由についてお話します。 |
| |
(PLS)黄金曲線を捉えることを目指して、私たちは努力を続けています。ベアトリス・ブラムと申します。プロクター・アンド・ギャンブル社のデータ・モデリングサイエンス部門に所属する統計学者で、ドイツにおけるベビーケアと女性ケアの研究開発を支援しています。共著者はイギリス出身のフィル・ボウテルです。フィル、自己紹介をお願いします。 |
| フィル・ボウテル |
ビー、どうもありがとう。こんにちは、フィルです。イギリスに拠点を置いており、ビーと同じくデータ・モデリングサイエンス・グループに所属する統計学者です。ヨーロッパでは、ベビーケアをはじめ、様々な技術科学分野をビーと一緒にサポートしています。ありがとうございます。 |
| ベアトリス・ブルム |
本日は、収集したデータの概要と、消費者の反応である Yield 1 と Yield 2 に関するさまざまな曲線の形状の意味をどのように解明しようとしているかについて簡単にご説明します。 |
| |
私たちは、これらのデータに対する 2 つの分析アプローチ (PLS と FDA) を比較することに特に注意を払い、どちらをいつ使用するかを理解しようとします。 |
| |
この講演では PCA、PLS、FDA に関するある程度の知識があることを前提としていますが、実際に知っておく必要があるのは一般的な概念とデータ、つまりデータがどのように整理されるかだけです。 |
| |
しかし、この講演をよく知らない場合でも、この講演の内容を理解できる可能性は非常に高いです。 |
| |
プロクター・アンド・ギャンブルがおむつを開発・製造していることはご存知でしょう。消費者にとってより快適なおむつと製品性能を向上させるため、 |
| |
私たちはおむつの重要な特徴を捉え、理解しようと努めています。特にいくつかの試験方法では、おむつの様々な場所や様々な条件下で液体を塗布します。 |
| |
プロトコルまたは条件を設定し、左側に示すように K データ曲線と、右側に示すように P データ曲線を測定します。 |
| |
これらの K データ曲線は、Yield 1 と呼ばれる消費者の反応に多少関連しており、これらの P データ曲線は、Yield 2 と呼ばれる消費者の反応に関連していると想定します。 |
| |
それではまず、Kデータ曲線を見て分析してみましょう。あるいは、JMPの機能データエクスプローラーを使って近似してみましょう。それでは、JMPに切り替えましょう。 |
| |
これが JMP のデータ テーブルです。 |
| |
列数が非常に少ないデータテーブルです。調査対象となっているAからKまでの10種類の製品ごとに1列ずつあります。 |
| |
これらの製品それぞれについて、この方法で3回の反復実験を行いました。2つの列をID列にまとめ、サンプル名と反復回数を格納しました。 |
| |
私たちは、時間の経過とともに連続変数のデータを収集し、生の信号は K raw と呼ばれます。 |
| |
それでは、K の raw がどのようなものか見てみましょう。 |
| |
2つの製品、今回はGとIを選びました。プロファイルがかなり異なるように見えるからです。ご覧のとおり、曲線が急上昇したり、急上昇したり、そして非常に滑らかな動きで平坦化したりする部分があります。 |
| |
PLSはスペクトルデータをモデル化するために作成されたため、ステップアップは大きな問題ではないが、FDA(機能データ分析)では |
| |
それは滑らかな曲線と滑らかな導関数を期待しますが、曲線が急上昇している場合はおそらくそれらは得られません。 |
| |
これらのジャンプアップは、おむつに塗るソース(?)と関係があります。3回の繰り返し実験も見られるので、この方法は再現性が高いようです。 |
| |
なかなかいいですね。しかし、生データにはノイズがかなり含まれています。ここで再び下降し、振動しています。これは、多くのノイズをモデル化して過剰適合させてしまうと想定されます。 |
| |
ここは振動が激しいので、フィッティング前に曲線を滑らかにする必要があることがわかりました。それがここに表示されています。ウィンドウサイズ20の移動平均スーパーサンプル(?)を使用して曲線を滑らかにしました。 |
| |
それで私は行って適合させようとします |
| |
機能的 |
| |
これにコンポーネントを追加します。そこで、変数を対応する役割に割り当てます。生データの代わりに、平滑化されたKを使用します。ID変数とID関数が必要です。XはKを測定する時間であり、最終的にはこれらのデータをYield 1にリンクさせることで達成したいものです。 |
| |
連続変数を用いて、予測曲線がこの消費者の反応とどのように関連しているかを理解しようとします。そこで、これを補足的な役割に位置付けました。 |
| |
これを実行し、FDE から元の出力を取得し、通常は B スプラインを当てはめることから始めます。これが簡単で、比較的高速だからです。 |
| |
数千行もあるにもかかわらず、わずか数秒しかかかっていないのが分かります。これで結果が得られました。遠くから見るとそれほど悪くないように見えますが…少し詳しく見てみましょう。 |
| |
すでに述べたように、機能データ分析が何のために開発されたかといえば、滑らかな曲線が期待されています。 |
| |
そして、Bスプラインは、この特定のケースでは、スプラインの立方体の部分を実際に縫い合わせるだけです |
| |
そして、ここのような、三次曲線がないコーナーを回るには、確かに三次曲線はありませんが、実際の行動の変化と転換点があります。 |
| |
何らかの形でその行動を捉えようと試みていますが、非常に不十分な結果になっていることがわかります。また、上部で観察されたプラトーの再現も不十分です。 |
| |
つまり、非常に速く、シンプルで、ほとんどの場合、この特定の状況では非常に良いアプローチであるにもかかわらず、 |
| |
状況によっては、Bスプラインを使うのはおそらく最善ではないでしょう。その代わりに、 |
| |
ヘルプを少し読んで調べてみたところ、プロファイルデータやスペクトルデータなどがある場合はPスプラインを使うべきだということがわかりました。JMPもそれを推奨しているので、Pスプラインを使うことにしました。 |
| |
ここで段階的な変化があることがわかったので、これを引き付ける唯一の方法は、ステップ関数を使用することです。 |
| |
P スプラインのフィッティングには長い時間がかかるため、事前にフィッティングして、結果がどのようになるかを確認します。 |
| |
もう一度、実際のロットと予測ロットを見てみると、彼らはこれらの転換点をうまく捉えていることがわかります。 |
| |
上へのステップアップを達成しました。彼らはこの辺りの高原地帯もある程度捉えていますが、それは以前から想定されていたことです。ええ、彼らはまだそうしています |
| |
ノイズをかなり捉えています。そのため、あまり滑らかではありません。Bスプラインでフィットさせれば、もっと良いでしょう。 |
| |
下り坂のような劣化型ですね。本当に必要な部分にPスプラインをステップ状に当てはめるだけでいいかもしれませんが、少なくともBスプラインのフィットよりはずっと良いですね。それでは、どうなるか見てみましょう。 |
| |
様々な製品を2次元のスコアプロットにうまく配置できています。異なる製品の反復データがどのようにグループ化されているかを明確に確認できます。 |
| |
A、H、その他いろいろあります。中にはそれほど良くないものもありますので、Iは少し離れたところに分散され、他のものと重なっています。 |
| |
しかし、生データで確認された良好な再現性がここでもうまく機能しているようです。FPCを4つ使用することにしました。 |
| |
ご覧の通りです。曲線を非常に正確に予測していることがわかります。 |
| |
しかし、最終的な目標は、消費者の反応が様々な曲線とどのように関係しているかを確認することです。そこで、JMPは一般化回帰分析において、4つのFPCそれぞれをYield 1を用いて当てはめています。 |
| |
その結果から、Yield 1 の変化が曲線の形状をどのように変化させるかがわかり、明らかに上向きのストランドを確認できました。 |
| |
それで |
| |
何が起こっているのかを捉えるのは比較的簡単そうに思えますが、これは本当に悪い製品です。確かにかなり上昇していますが、ここはかなり停滞しています。 |
| |
そして、これはかなり下がっているようです。つまり、Yield 1の黄金曲線に近いと思われるものを見つけたということです。 |
| |
しかし、実際に消費者から収集したデータを見ると、連続した K ではなく、カテゴリ スケールで順序付けていることがわかります。 |
| |
0.31 からほぼ同じように出力されたこれら 4 つの製品を確認する必要があります... |
| |
0.031から0.034です。左側の曲線の形状とその変化を見ると、かなり異なっていることがわかります。 |
| |
つまり、完全に一致しているわけではなく、連続 Yield 1 を当てはめた結果とまったく一致していないとさえ言えるでしょう。つまり、ここにある 1 つを通して、そしてこれも…消費者の反応にすでにかなり大きな違いがあるにもかかわらず、非常によく似ているように見えます。 |
| |
また、これも、連続したものと比べてそれほど違いはありません。 |
| |
それで私はスライドデッキに戻ります |
| |
では、私のスライドに戻りましょう。ここでは、FDAフィットから抽出したデータをYield 1にどのようにフィットさせるかを確認できます。 |
| |
これは非常に優れたモデルであることがお分かりいただけると思います。非常に優れているため、新しいデータでもこれが当てはまるかどうか常に疑問に思っていました。フィル・ラムゼイとティファニー・ラオがDiscoveries America 2020で提唱した自動検証とモデル平均化を用いてフィッティングを行いました。 |
| |
R 平方は 97、そして R...R 平方クロス検証を押すと、R 平方は 90 です。これは、本当だと信じられないほど素晴らしい値です。 |
| |
それでは、Phil が PLS を使用して同じデータを調べたときに何を発見したかを見てみましょう。 |
| フィル・ボウテル |
おっしゃる通り、このR二乗は97%、プレスR二乗は90%です。非常に良いですね。では、部分最小二乗法でこれを比較してみましょう。 |
| |
そこで、主成分分析、部分最小二乗法について調べてきました。これはスペクトルや曲線があるときに使うツールです。入力データはすべて高い相関関係にあるため、よく使われます。 |
| |
従来の回帰分析では、この点をうまく処理できません。まず最初に気づいたのは、前のスライドでベアが示したスコアプロットを見たときです。 |
| |
デモでは、主成分分析で得られる結果とほぼ同じなので、共通のリンクがいくつか見られます。 |
| |
部分最小二乗法を実行すると、R二乗は73%になります。 |
| |
97ほど良くはありません。また、観測値と予測値を比較すると、 |
| |
実際には、適合性は問題ないように見えますが、明らかに製品 B が多少のインパクトと過度の影響を与えています。 |
| |
JMPとSIMCAでは、交差検証指標のQ2乗が33%と低い値になっています。つまり、これはあまり良いモデルとは言えません。 |
| |
これは、私たちが持っていた生の滑らかなデータに対して行われたものです。他の変換方法を試すこともできますが、実際には良いモデルを構築できませんでした。FDAに匹敵するものでは決してありません。 |
| |
しかし、モデルから得られるものの一つは係数推定値です。また、VIPと呼ばれる量も得られます。これらを組み合わせることで、曲線のどの領域が刺激となるか、あるいは予測結果にどのような変化があるのかを知ることができます。重ねてみると、 |
| |
ここでは生データ プロット上の VIP と係数が表示され、緑色で強調表示されているのは予測に大きな影響を与えている領域、つまりモデルに貢献している部分です。 |
| |
オレンジは中程度で、それほどではありません。灰色は低いですが、これは最初のピークが予測の観点からはほとんど影響を与えていないことを示しています。 |
| |
では、別のデータセットを見てみましょう。これはpデータ曲線で、収集された曲線がここにあります。 |
| |
3つの地点で、4つの条件、プロトコル、あるいは条件と呼ぶべきでしょうか。5つ目のプロトコル、あるいは条件もありますが、これは地点1でのみ測定されたもので、ここにはプロットされていません。 |
| |
左側に場所 1、右側に場所 3、上部に条件 1、下部に条件 4 があります。 |
| |
注目すべき点として、これらの曲線は非常によく似ています。ただし、若干の差異が見られます。 |
| |
しかし、一つ疑問がありました。これらの曲線は全部必要なのでしょうか?全部必要なのでしょうか?それとも、一部の曲線だけを取り出して、データの理解を助けるために使うべきなのでしょうか?そこで、私はすべての積を順番にプロットしました。つまり、場所1です。 |
| |
条件 1 から場所 3、条件 4 までデータをプロットしました。 |
| |
すぐに共通点がいくつかあることがわかります。また、違いもいくつかあります。つまり、他の製品とは一線を画す3つの製品があるということです。 |
| |
つまり、製品の差別化が図られているということです。様々な状況を見てみると、明らかに、これらの製品は、私たちが状況を変えるにつれて確実に変化していることがわかります。 |
| |
場所から見ると、大きな影響はないようです。もう少し詳しく調べてみましょう。 |
| |
通常、多変量データの場合、まず最初に行うことは、それを主成分分析に投入し、そこから何か結果が得られるかどうかを調べることです。つまり、これは探索的なデータ分析ツールです。 |
| |
スコア プロットを見てみると、先ほどご覧いただいたすべてのデータをパッケージにまとめ、主成分を製品ごとに色分けして表示しています。 |
| |
製品D、G、Hは他の製品とは離れた位置にあることがすぐにわかります。ここには3つの製品、こちらには7つの製品があります。 |
| |
これらの製品を開発・製造している方々に話を聞くと、まさにその通りだと納得しました。ですから、データが私たちが予想していたことを実際に浮き彫りにしているのは良いことです。 |
| |
それぞれの場所をハイライトしてみましたが、特にパターンは見当たりません。何かが起こっていると断言するには、かなり冒険的な判断が必要だと思います。 |
| |
しかし、異なる条件で色分けすると、ある種のパターンが見えてきます。ここにある3つの製品、D、G、Hを見てみると、 |
| |
右から左に進むと、条件1から条件4への変化が見られます。ここにある7つの製品も同様です。条件5は真ん中に位置していますが、これもまた、測定装置が異なるため、予想通りの結果です。 |
| |
探索的な観点から見ると、これらの違いが分かります。では、より統計的な観点から見てみましょう。これから見ていく例では、場所3に焦点を当て、場所3内の4つの条件を見てみましょう。 |
| |
これを実行するには、マルチブロック直交成分分析を使用します。これは少し長いので、MOCA と略します。 |
| |
また、階層的モデリングについても見ていきますが、この講演ではそれについてあまり詳しく説明しないので、MOCA に焦点を当てます。これらは、統計パッケージ SIMCA にある 2 つの手法です。 |
| |
ここでの考え方は、データのブロックを見るというものです。伝統的に、各ブロックはある種の化学物質やある種の製品を測定する異なる方法を表しています。例えば、近赤外線、赤外線、ラマン分光法があります。 |
| |
MOCA と階層モデリングで目指す 2 つのことは、まず冗長性を評価することです。 |
| |
予測には近赤外線とラマン分光法だけが必要なのかもしれません。実際、近赤外線とラマンを知っていれば、赤外線を予測できる、あるいは赤外線は不要になります。 |
| |
これがこれから検討する内容ですが、冗長性について話すとき、それが自動的に特定のブロックを削除できることを意味するわけではないことに注意する必要があります。 |
| |
それ自体が予測にプラスの影響を与える可能性があるからです。つまり、冗長性と予測可能性のバランスを取る必要があります。既にご覧いただいたように、これらのグラフを見ると、ある程度の冗長性があるように見えます。 |
| |
では、実際には何が起こっているのでしょうか? 重複という観点から考えてみましょう。場所3と4つの条件があります。重複を表すために、素晴らしいベン図を作成しました。これで、どのような情報が得られているのかを理解し始めることができます。 |
| |
最初の情報ポイントはグローバルな共同情報であり、4 つの条件すべてに共通する情報があります。 |
| |
すると、オレンジ色で強調表示されているように、2 つまたは 3 つの条件にのみ共通する情報、つまりローカル共同情報を取得できるようになります。 |
| |
そして最後に残ったものが、それぞれ固有の情報であり、これは様々な条件がそれぞれにもたらすものです。では、ここで何が見られるのでしょうか? |
| |
そうですね、左側は、4 つの条件が実際にかなり大量の独立した情報を持っている状況を示しています。 |
| |
そして、おそらく私たちは、ここでは冗長性はない、4つすべてを保持する必要がある、と考えるでしょう。 |
| |
右側の画像では、グローバル結合情報とローカル結合情報が大量にあり、固有情報がそれほど多くありませんが、これは冗長性が発生する可能性がある状況を示している可能性があり、4 つの条件すべてではなく、1 つまたは 2 つの条件を調べるだけで済む可能性があります。 |
| |
SIMCAの活動について言えば、 |
| |
モデリングが行われ、4 つの条件が設定され、4 つのコンポーネントが適合されます。そのうち 2 つはジョイント コンポーネントを調べ、残りの 2 つは固有コンポーネントを調べます。 |
| |
全体的に見て、データの変動性の多くを説明できます。上部の数字を見ると、変動性のほぼ100%を説明できていることがわかります。これは良いことです。 |
| |
緑のバーは世界規模の共同情報を示しています。これは非常に大きく、高い数値を示しています。 |
| |
これは、これら 4 つの異なる条件の間にかなりの重複があることを示しています。 |
| |
オレンジ色の局所的ジョイント情報を見ると、条件 2、3、4 の間にいくつかありますが、それほど大きくはありません。 |
| |
最後に、それぞれの条件における固有の情報に固有の寄与を見ていきますが、その寄与は非常に小さいです。つまり、ある程度の冗長性があることはほぼ確実です。 |
| |
製品の観点から、そのユニークさがどこから来るのかを調べることもできます。つまり、ここでのバブルの大きさは、それがユニークであるかどうかを示しています。 |
| |
一意性がない場合、非常に小さなバブルが生成されます。例えば、製品IとFは非常に小さくなります。これらを個別に見ると、緑色のバーがたくさん表示されるはずです。 |
| |
製品Hを見ると、もう少し独立性があることがわかります。これは、条件を満たすのに十分な独立情報が少しあることを示しています。 |
| |
しかし、これは大きなバブルではありません。実際は、かなり冗長性があるように見えます。そこで、13の可能性のある条件と場所をすべて考慮し、MOCA分析と階層モデルを実行しました。 |
| |
このことから、理想的には、場所1と3に最初の条件が必要であり、場所1に5番目の条件が必要であることがわかります。 |
| |
これは私たちがこれまで言ってきたこととは全く矛盾しています。先ほども言いましたが、 |
| |
状況は多少異なりますが、場所は全く変わりません。いや、正確には違います。明らかに予測に関しては何かが起こっています。 |
| |
しかし、13通りの組み合わせを4つに絞り込むことができ、R2乗は85.5とかなり良いモデルができました。 |
| |
Q平方は69.3です。クロスバリデーションの指標は悪くありません。この2つがもっと近ければもっと良いのですが、少なくともここでは、このPデータを使って過去にできたものよりも、収量2のデータをより良くモデル化できています。 |
| |
それでは、Bea に戻ります。 |
| ベアトリス・ブルム |
フィルさん、とても興味深いご意見をいただき、ありがとうございます。それでは、FDAがPデータに対してどのような対応をしているのか、そしてそこから何がわかるのかを見てみましょう。 |
| |
Philが示してくれたように、場所という要素は、4つの条件ほど大きな影響を与えていないと言えるでしょう。つまり、結果に大きなばらつきがあるということです。 |
| |
また、非常に興味深いことに、74と72という最もパフォーマンスの高い2つの製品を見ると、 |
| |
これらは曲線であり、対応する予測曲線であり、K 曲線で見たものとはかなり異なっており、さらに大きく異なっている可能性があります。 |
| |
したがって、黄金曲線を目指して、実際に最もパフォーマンスの高いプロファイルを見つけようとすると、これら 2 つの曲線の共通点を見つけるのが非常に難しいため、困難が生じます。 |
| |
ですから、本当に疑問なのは、黄金曲線が複数存在するのか、それとも、すでに良好なパフォーマンスを示している曲線間の平均曲線を追求すべきなのかということです。 |
| |
まだ答えられません。また、冗長性があるかどうか、あるいはこれから実際に測定する必要がある場所と条件の組み合わせが何なのかについても、答えられません。 |
| |
しかし、再びこれらの FDA から要約を抽出し、モデルを構築して Yield 2 を予測しようとすると、再び R 平方が 98 の非常に優れたモデルが得られ、R 平方は 97 になります。はい、これは信じられないほど良いことだということはすでにわかっています。 |
| |
一方、測定部門から提供された曲線から抽出した他の値を使用して、同じ Yield 2 をモデル化しようとしました。 |
| |
しかし、抽出した値をモデル化してYield 2を予測しようとしても、全くうまくいきませんでした。得られたR二乗値は、ここで得られた値には全く及ばないものでした。 |
| |
したがって、何かが起こっていると私たちは考えており、Yield 2 をどのようにモデル化できるかを理解しようとする上で、かなり大きな前進を遂げました。 |
| |
それでは、今回の結果をまとめましょう。両方のモデル、というか両方の手法は、非常に類似した主成分をもたらし、K曲線とP曲線から抽出される共通点に関しても一致していることがわかりました。 |
| |
FDAは、データ準備がほとんど必要なく、おそらくもう少し使いやすいでしょう。これにより、収量1と収量2から曲線の形状を予測することができ、黄金比曲線がどのようなものになるかについてある程度の見当をつけることができます。 |
| |
また、どの測定実用的要因を維持するのがより重要であるかを示します。 |
| |
私たちは、収益に関する非常に優れたモデルを入手することができていますが、これらのモデルには深い疑問を抱いています。 |
| |
現時点では、どの場所と条件の組み合わせが最も関連性が高く、保存する必要があるかを抽出できませんでした。この点については、JMP で追って検証したいと考えています。 |
| |
一方、PLS では、製品を判別する上でどの曲線セクションが最も有益であるかに関して、あまり有用な情報は得られません。 |
| |
MOCAと階層的PLSは、P曲線から最も関連性の高い情報を得るために維持すべき測定プロトコルをさらに明確に示してくれます。収量予測のためのPLSモデルは、適合度指標の観点から、FDAモデルよりもやや妥当性が高いように見えます。 |
| |
私たちの共同の努力により、製品を差別化するための明確なパターンを見つけることができました。PLSとFDAのおかげで、 |
| |
トレースから重要な特徴を抽出し、収量予測に適したモデルを計算しました。また、曲線の特徴と、どのプロトコルが最も有意義であるかを学びました。 |
| |
以前よりもはるかに優れた収益モデル化や予測が可能になりました。これは大きな前進です。 |
| |
これは実に良い例で、料理人が多すぎてもスープが台無しにならないという点が挙げられます。どちらの手法もある程度は一致していますが、それぞれ異なる追加情報も提供します。この研究は現在も進行中で、今後さらに発展させていく予定です。 |
| |
特に、 |
| |
モデルの検証や改善のために、新たな独立データを追加していきます。最も関連性の高い、かつ冗長性が最も少ない情報を得るために、どのプロトコルを維持する必要があるかを微調整する必要があります。 |
| |
JMPがFDEプラットフォームでそれを可能にすることで、私たちはその助けになることを期待しています。私たちの最終目標は、おむつの材料組成を理解することです。 |
| |
どのような曲線が形成され、それらの曲線が消費者の利回りとどのように関係するかが明らかになるでしょう。黄金曲線の追求において、私たちは順調な進歩を遂げており、最終的にそれを完全に捉えられることを大変嬉しく思っています。 |
| |
それでは、ご清聴ありがとうございました。これから質疑応答に移ります。 |