多くの機器やセンサーは連続体上のデータを生成します。この「曲線」データを分析・理解することは、特に連続体全体にわたるデータを分析しようとする場合、非常に困難です。多くのケモメトリックス技術が選択肢として挙げられますが、曲線データの分析においては、基本的に曲線全体または曲線群を一度に分析するのではなく、データをポイントごとに分析します。
機能データ解析は、曲線データの解析において最先端を行く新しい手法の一つです。本プレゼンテーションでは、クロマトグラフィーとスペクトルデータを用いたケーススタディを用いて、従来のケモメトリックス手法と組み合わせた連続体データ解析の有用性を示します。JMP Pro 18の機能データエクスプローラーに搭載されている新しいケモメトリックス解析手法のいくつかについても解説します。
皆さん、こんにちは。ビル・ウォーリーです。今日は機能データ分析について、そしてFDAを用いたケーススタディを通して、その活用方法、活用場所、そして活用できる可能性のある分野についてお話ししたいと思います。まずはお礼を申し上げたいと思います。多くの方々のご協力があり、リストにすべて掲載されています。特にトム・ドネリーとクリス・ゴットウォルトには感謝の意を表したいと思います。そして、このプレゼンテーションの実現に多大なるご協力をいただいたピート・ハーシュにも感謝申し上げます。
これについて少し背景を説明すると、私たちは機能データ分析だけでなく、プロセス分析技術と呼ばれるものも取り入れたいと考えています。PATは製薬業界では設計品質の一環として広く利用されており、オンライン、インライン、アウトライン測定を用いてサイクルタイムを短縮するのに役立っています。いわば、連続的なプロセスと言えるでしょう。
これだけで、不良品やスクラップ、そして必要となる可能性のある再処理を防ぐことができます。また、リアルタイムのリリーステストやPAT（プロセス分析技術）と機能データ分析を組み合わせることで、あらゆる業界に適用可能であり、また適用できるはずです。これはほんの一部に過ぎないと思いますが… プレゼンテーションを進めるにつれて、さらに詳しく見ていきます。どのように融合するか、あるいはどのように融合できるかについてです。
関数データとは何かというもう一つの考え方です。曲線や形状を探索し、曲線の特徴を抽出して更なる分析を行いたいと考えています。これは、データを点ごとに見るのではなく、連続した形で提供されるデータが多いため、複雑な曲線の形状を何らかの形で数値化して捉える必要があります。そして、曲線の形状と他の変数との関係を分析したいのです。
関数データはどこで見つけられるのでしょうか？先ほども述べたように、多くのデータは本質的に関数的な形式をしています。製造プロセスからのセンサーストリーム、スペクトル、様々な温度範囲で測定された測定値など、時系列データも関数データの一種です。JMP Proを使えば、関数データを用いたこうした多くの問題を簡単に解決できます。
機能データ分析では、機能主成分を用いてデータをFPCスコアと形状成分に分解します。これは、古典的な主成分分析と密接に関連する次元削減です。LPCスコアまたは重みは、関数間の変動を説明するスカラー量です。形状成分は、時間、距離、波長など、縦断的な変動を説明します。FPCスコアを用いてモデルをフィッティングし、クラスタリングします。他の連続データと同様にグラフ化します。
機能データについては、FPCスコアをDOE因子の関数としてフィッティングし、FPCスコアと形状成分の積を中間式として用いました。そして、モデル化されたFPCスコアと形状成分の積を最終的な予測式としました。
関数データはどのように扱うのでしょうか。まあ、以前も少し説明しましたが、JMP Proを使えば、数回クリックするだけで離散点の集合を関数主成分の集合に変換できます。
スプライン、ウェーブレット、または直接モデルを各機能データセットにフィッティングし、曲線をFPCで記述することで、プロセスや製品に関する新たな洞察と理解を迅速に得ることができます。以下に、データフィッティングに使用されたモデルである曲線のセットを示します。次に、機能データと、バッチごとの機能主成分を示します。これはスプラインフィッティングです。
本日の講演の核心は、機能データ解析を用いて、3種類のアルコール混合物のNMRスペクトルデータを解析、あるいは再解析する方法についてお話しすることです。これはデータの出典となった元の論文です。この論文を公開してくれたことに、ただただ感謝の意を表したいと思います。おかげで、このデータを取得して再解析することが可能になりました。
元のデータには、Chemo metricsを用いたNMRスペクトルの定量分析結果があります。これは、NMRスペクトルの3種類のアルコール混合物を重ね合わせたものです。ペンタノール、ブタノール、プロパノールです。この分析でこれら3種類を分解し、それらから作られるあらゆる混合物を予測できるようにしたいと考えています。
スペクトルモデリング手法、あらゆる種類の多変量解析手法について、より分かりやすくご説明します。次元削減は重要であり、主成分分析を用いて行うことができます。多次元尺度法、Functional Data Explorerなどもご活用ください。
クラスタリングも常に重要です。どのようなグループ分けをしているのかをより深く理解するのに役立ちます。外れ値分析が必要な場合は、多変量管理図を使用できます。しかし、このデータから予測モデルを構築する場合は、偏最小二乗法やペナルティ付き回帰法などを使用することになります。機能データ分析、ブートストラップフォレスト、そしてその他ニューラルネットワークやサポートベクターマシンなども活用できます。選択肢はたくさんあります。
しかし、これらの方法のいくつかを直接比較してみたいと思います。まず、このデータをご覧いただければわかるように、主成分分析を行います。グラフを見ると、8、20、18の点があります。これらは実際のプロパノール、ブタノール、ペンタノールです。
三角プロットのような形になっていますが、変動の少なくとも85%を説明するには、多くの主成分が必要です。ここでは約18個の主成分を見ています。データは依然として高い相関を示しています。これを使ってできることは、主成分をデータテーブルに保存し直し、主成分回帰を行うことです。答えにたどり着くまでには少し時間がかかりますが、実行可能です。
次に、私たちが検討している、あるいは検討できるもう一つの非関数型プラットフォームは、部分最小二乗法です。この場合、少なくともブタノール、ペンタノール、プロパノールに関しては、非常に優れたモデルを当てはめることができます。18個の主成分の代わりに5個の潜在因子を使用します。
主成分分析と潜在因子分析は同じですが、部分平方根を使います。少なくとも、なぜそうなのか、あるいはなぜそうなのかのバリエーションを知ることができますが、主成分分析ではそれが全くできません。
これは何を示しているのでしょうか。説明された変動の割合を見てみましょう。5つの因子を持つより小さなモデルで確認できます。Xの変動の約28%しか説明できませんが、2つの潜在因子で、変動の約98%、つまり98%を少し超える部分を非常に迅速に説明できます。
上のグラフは、変数削減が可能な範囲を示しています。プロパノール、ブタノール、ペンタノールが色分けされており、それぞれの波長が示されています。0.8のこの線は、経験則、つまりカットオフ値のようなもので、ここで変数削減を行ってモデルをもっとシンプルにすることも可能です。もし望むなら。ただし、これは非関数型モデルです。データを点ごとに見ています。これらのモデルは、他のどのモデルよりも非常に大きくなります。
次に、ウェーブレットを用いた機能データ分析と呼ばれるものを見てみましょう。このデータでは、ウェーブレットモデルを用いて非常に良好な適合が得られています。最適なモデルは、AICcスコアまたはBICスコアが最も低いモデルです。上の図では、約86%を説明できています。これは主成分分析で見られたのとほぼ同じ量の変動ですが、機能的な主成分は5つ少ないです。
すでによりシンプルなモデルです。実測値と予測値のプロットを見ると、ウェーブレット関数がここで起こっている変動をうまく説明していることがわかります。さて、スコアプロットの右側を見ると、ほぼ三元プロットのようになっています。ペンタノール、ブタノール、そしてすみません、プロパノール、ブタノール、ペンタノールです。
ペンタノールについては説明が少し難しいです。他のデータとピークが重なり合っているため、スコアプロットでは他のものと区別がつきにくいように見えますが、それでも妥当な結果が得られています。
混合物の分析には、多変量曲線分解と呼ばれる方法もあります。ここでデータを見ています。これは、検証に使用しているすべてのデータ、つまりペンタノール、プロパノール、ブタノール、ペンタノールの検証データを用いた多変量曲線分解です。残りのデータは、これら3種類のアルコールの混合物です。今回はこれらを学習データとして使用し、純粋なアルコールのデータを予測、あるいは予測できるかどうかを確認します。
特にプロパノールに関しては、順調に進んでいます。他の2つはそれほど良くないかもしれませんが、この場合、どの機能主成分がどの成分と関連しているかは分かっています。
機能主成分3はプロパノールです。ブタノールは機能主成分2、ペンタノールは機能主成分1です。これはかなり良い結果が出ています。しかし、下の診断プロットを見てください。ええ、つまり、うまくいっているということです。しかし、混合物自体を使って純物質の間違った部分を予測しようとしたため、三元プロットのようなものが見えていますが、他の3つはそこに表示されていません。逆の方向に進むとどうなるか、後ほど説明します。
さて、以上のことから、機能的実験計画法、つまり機能的DOEと呼ばれる手法を試してみたいと思います。このアルコール混合の例では、機能的主成分3はプロパノールの割合と高い相関関係にあります。これにより、ある程度の解釈可能性が得られます。また、先ほど述べたように、機能的主成分1はペンタノールと高い相関関係があり、機能的主成分2はブタノールと高い相関関係にあります。機能的主成分と因子を比較する場合、必ずしもこのような相関関係が得られるとは限りません。
しかし、今回のケースでは、FPCではなくアルコールを混合しています。この点に注目したいのです。だからこそ、機能DOEが非常に重要なのです。これらのスコアを、事実の構成要素または因子の関数としてフィッティングします。このモデルは、簡単に操作でき、実用的な方法で使用して、最終的に構成要素または因子がスペクトルに与える影響を予測できるものになります。
以前お話ししたように、FPCスコアは重みであり、関数間の変動を説明するスカラー量です。そして形状成分は、縦方向の変動、時間差などを説明します。波長です。
機能的DOEでは、FPCスコアをDOEの関数としてフィッティングします。そして、先ほど説明したのと同じ計算を行います。さて、これで機能的DOEプロファイラーと呼ばれるものに到達します。これにより、ブタノール、プロパノール、ペンタノールの異なる割合でスペクトルがどのように見えるかを比較することができます。
分かりました。それについては、これから始まるデモで説明します。ちょっとここから抜け出して、この部分は脇に置いておきましょう。さて、JMPプロジェクトで作業しています。これがデータです。バッチごとに23個のNMRスペクトルがあります。そうです。これがそれぞれのIDです。それから、プロパノール、ブタノール、ペンタノールの異なる割合があります。そして、波長データが1000列あります。
データは非常に幅広く、非常に高い相関関係にあります。この分析を行う際には、これらすべてを考慮する必要があります。まず、機能主成分分析、つまり機能主成分分析ではなく、通常の主成分分析に戻って見ていきます。
もう少し広げて、ここで何が起こっているのかを見てみましょう。ここのスコアプロットと散布図を見ると、データの高さが非常に相関していることがわかります。ここの様々な点を見てください。星と星、そしてダイヤモンドと星です。これらは純粋な物質です。これは、まだ三元プロットのようなものを見ていることを示しています。ここでは混合物を見ているのです。
しかし、もう一度見てみると、変動の約86%を説明するには、固有値を80、つまり18まで下げる必要があります。わかりました。これはまだ多くの要因があり、準備ができたら、これを再び取り込んで主成分回帰を行う必要があります。そして、それらをデータテーブルに保存します。
覚えていると思いますが、部分最小二乗法についてお話しました。これを見ると、Y変数について非常に良い説明が得られることがわかります。5つの潜在因子を用いて、ペンタノール、ブタノール、プロパノールを予測できます。X変数の変動についてはまだあまりうまく説明できていませんが、他の主成分モデルに近づけるために潜在因子を追加することで、説明を強化できます。しかし、この最初のモデルを使うだけでも、かなりの節約になると思います。
下のVan der Voet T値を見ると、潜在因子を5つ以上増やす必要はないことがわかります。なぜなら、Van der Voet T値が1になるからです。0.1以上であれば、良好なモデルとみなすことができます。実際には2、3、4と減らすこともできますが、今は5つで進めましょう。
わかりました。下のルート平均プレスプロットを見ると、5つの因子を使用できることがわかります。これはルート平均プレスの最低値ですが、それ以降のすべてもかなり低いようです。これは、適合度がどのようになっているかを示しています。これは非常に良いことです。なぜなら、これらのスコアプロット、つまりZスコアプロット上のデータが非常に密集しているからです。これも、非常に優れたモデルであることを示しています。
ご存知の通り、ここでは2つの潜在因子だけで、変動の98%、ほぼ99%を説明しています。しかし、100%にするには、さらに追加することも可能です。素晴らしいですね。そして最後に、VIPを再び見てみましょう。これは変数選択に使用できると説明しました。このデータの一部を取り除いても、非常に優れたモデルを作成できます。
これらは主成分分析の2つの例です。偏最小二乗法は、非関数型プラットフォームに存在しないデータを見る2つの方法です。関数型データエクスプローラーに移ると、まず最初にお見せしたいのは、生の形式でデータを見ることです。ここでは分析を実行しただけです。データ処理は一切行っていません。データを取り込んで、モデルを少し当てはめただけです。
これは制約のない多変量曲線分解データです。この場合、データはマイナスになる可能性がありますが、現状では問題ありません。ここにあるプロパノール、あるいはこのバッチを見てください。これが私たちのプロパノールです。これで問題ありません。素晴らしい結果ではありませんが、まずまずです。検証セットもトレーニングセットもありません。今のところは何も使用していませんが、このデータをそのまま見れば問題ないだろうという見通しはあります。
実測値と予測値のプロットを見ると、それほど大きな違いはないかもしれません。特に残差と予測値のプロットでは、かなりばらつきがあります。このモデルをもう少し改良する必要があるかもしれません。とはいえ、それでもここを見てみると、プロパノール、ブタノール、ペンタノールがここにあります。これは三角プロットのようなもので、完璧ではありませんが、想像力を働かせれば三角形のようなものになると思います。
まさにその情報を見ているところです。解析はかなり順調に進んでいます。そして、先ほどお見せしたウェーブレット解析を見てみましょう。こちらも非常に良い結果が出ています。つまり、このような曲線データを解析したい場合、ウェーブレット解析は非常に優れた手法なのです。
ウェーブレット変換の唯一の問題は、主成分分析とほぼ同じだということです。データを保存し直し、何らかの一般化回帰分析を行う必要があります。特に、これからご覧いただくデータについては、特に注意が必要です。
ここに取得できるスコアがいくつかあります。このデータを見ると、機能主成分がたくさんあることが分かります。しかし、スコアプロットをもう一度見ると、かなり良い三角形ができています。良い三角プロットです。データの分析が非常にうまくいっていると確信しています。
先ほどお見せした機能データエクスプローラーがアクティブになりました。動かすと、このグラフが確認できます。プロパノール濃度を100%にすると、他の2つはゼロになります。すると、ここで曲線がどのようになっているかを確認できます。これは、曲線がどのように見えるか、あるいは曲線をどのように比較するかを知りたい場合にも便利な方法です。ウェーブレット関数や、これらの関数のいずれかを機能DOEプロファイラーと組み合わせて使用すれば、曲線を比較するのに適しています。
最後に、ここは多変量曲線分解能そのものを使用しています。これは正のデータのみを許可します。上を見てみると、プロパノールにヒットしています。プロパノールに関してはほぼ完璧でしたね。こちらにある他の2つは、それほど良くありませんでした。ブタノールでは93%、あるいは変動の93%を説明できています。ペンタノールは約83%でした。これらは100%であるべきです。モデルはまあまあです。素晴らしいとは言えませんね。
ここに検証機能を追加したところ、検証データを見ると…ここでは純粋な材料を使って、この中の他のアルコールの割合を予測しようとしています。ここでも、いくつかの違いが見られます。ここでもう一度見てみましょう。比較は後ほどお見せしますが、ここにあるのはバッチ1のデータです。全く悪くありません。予測値と実際の値を比較すると、かなり近い値になっています。わかりました。
それを全部試すか、全部脇に置くかはあなた次第ですが、覚えておいてください。私たちは、実測値と予測値のプロットを見ているのです。まだ道のりは遠いですが、かなり良い結果が出ています。悪くはありません。それから、機能的DOEプロファイラーがあります。これもいろいろ試して、仮定のシミュレーションを行い、曲線を比較することができます。さて、それで。
最後に、純粋な材料をトレーニングに使う点についてです。つまり、それらを使って他のデータで何が起こっているかを予測するのです。これもかなり良い結果が出ました。最初の行を見てみると、パーセンテージはほぼ正確です。0.8、0.1、0.1だったと思います。悪くないですね。よし。
パワーポイントに戻って、最後にもう一度説明させてください。ここでの教訓は、データ分析にはこれだけのオプションがあるということです。Functional Data Explorerは非常に強力なツールです。先ほども申し上げましたが、実績値と予測値を比較すると、このように表示されます。描いてみましょう。ここを見れば、かなり良い結果が得られたことがわかります。
このモデル自体ですね。他にも、例えば次のモデルも、全体的には予測値と実際の値とかなり良い結果が出ています。モデル自体は良好です。この点についてはもう少し改善が必要ですが、それでも非常に良い結果です。特に、オンラインでインラインまたはアウトラインで測定を行う場合は顕著です。より多くのデータを取得すればするほど、モデルはより良くなるでしょう。わかりました。
まとめ：ウェーブレットを用いた機能データ解析は、混合実験計画法と組み合わせることができます。これにより、NMRスペクトルやほぼあらゆるスペクトル、そして製剤成分や配合比率の関数としてのクロマトグラフィーデータを予測できます。これらの情報を基に、FDAやDOEモデルを構築し、スペクトルが何を伝えようとしているのかを予測できるようになります。
次に、前述の分析化学手法のいずれかを用いて、未知の混合物をターゲットとしてFDA-DOE混合モデルを検討することで、ターゲットからの積分誤差を最小化し、製剤成分の配合比率を予測することができます。これは2つ目の例で示しました。
これで終わりです。それからもう一つ。このポインタを削除できるか確認してみましょう。さて、これで終わりです。もう一つ覚えておきたいことがあります。機能データ分析は、スペクトルや曲線データなどの相関の高い縦断的データを2つの部分に分解します。縦断的変動を説明する形状関数と、関数間の変動を説明するFPCスコアについて説明しました。
この情報とこれを組み合わせて、実験計画法や機械学習手法、特にこの場合はFunctional Data ExplorerやFunctional Data Analysisなどを活用します。元のセンサーストリーム、つまりデータストリーム、曲線、スペクトルなどの情報を活用することで、予測能力を高めることができます。
そして最後に、プロセスデータ、分析技術データ、測定データ、ストリーミングデータを取得する際には、これらのデータを伝達・共有し、リアルタイムで更新して他のユーザーと共有できるようにする必要があります。そこでJMP Liveが役立ちます。
最後に、皆さんに感謝の意を表したいと思います。Functional Data ExplorerとProcess Analytical Technology Dataを活用すれば、特に混合物のデータに対して、非常に優れた予測モデルを構築できるということを忘れないでください。それでは、皆さん、ありがとうございました。
