これまでの 2 つのブログ投稿で、Jeremy Ash ( @JeremyAsh ）そして私は展示しましたJMP Martens らの一般的な分光データセットを分析することによるスペクトル分析および視覚化機能。 1見せましたスペクトルデータを視覚化するさまざまな方法そしていくつかの前処理ステップこれにより、さらなる分析とモデリングのためにデータの信号対雑音比を劇的に改善することができました。
ブログ シリーズのこの 3 番目のセグメントでは、JMP でスペクトル データをモデル化できるいくつかの方法を示します。部分最小二乗法 (PLS) はスペクトル データを分析するための最も一般的なツールであり、PLS は JMP と JMP の両方で実行できます。 JMPプロ。 JMP Pro は、Elastic Net ペナルティ付き回帰、ニューラル ネット モデリング、Bootstrap Forest などの高度なデシジョン ツリー手法も提供します。
Bootstrap Forest および Elastic Net 技術を使用すると、個々の化合物の最も重要な波長や、混合物内の成分を定義する波長を迅速かつ簡単に見つけることができます。 これらのモデリング手法は、生データまたは処理済みデータで使用できます。 この投稿では、ジェレミーと私が、生データと前処理データのモデリングの違いを示し、前処理後の予測能力の全体的な向上を示します。 メソッド全体の比較を明確にするために、すべての分析の検証セットとしてデータの 20% を使用して同じ 2 レベル検証列を使用しました。
モデリング方法
部分最小二乗法
部分最小二乗法はスペクトルを分析するための標準的な方法です。 PLS はワイド データとトール データの両方を処理し、特に相関性の高い要素の処理に優れています。 多くの場合、スペクトル データには高度に相関した吸光度があり、その結果、連続する各波長がその直前の 1 つの波長に依存するため、この機能はスペクトルにとって良い前兆となります。 この依存関係のため、PLS は生のスペクトル データの分析によく使用され、非常に良好な結果が得られます。 ただし、上で述べたように、前処理により、データの前処理に時間と労力を費やすのに十分なほど、結果として得られる予測モデルが改善されます。 サンプル データはグルテンとデンプンの混合物のグループであることに注意してください。PLS の場合、将来のサンプルでグルテンとデンプンの比率を適切に予測するモデルを開発するのに非常に優れています。
以前の主成分分析では 2 つの主成分が使用されていたため、PLS モデルは 2 つの潜在因子を使用して構築されました。 また、Q 2 2 つの因子を超えるとあまり改善されず、さらに多くの因子を追加するとモデルの解釈がより困難になります。
Figure 1. Partial Least Squares model set up and output.Figure 1. Partial Least Squares model set up and output.Figure 1. Partial Least Squares model set up and output.Figure 1. Partial Least Squares model set up and output.Figure 1. Partial Least Squares model set up and output.図1。 部分最小二乗法モデルのセットアップと出力。
Figure 1. Partial Least Squares model set up and output.Figure 1. Partial Least Squares model set up and output.Figure 1. Partial Least Squares model set up and output.Figure 1. Partial Least Squares model set up and output.Figure 1. Partial Least Squares model set up and output.図1。 部分最小二乗法モデルのセットアップと出力。
Figure 2. Partial Least Squares model with Raw data.Figure 2. Partial Least Squares model with Raw data.Figure 2. Partial Least Squares model with Raw data.Figure 2. Partial Least Squares model with Raw data.Figure 2. Partial Least Squares model with Raw data.図2。 生データを使用した部分最小二乗モデル。
Figure 3. Partial Least Squares model with Pre-Processed data.Figure 3. Partial Least Squares model with Pre-Processed data.Figure 3. Partial Least Squares model with Pre-Processed data.Figure 3. Partial Least Squares model with Pre-Processed data.Figure 3. Partial Least Squares model with Pre-Processed data.図3. 前処理されたデータを使用した部分最小二乗モデル。
以下は、両方の PLS モデルの実際と予測のプロットの比較です。 左側は生データ用で、右側は前処理されたデータを使用しています。 ご覧のとおり、前処理されたデータを使用すると、モデルに大幅な改善が見られます。
Figure 4. Partial Least Squares model comparison with Raw and Pre-Processed data.Figure 4. Partial Least Squares model comparison with Raw and Pre-Processed data.Figure 4. Partial Least Squares model comparison with Raw and Pre-Processed data.Figure 4. Partial Least Squares model comparison with Raw and Pre-Processed data.Figure 4. Partial Least Squares model comparison with Raw and Pre-Processed data.図4. 部分最小二乗法モデルと生データおよび前処理データとの比較。
一般化回帰 (Gen Reg)
一般化回帰手法は次の場所にあります。 JMPプロ。 Gen Reg では、通常の最小二乗法からは得られない少なくとも 2 つのことが得られます。 1 つは、Gen Reg を使用すると、データが正規分布する必要がないことです。 さまざまな種類のディストリビューションのオプションがあります。 もう 1 つの違いは、Gen Reg にはペナルティ付き回帰手法が含まれており、相関性の高いデータを非常に適切に処理できることです。 Gen Reg は、Ridge、Lasso、および Elastic Net を提供します。 Elastic Net は、モデルにとって重要であるとして相関性の高い多くの要因を拒否することでモデルのアンダーフィッティングを防ぐために Elastic Net Alpha (ENA) ペナルティを調整できるため、スペクトル データのモデリングに最適な妥協案です。 初期モデルの構築にはデフォルト値の 0.99 ENA が使用されました。 このモデルはかなりまばらであり、潜在的に適合不足であるように見えました。 Gen Reg の詳細オプションを使用してアルファ値の範囲をスキャンし、より適切なモデルがあるかどうかを確認しました。 このスキャンでは、ENA 値 0.55 を使用すると、より適切な適合が得られました。 以下のソリューション パスで 2 つの ENA 値の適合の違いがわかります。
Figure 5 – Elastic Net solution paths for Raw data.Figure 5 – Elastic Net solution paths for Raw data.Figure 5 – Elastic Net solution paths for Raw data.Figure 5 – Elastic Net solution paths for Raw data.Figure 5 – Elastic Net solution paths for Raw data.図 5 – 生データの Elastic Net ソリューション パス。
Figure 6 - Fit Statistics for Gen Reg with Raw Data.Figure 6 - Fit Statistics for Gen Reg with Raw Data.Figure 6 - Fit Statistics for Gen Reg with Raw Data.Figure 6 - Fit Statistics for Gen Reg with Raw Data.Figure 6 - Fit Statistics for Gen Reg with Raw Data.図 6 - 生データを使用した Gen Reg の統計の適合。
Figure 7 - Elastic Net solution paths for Pre-Processed data.Figure 7 - Elastic Net solution paths for Pre-Processed data.Figure 7 - Elastic Net solution paths for Pre-Processed data.Figure 7 - Elastic Net solution paths for Pre-Processed data.Figure 7 - Elastic Net solution paths for Pre-Processed data.図 7 - 前処理されたデータの Elastic Net ソリューション パス。
Figure 8 - Fit Statistics for Gen Reg with Pre-Processed Data.Figure 8 - Fit Statistics for Gen Reg with Pre-Processed Data.Figure 8 - Fit Statistics for Gen Reg with Pre-Processed Data.Figure 8 - Fit Statistics for Gen Reg with Pre-Processed Data.Figure 8 - Fit Statistics for Gen Reg with Pre-Processed Data.図 8 - 前処理されたデータを使用した Gen Reg の適合統計。
詳細には触れませんが、生データの適合には、Elastic Net Alpha (ENA) が 0.99 の場合は 10 波長が使用され、ENA が 0.55 の場合は 37 波長が使用されました。
前処理されたデータの結果は大きく異なります。 再度 Elastic Net を使用すると、0.99 の ENA を使用すると 22 の重要な波長が見つかり、0.55 の ENA を使用すると 53 の重要な波長が見つかりました。 37 および 53 という多数の重要な波長が 0.55 の ENA で識別されましたが、どちらの結果も PLS モデルよりも大幅に小さくなっています。 両方のモデル セットの適合統計をチェックすると、前処理されたデータの方が全体的な予測モデルが優れていることがわかります。 ただし、生データのみを使用した場合でも、かなり優れた予測モデルを思いつくことができます。
Figure 9 – Model comparison for Gen Reg with Raw and Pre-Processed Data.Figure 9 – Model comparison for Gen Reg with Raw and Pre-Processed Data.Figure 9 – Model comparison for Gen Reg with Raw and Pre-Processed Data.Figure 9 – Model comparison for Gen Reg with Raw and Pre-Processed Data.Figure 9 – Model comparison for Gen Reg with Raw and Pre-Processed Data.図 9 – 生のデータと前処理されたデータを使用した Gen Reg のモデルの比較。
処理されたデータを使用した PLS モデルと ELN モデルの比較では、ELN モデルが R に基づいてわずかに優れているだけであることが示されています。 2 。ただし、ELN モデルはよりシンプルで解釈が容易です。
Figure 10 – Comparison of PLS and ELN modeling techniques for processed data.Figure 10 – Comparison of PLS and ELN modeling techniques for processed data.Figure 10 – Comparison of PLS and ELN modeling techniques for processed data.Figure 10 – Comparison of PLS and ELN modeling techniques for processed data.Figure 10 – Comparison of PLS and ELN modeling techniques for processed data.図 10 – 処理されたデータの PLS モデリング技術と ELN モデリング技術の比較。
それは、すべてのスペクトル分析に Elastic Net モデルを使用する必要があるという意味ですか? これを有力な候補として検討する必要がありますが、最終的にはどのようなモデリング プラットフォームが利用可能か、また予測パフォーマンスに加えてモデルの解釈可能性が望ましいかどうかによって決まります。
さらなるモデリング オプション
ニューラルネットモデル
デモンストレーションの目的で、ニューラル ネット モデルを使用することもできます。この場合、モデルは非常に良好な適合を示しますが、非常に複雑なモデルになります。
ただし、JMP の予測プロファイラーを使用すると、ユーザーは最も複雑な非線形モデルでも解釈できます。 すべての波長が予測に使用される場合、プロファイラーは圧倒される可能性があります。 ニューラル ネット モデルをより単純にするために、モデル ダイアログの Gen Reg で選択した波長を指定できます。
Figure 11 – Comparison of Neural Net fits for raw and pre-processed data.Figure 11 – Comparison of Neural Net fits for raw and pre-processed data.Figure 11 – Comparison of Neural Net fits for raw and pre-processed data.Figure 11 – Comparison of Neural Net fits for raw and pre-processed data.Figure 11 – Comparison of Neural Net fits for raw and pre-processed data.図 11 – 生のデータと前処理されたデータのニューラル ネットの適合の比較。
どちらの場合も、相互検証に固定の 20% 検証列を使用して、双曲線正接活性化関数を備えた 1 つの隠れ層と 3 つのノードでデータを適合させました。
ブートストラップフォレスト
ブートストラップ フォレスト アプローチを使用すると、特定のスペクトルのセットで最も重要な波長が得られます。 これは、前処理によりはるかに優れたモデルが得られることを明確に示しています。 違いは検証 R に基づいています2データセットごとに。 検証R 2生データの場合は 0.805、処理済みデータの場合は検証 R 2は0.987です。 以下のモデルは、検証セットのランダムな選択を避けるために、データの固定 20% を検証セットとして使用して適合されました。
Figure 12 – Comparison of Bootstrap Forest fits for Raw and Pre-Processed data.Figure 12 – Comparison of Bootstrap Forest fits for Raw and Pre-Processed data.Figure 12 – Comparison of Bootstrap Forest fits for Raw and Pre-Processed data.Figure 12 – Comparison of Bootstrap Forest fits for Raw and Pre-Processed data.Figure 12 – Comparison of Bootstrap Forest fits for Raw and Pre-Processed data.図 12 – 未加工データと前処理されたデータに対するブートストラップ フォレストの適合の比較。
サポートベクトル回帰
JMP Pro ではサポート ベクトル回帰 (SVR) モデリングも利用でき、スペクトル データを分析するためのもう 1 つの優れた代替手段となります。 SVR は、継続的な応答のための予測モデルを構築するために使用される、強力で柔軟な境界ベースの機械学習アルゴリズムです。 私たちのデータセットの場合、SVR は処理されたデータを分析する際にも大幅な改善を示しています。
Figure 13 - Comparison of SVR model fits for Raw and Pre-Processed data.Figure 13 - Comparison of SVR model fits for Raw and Pre-Processed data.Figure 13 - Comparison of SVR model fits for Raw and Pre-Processed data.Figure 13 - Comparison of SVR model fits for Raw and Pre-Processed data.Figure 13 - Comparison of SVR model fits for Raw and Pre-Processed data.図 13 - 生データと前処理データに対する SVR モデルの適合の比較。
JMP および JMP Pro には、スペクトル データのモデリングに使用できるモデリング テクニックが他にもあります。使用したいテクニックが見つからない場合、または使用したことがある場合は、お知らせください。必ず取り上げます。今後のブログ投稿。
1)」光散乱と光吸収は、拡張された乗算信号補正によって分離されます。 粉末混合物の近赤外透過分析への応用」分析化学2003 年 2 月 1;75(3):394-404
