以前の2つのブログ投稿では、Jeremy Ash( @JeremyAshJMP )そして私は展示しましたJMP Martensらの一般的な分光データセットを分析することによるスペクトル分析および視覚化機能。 1見せましたスペクトルデータを視覚化するさまざまな方法といくつかの前処理ステップこれにより、データの信号対雑音比を劇的に改善して、さらなる分析とモデリングを行うことができました。
ブログシリーズのこの3番目のセグメントでは、JMPでスペクトルデータをモデル化するいくつかの方法を示します。部分最小二乗(PLS)は、スペクトルデータを分析するための最も一般的なツールであり、PLSはJMPとJMPプロ。 JMP Proは、Elastic Netペナルティ付き回帰、ニューラルネットモデリング、およびBootstrapForestのような高度な決定木手法も提供します。
ブートストラップフォレストとエラスティックネットの手法により、個々の化合物の最も重要な波長と、混合物の成分を定義する波長をすばやく簡単に見つけることができます。 これらのモデリング手法は、生データまたは処理済みデータで使用できます。 この投稿では、ジェレミーと私は、生データと前処理されたデータのモデリングの違いを示し、前処理後の予測機能の全体的な改善を示します。 メソッドの全体的な比較を明確にするために、すべての分析の検証セットと同じ2レベルの検証列をデータの20%で使用しました。
モデリング方法
部分最小二乗
部分最小二乗法は、スペクトルを分析するための標準的な方法です。 PLSは、ワイドデータとトールデータの両方を処理し、特に相関性の高い要素の処理に優れています。 スペクトルデータには相関性の高い吸光度が含まれていることが多く、その結果、連続する各波長が直前の1つの波長に依存するため、この機能はスペクトルにとって良い兆候です。 この依存関係のため、PLSは生のスペクトルデータを分析するためによく使用され、非常に良い結果が得られます。 ただし、前述のように、前処理は、データを前処理するための時間と労力を投入することを保証するのに十分な結果の予測モデルを改善します。 サンプルデータはグルテンとでんぷんの混合物のグループであり、PLSの場合、将来のサンプルでグルテンとでんぷんの比率を適切に予測するモデルを開発するのに非常に役立ちます。
以前の主成分分析では2つの主成分が使用されていたため、PLSモデルは2つの潜在因子を使用して構築されました。 また、Q 2 2つの要因を超えて大幅に改善することはなく、さらに要因を追加すると、モデルの解釈がより困難になります。
図1。 部分最小二乗モデルの設定と出力。
図1。 部分最小二乗モデルの設定と出力。
図2。 生データを使用した部分最小二乗モデル。
図3。 前処理されたデータを使用した部分最小二乗モデル。
以下は、両方のPLSモデルの予測プロットによる実際の比較です。 左側は生データ用、右側は前処理データを使用しています。 ご覧のとおり、前処理されたデータを使用すると、モデルが大幅に改善されます。
図4。 生データおよび前処理済みデータとの部分最小二乗モデルの比較。
一般化回帰(Gen Reg)
一般化された回帰手法は、 JMPプロ。 Gen Regは、通常の最小二乗法からは得られないものを少なくとも2つ提供します。 1つは、Gen Regを使用すると、データを正規分布する必要がないことです。 さまざまな種類のディストリビューションのオプションがあります。 もう1つの違いは、Gen Regにはペナルティ付き回帰手法が含まれており、相関性の高いデータを非常にうまく処理できることです。 Gen Regは、Ridge、Lasso、およびElasticNetを提供します。 Elastic Netは、Elastic Net Alpha(ENA)のペナルティを調整して、モデルにとって重要な多くの相関性の高い要因を拒否することでモデルの適合を防ぐことができるため、スペクトルデータのモデリングに適した妥協案です。 初期モデルの構築には、デフォルト値の0.99ENAが使用されました。 このモデルはかなりまばらで、潜在的に不十分であるように見えました。 Gen Regの高度なオプションを使用して、アルファ値の範囲をスキャンし、より適切なモデルがあるかどうかを確認しました。 このスキャンは、0.55のENA値を使用してより適切に適合しました。 以下のソリューションパスで、2つのENA値の適合の違いを確認できます。

図5–生データのElasticNetソリューションパス。
図6-生データを使用したGenRegの適合統計。

図7-前処理されたデータのElasticNetソリューションパス。
図8-前処理されたデータを使用したGenRegの適合統計。
詳細に立ち入ることなく、生データの適合は、Elastic Net Alpha(ENA)が0.99の場合は10波長を使用し、ENAが0.55の場合は37波長を使用しました。
前処理されたデータの結果は大幅に異なります。 再びElasticNetを使用すると、0.99のENAを使用して22の有意な波長が検出され、0.55のENAを使用して53の有意な波長が検出されました。 ENA 0.55で識別される重要な波長の37と53が多数ありますが、どちらの結果もPLSモデルよりも大幅に少なくなっています。 モデルの両方のセットの適合統計をチェックすると、前処理されたデータがより良い全体的な予測モデルを持っていることがわかります。 ただし、生データのみを使用した場合でも、適度に優れた予測モデルを思い付くことができます。
図9–生データと前処理データを使用したGenRegのモデル比較。
処理されたデータを使用したPLSモデルとELNモデルの比較は、ELNモデルがRに基づいてわずかに優れていることを示しています2 。ただし、ELNモデルはより単純で、解釈が容易です。
図10–処理されたデータのPLSおよびELNモデリング手法の比較。
つまり、すべてのスペクトル分析にElastic Netモデルを使用する必要があるということですか? これは実行可能な候補と見なす必要がありますが、実際には、使用可能なモデリングプラットフォームと、予測パフォーマンスに加えてモデルの解釈可能性が望ましいかどうかにかかっています。
その他のモデリングオプション
ニューラルネットモデル
デモンストレーションの目的で、ニューラルネットモデルを使用することもできます。この場合、非常に良好な適合を示しますが、非常に複雑なモデルです。
ただし、JMPのPrediction Profilerを使用すると、ユーザーは最も複雑な非線形モデルでも解釈できます。 すべての波長が予測に使用される場合、プロファイラーは圧倒される可能性があります。 ニューラルネットモデルを単純に保つために、モデルダイアログでGenRegで選択された波長を指定できます。
図11–生データと前処理されたデータのニューラルネット適合の比較。
どちらの場合も、データは、交差検定用の固定20%検証列を使用して、双曲線正接活性化関数を使用して1つの隠れ層と3つのノードに適合しました。
ブートストラップフォレスト
ブートストラップフォレストアプローチを使用すると、特定のスペクトルセットに対して最も重要な波長が得られます。 また、前処理によってはるかに優れたモデルが得られることも明確に示しています。 違いは検証Rに基づいています2データセットごとに。 検証R 2生データの場合は0.805であり、処理されたデータの場合は検証R 2 0.987です。 以下のモデルは、検証セットのランダムな選択を回避するために、検証セットとしてデータの固定20%を使用して適合されました。
図12–生データと前処理済みデータのブートストラップフォレスト適合の比較。
ベクトル回帰をサポートする
サポートベクター回帰(SVR)モデリングもJMP Proで利用可能であり、スペクトルデータを分析するためのもう1つの優れた代替手段です。 SVRは、継続的な応答の予測モデルを構築するために使用される、強力で柔軟な境界ベースの機械学習アルゴリズムです。 私たちのデータセットの場合、SVRは、処理されたデータを分析するときにも大幅な改善を示しています。
図13-生データと前処理データに対するSVRモデルの適合の比較。
JMPとJMPProには、スペクトルデータのモデリングに使用できるモデリング手法が他にもあります。使用したい、または使用したことがない場合は、お知らせください。将来のブログ投稿。
1)「拡張された乗法信号補正によって分離された光散乱と吸光度。 粉末混合物の近赤外透過分析への応用「」分析化学20032月1日; 75(3):394-404