半導体製造工程では、デバイス性能を包括的な製造プロセスにおいて予測することが課題となっています。この予測可能性の欠如は、歩留まりの低下とコスト増加につながっています。本プロジェクトでは、インライン計測データ（3つの応答変数（Y）と300以上の予測変数（X）、約400のデータポイントからなるデータセット）を用いてデバイス性能を予測する予測モデルを構築する方法を示します。
プロジェクトの複雑さを評価するため、JMP多変量プラットフォームを利用しました：(1)比較的弱いYY競争、(2)強いYX因果関係、(3)深刻なXX多重共線性依存性。300を超えるすべての予測変数を考慮すると、標準的な最小二乗法とステップワイズ法の両方で深刻な過剰適合リスクが示されました。RSMモデリングを続行するために重要な少数のXを選択するために、3つの最新のデータマイニング次元削減手法を利用しました：(1)パーティション、(2)ニューラル、(3)予測変数スクリーニング。通常のJMPソフトウェアに限定されると、ランダムフォレストアルゴリズムを使用した予測変数スクリーニングは、再帰パーティションの懸念を効果的に解決し、より均一な寄与パターンを提供しました。予測変数スクリーニングの予測変数ランキングに基づいて、適合モデル、ニューラル、パーティション、およびアンサンブルモデルを組み合わせたハイブリッドモデルを実行し、デバイスのパフォーマンスを予測しました。また、再帰的な組み合わせ反復を実装し、効率的なモデル開発を確実にするための停止基準を確立しました。
このJMPプロジェクトにより、予測能力を強化し、デバイス設計に役立つ貴重な洞察を抽出することができました。信頼性の高い予測モデルを活用することで、新製品開発サイクルタイムを大幅に短縮できます。
皆さん、こんにちは。チェン・チー・スーです。アプライド マテリアルズのプロセスエンジニアです。本日は、ハイブリッド予測スクリーニングと最小二乗RSMアプローチについてご紹介します。このプレゼンテーションは、チャールズと私の共同作業です。
半導体製造工程は、製造プロセス全体を通してデバイス性能を予測するという課題に直面しています。この予測可能性の欠如は、歩留まりの低下とコスト増加につながっています。この問題に対処するため、インライン計測データ（X）に基づいてデバイス性能（Y）を予測する統計モデルを開発することが目的です。製造プロセスには、堆積、リソグラフィ、エッジ、そしていくつかのインライン計測測定が含まれます。
Yを予測するモデルを構築できれば、過去のモデルにフィードバックを提供してプロセスの変化を監視できるため、品質管理の改善、歩留まりの向上、さらにはフロープロセス全体の最適化が可能になります。データセットには、3つのレスポンスと約300の予測因子があります。これらの予測因子の中には…レスポンスごとに約200の予測因子があります。これらの予測因子の中には、各Yに独立した予測因子と、すべてのYに共通する共通の予測因子があります。ご覧のとおり、これは非常に複雑なモデルです。
このレポート全体を通して、いくつかの重要な疑問を探求したいと考えています。例えば、Y1とY2がなぜ高い相関を示しているのかを理解したいと思っています。さらに、YとXの関係性も把握することで、デバイスのパフォーマンスを最適化する方法を検討したいと考えています。これらの疑問はすべて、このプロジェクトを包括的に理解する上で非常に重要です。これは複雑なモデルであるため、まず多変数アプローチを用いて、YY、YX、XXの関係性を確認します。
YY間の関係性を見てみると、この多変量プロットに基づいて、基本的に正の相関関係にあることがわかります。これらのYは互いに競合していません。これは、私たちの設計ではこれら3つのYすべてを一緒に増加させることを目標としているため、合理的です。さらに、各Yには、それぞれのYを制御する独立した予測因子がいくつか存在するため、それらが互いに干渉する可能性が低くなります。この設計は、デバイス性能を向上させるため、望ましいものです。
次に、YXの因果関係を見てみましょう。一番左の列を見ると、YXの関係が非常に強く、YとXの間にはある程度の線形関係があることがわかります。理想的には、この関係性に基づいて、ここにあるすべてのXに基づいてYを予測するモデルを構築できるはずです。
これで、XXの依存関係を調査できます。すべてのX値を比較すると、XX間の関係が非常に強いことがわかります。非常に線形です。しかし、いくつかはそれほど強くありません。他のものについては、ここで示されている線形関係ほど有意ではありません。これは、XXに深刻な多重共線性の懸念があることを示しています。各予測変数の効果を判断するのは非常に困難です。解決策としては、Xの一部に多重共線性の懸念がある理由を理解するために、さらに調査を行う必要があります。また、モデルを構築する際には、重要性の低い項を削除し、モデル検証を行う必要があります。
アプローチの当初は、この平方モデルを用いてすべての予測変数を適合モデルに組み込み、YYがどのように反応するかを観察していました。しかし、いくつかの課題に直面しました。まず、Y1を例に挙げると、すべての予測変数を用いてモデルを適合させると、決定係数が調整決定係数よりも10%以上大きくなるため、過剰適合の問題が発生します。
2つ目の問題は多重共線性です。先ほど述べたように、XX関係とX項の一部には非常に強い線形関係が見られます。パラメータ推定値の表でVIF項を見ると、一部の予測変数のVIFが非常に大きいことがわかります。これは望ましいことではありません。
次に、モデルには非常に強い交互作用が見られます。概要レポートを見ると、主効果と全体効果をすべて合計できることがわかります。この場合、主効果と全体効果の差が交互作用効果となります。しかし、このモデルに基づくと、交互作用は36%を超えています。これは、このモデルに強い交互作用があることも示しています。交互作用を考慮し、すべての予測変数を決定係数モデルに含め、すべての交互作用項も考慮しようとしましたが、JMPでは自由度の減少が十分ではないというエラーメッセージが表示されます。
ここでは、モデル構築に必要な予測変数の数と自由度の減少を列挙しています。例えば、Y変数の場合、約200個の予測変数があります。切片、主効果、二次項、交互作用項を考慮すると、RSMモデルを構築するには全ての交互作用を考慮するために約20,000個の自由度が必要になりますが、私のデータセットではこれは実現不可能です。
データの総数と予測変数を考慮すると、分析には約20個の予測変数を選択するのが妥当と思われます。予測変数を約20個に絞り込めば、モデル構築に必要なデータポイントは約250個で済むからです。こうした課題を踏まえ、データマイニングに移行し、より良いモデルを構築するための主要な予測変数を特定する必要があります。JMP分析では、主にR2調整済み（RMSC）を用いてより良いモデルを見つけることに焦点を当てます。過剰適合の懸念は避け、このモデルを安定させたいと思っています。また、モデルの簡素化のために主要な予測変数を特定する必要があります。ここでは3つの異なる分析を試しました。
一つ目は、ニューラル法です。これは機械学習の一種で、非線形効果や相互作用効果を考慮できます。ニューラル法は、モデルと主要な予測因子を提供します。二つ目は、パーティション法です。これは、決定木アプローチを用いて予測因子を分類し、応答を予測する最適な方法を見つけます。この方法もモデルと主要な予測因子を提供します。三つ目は、予測因子スクリーニングです。ランダムフォレストアプローチを用いて、強力で感度の高い予測因子を特定しました。しかし、この方法では、モデルを提供せずに主要な予測因子を見つけることしかできません。
もう1つお話ししたいのは、JMP Proを使わなくても複雑なモデルを解析できるということです。JMP ProはAIを活用し、高度なモデリング、モデル比較、選択、モデルのクロスバリデーションなど、より高度な分析機能を提供します。しかし、JMPを使用している間は、これらの機能を利用することができません。この制限を克服するために、別のアプローチを使用できます。例えば、ハイブリッドモデルを使用して、予測変数スクリーニングとさまざまなモデリング手法を組み合わせることができます。また、各モデルを手動で比較したり、アンサンブルモデルを現在のモデルと組み合わせて、より優れたモデルを構築することもできます。クロスバリデーションには、JMPのJSLスクリプトを使用することもできますが、この部分については本レポートでは取り上げません。
では、予測モデルの最初の分析を見てみましょう。まずはニューラルネットワーク分析から始めます。この分析でもY1を例として使用します。ここでは、K=5、隠しノード=20のKFoldを使用しています。これは、ニューラルモデルの安定性を高め、過学習を軽減するための交差検証が含まれているためです。ニューラルネットワーク法は非常に高度な数学モデルを使用しているため、5回実行したところ、結果が大きく異なりました。
ここにある3つのハイライトをご覧ください。トレーニングセットと検証セットの違いが非常に大きいことがわかります。これは、このモデルが安定しておらず、過学習の懸念があることを示しています。例えばこのYは、決定係数が高く、過学習が低い場合もあります。ニューラルモデルを複数回実行することで、ほとんどのモデルで過学習の懸念が見られることが分かりました。これで、このデータセットにニューラルモデルを適用しても非常に安定していることがわかります。
さらに、予測プロファイラーを使用して、様々な予測変数の重要度をランク付けできます。相互作用効果はモデルの約85%であることが示されており、予測変数と応答変数の間に非常に非線形な関係があることを示しています。また、上位4つの予測変数は、同様の合計効果を示しており、モデルの最適化が非常に困難になるでしょう。さらに、合計効果は主効果よりも大きくなっています。これは、このモデルの背後に非常に大きな数学的変換があるため、非常に強い相互作用があることを示しています。結論として、ニューラル法は不安定性と過剰適合性のため、主要な予測変数を特定するには不十分です。
次の分析では、パーティションを使用します。パーティションは、ツリー状のバイナリ分類アプローチを使用して予測変数を分類し、予測に最適なモデルを見つけます。私の分析では、検証係数を0.2に設定しました。ニューラルモデルの結果と比較すると、ここでの決定係数は似ていますが、これらの予測変数の順位付けを見ると、上位6つの予測変数が分散の約80%に寄与しており、最初の予測変数が最も大きく寄与しています。このパーティション手法を使用すると、ほとんどのリソースが最初の予測変数に割り当てられるため、他の予測変数の残りの部分は減少します。
ニューラルモデルで確認された不安定性を考慮し、複数回実行を行いました。それでも、各トレーニングセットと検証セットの決定係数（R-Square）は大きく異なっています。つまり、このモデルは不安定性と過学習のため、主要な予測変数を特定するには依然として不十分です。
これまでの結果を踏まえ、最小二乗モデル、ニューラルネットワーク、パーティションモデルを比較するための簡潔なまとめです。各モデル、例えば標準最小二乗モデルは決定係数が高いことがわかりますが、それでも過剰適合と非常に強い多重共線性の懸念があります。この手法は主効果のみを考慮します。ニューラルネットワークとパーティションモデルでも過剰適合の懸念があり、安定性に欠けています。また、どちらの手法も重要な予測変数を見つけることができません。重要な予測変数を見つけるには、別のモデルを検討する必要があります。
さて、前回の研究から、パーティションにおける新しい役割は私たちのモデルには適切ではないことがわかりました。そこで次に、予測変数スクリーニングを行います。ブートストラップランダムフォレストパーティション法を使用しました。この手法では、多重決定木を用いて、異なる数の予測変数とランダム予測変数を選択することで安定性を高めます。
このモデルを構築する際、より安定したモデルを得るために5,000本のツリーを使用しました。この分析を実行すると計算に約15分かかりましたが、私の分析では許容範囲内です。これらの予測変数の順位付けが完了したら、最適な予測変数の数も把握する必要があります。そこで、予測変数の累積寄与を視覚化するために、累積割合プロットを作成しました。
例えば、予測変数を23個選択すると寄与の約60%をカバーできますが、75個選択すると寄与の約80%をカバーできます。これはパレートの法則（20～80%）に一致しています。このプロジェクトの主目的はモデルの複雑さを大幅に軽減することであるため、分析には23個の予測変数を使用することにしました。JMPの予測変数スクリーニング機能は、モデルを提供せずに重要なパラメータを特定することしかできません。この制限に対処するため、予測変数スクリーニングと適合モデルを組み合わせたハイブリッドモデルを使用し、JMP Proのランダムフォレストアルゴリズムでシミュレーションを行いました。このハイブリッドモデルの結果は、過剰適合の懸念がないことを示しています。
さらに、VIFを見ると、10を超えるVIFを持つものもいくつかありますが、ここで使用している予測変数のほとんどは10未満であることがわかります。なぜ一部の用語が依然として高いVIFを示しているのかをより深く理解するために、これらの高いVIFを持つ用語に対してクラスター変数分析を行いました。分析の結果、これらの予測変数はすべて2つのグループに分けられます。
最初のグループはオレンジ色でハイライト表示され、2番目のグループは青色でハイライト表示されています。[inaudible 00:21:10]データを確認すると、最初のクラスターのすべての予測変数は、すべて同様のCDを持っていることがわかります。ここにある3つはすべて、別のCDを持っています。これは、モデルを作成する際に、実際にはこれらの予測変数すべてをモデルに含める必要がないことを示しています。このグループ内では、予測変数間の相関が高いため、モデルに含める予測変数は1つだけ選択すればよく、このグループの場合は、モデルに含める予測変数は1つだけです。
クラスター変数の前回の分析に基づき、当初23個だった予測変数を約18個に削減することができました。これにより、VIF項はすべて10未満になります。さらに、予測変数の総数が約200個から18個に大幅に削減されたため、双方向の相互作用を考慮できるようになりました。この結果は、双方向の相互作用を考慮したハイブリッドモデル2では、主効果モデルのみと比較して決定係数が約20%向上していることを示しています。また、このハイブリッドモデルは、従来のニューラルネットワークとパーティション法よりも優れたパフォーマンスを示しました。予測変数を最適化し、双方向の相互作用を考慮することで、より洗練された改善されたモデルが得られました。
次に、この手法におけるこれまでの学習に基づいて、この学習をすべてY2とY3に適用します。全体的に見ると、予測変数スクリーニングと適合モデルを組み合わせたハイブリッドモデルを使用することで、これら3つの回答において、元のデータセットから予測変数を約90%削減できることがわかります。また、決定係数はすべて許容範囲内で、約70～80%です。予測変数を削減した後も、過剰適合やVIFの問題は発生していません。
次のステップでは、予測子スクリーニングとニューラルモデルを組み合わせたモデル、そして予測子スクリーニングとパーティションモデルを組み合わせたモデルなど、様々なモデルを比較します。ニューラルモデルでは、前のスライドで示したすべての予測子を考慮すると、深刻なオーバーフィッティングの懸念があることがわかります。一方、このハイブリッドモデルと予測子スクリーニング、ニューラルモデルを比較すると、依然として若干のオーバーフィッティングの懸念はあるものの、ニューラルモデルとすべての予測子を比較すると、オーバーフィッティングの懸念は小さくなっています。一方、パーティションモデルと他の予測子、そしてこのハイブリッドモデルと予測子スクリーニング、パーティションモデルを組み合わせたモデルでは、この手法による大きな改善は見られません。
次のステップでは、これらすべての異なるモデルを比較します。ここに、現在使用しているすべてのモデルをリストします。最小二乗モデルに加え、予測子スクリーニングとニューラルネットワーク、予測子スクリーニングとパーティション、そして予測子スクリーニングと最小二乗法とその交互作用を組み合わせた複数のハイブリッドモデルがあります。このハイブリッドモデルでは、約18個の予測子でR二乗が得られ、許容範囲内のR二乗が得られていることがわかります。また、全体的に見て、このハイブリッドモデルはすべて、最小R二乗と調整済み最小R二乗が高くなっています。しかし、このモデルを使用すれば、常に他のモデルよりも優れたパフォーマンスを発揮できるのでしょうか？
ここで2つの例を挙げます。この例では、ハイブリッドニューラル、ハイブリッドパーティション、ハイブリッド最小二乗モデルを実際のデータ（ここにある応答）と比較しています。この例では、このデータポイントを選択すると、これら3つのモデルの対応する予測値を確認できます。実際には、ハイブリッドニューラルモデルは実際の結果に近い値を示しています。しかし、これは別の例として考えてみましょう。このデータポイントを選択し、これら3つのレートが各モデルの対応する予測値である場合、この例ではハイブリッド最小二乗モデルの方がより良い予測値を示すことがわかります。
これらのモデルをすべて組み合わせて、予測をさらに強化することは可能でしょうか？これは、こちらのリンクから見つけたJMP Proの機能です。この機能は、アンサンブルモデリング（Model of Model）と呼ばれる概念を導入しています。複数の高性能モデルを選択してアンサンブルモデルを構築できるという考え方です。アンサンブルモデルの可能性に刺激を受け、現在使用しているデータセットへの適用を検討しています。同じ手法を用いて、JMPを使って複合モデルを作成できるかどうか知りたいです。
以前示したように、現在3つの異なるハイブリッドモデルがあります。アンサンブルモデル手法を適用するために、これら3つのモデルを異なるアプローチで組み合わせます。これにはモデル5も含まれます。平均アルゴリズムを使用するため、既存の3つのモデルすべてを平均します。モデル6は加重アルゴリズムです。各モデルに異なる重みを与え、より良いモデルになるかどうかを確認します。モデル8でも、ニューラルアルゴリズムを使用してこれら3つのモデルを組み合わせます。モデル8では、パーティションアルゴリズムを使用してこれら3つのモデルすべてを組み合わせます。
この表は、回答の平均、RMSE、決定係数（R-Square）、調整済みR-Square、そして潜在的リスクのすべてをまとめたものです。このプロットを使って表を視覚化すると、このデータでは回答の平均がここにあり、範囲がRMSEとなることがわかります。調整済みR-Squareのモデルを、最も高いものから最も低いものの順に、異なる色分けでランク付けしています。モデル7を使用して、これら3つのモデルすべてをニューラルアルゴリズムで組み合わせると、ベースとなる調整済みR-Squareと、最も小さいRMSEが得られることがわかります。
結論として、予測因子スクリーニングと最小二乗モデリングを組み合わせたハイブリッドアプローチに関する研究により、予測因子を約90%削減したモデルを構築できました。このモデルに基づいて、YYの正の組合せを理解し、YXを共最適化し、XXへの依存を低減することができます。複数のハイブリッドモデルとアンサンブルモデルの開発を通じて、デバイス性能を予測するためのモデルもいくつか構築しました。
将来を見据えると、今後の取り組みにいくつかの可能性が残されています。予測子スクリーニングを用いて、異なるモデル間のランキング差をすべて比較することができます。また、再帰的な組み合わせ反復処理を用いて、停止基準を決定することも可能でしょう。さらに、ダッシュボードやグループスクリプトを統合し、すべての重要なモデルKPIを要約・比較できるようにしたいと考えています。
このプロジェクトにおいて、多大な指導と技術サポートをしてくださったメンターのチャールズにも感謝申し上げます。また、データ収集において多大なサポートをしてくださったApplied MaterialsのCTO PPBチームにも感謝申し上げます。本日のプレゼンテーションは以上です。ありがとうございました。
