スピーカー
|
トランスクリプト
|
| David.Wong-Pascua |
そして。 |
| |
シーケンシャルで着実にレースに勝ちます。 みなさん、こんにちは。私はデビッドです。私はCatSciの上級科学者です。 では、CatSciとは何ですか? |
| |
CatSciは、エンドツーエンドの化学プロセス、研究開発のイノベーションパートナーです。 JMP UKなどの組織と協力して、すべての意思決定がデータに基づいていることを確認します。 |
| |
私たちにとって、それはそれを最初に正しくすること、そしてそれを毎回正しくすることです。すべてのプロジェクトに最適なオーダーメイドのソリューションを策定します。そして私たちの絶対的な焦点は、クライアントの期待に応えることです。 |
| |
私たちは、初期段階と後期段階の開発を含む多くの分野で働いています。 私たちはプロセスの専門知識、触媒作用の長い歴史を持っており、それは常に私たちのアイデンティティの中心的な特徴であり、分析化学と材料科学において優れた能力を持っています。 |
| |
したがって、CatSciで直面する課題の1つは、プロセス最適化の上流にあるカテゴリ変数の選択です。 |
| |
この難しさは、私たちの触媒スクリーニング作業で最も顕著です。 |
| |
スライドの画像では、触媒スクリーニングを実行するために依存している装置と機器のいくつかを見ることができます。 |
| |
左側には、金属前駆体と配位子の24の事前投与された組み合わせを含む事前に作成された触媒キットがあります。 |
| |
中央には、右側に見える48ウェルプレートを収容する水素化装置があります。 |
| |
これにより、48の個別の実験を同時に実行できます。 |
| |
これらの機器は、高スループットと小規模向けに設計されており、クライアントのためにこれらのプレートを10個以上実行することは珍しくありません。これは、合計で約500回の実験になります。 |
| |
では、なぜ比較的多数の実験を実行する必要があり、効率を改善するための利点は何ですか? |
| |
したがって、まず第一に、探索する必要のある化学空間は非常に大きいです。 |
| |
あらゆる反応、あらゆる化学反応について、温度、濃度、化学量論など、影響を与える可能性のある多くの要因があります。 |
| |
ただし、触媒反応の探索を特に困難にしているのは、多くの重要なカテゴリ要素があることです。これらには、金属前駆体、配位子、試薬、溶媒、および添加剤が含まれます。 |
| |
触媒反応のもう1つの特徴は、高次の相互作用が頻繁に発生することです。つまり、触媒システム(金属前駆体と配位子の特定の組み合わせ)の場合、 |
| |
性能を測定するには、広範な溶媒および添加剤のスクリーニングが必要です。 |
| |
直前にメタール前駆体と配位子の特定の組み合わせを言うことを除外するのは正しくありません...特定の溶媒での性能が低いという理由だけで。 適切な溶媒または適切な添加剤がない場合があります。 |
| |
最後に、より効率的なスクリーニング方法の利点を説明する最も簡単な方法の1つは、材料の価格を調べることです。 |
| |
私たちの触媒プロジェクトの多くは、プラチナ、パラジウム、ルテニウム、イリジウム、ロジウムなどの貴金属に関係しています。 これらの金属のいくつかは、地球の地殻で最も希少な元素の1つであり、それはそれらの価格に反映されています。 |
| |
Googleで価格をすばやく検索すると、ロジウムの価格が金よりも1桁以上高いことがわかります。 |
| |
触媒作用スクリーニングのもう一つの大きな出費はリガンドです。 安価なリガンドが存在しますが、不斉合成で最も性能の高いリガンドの多くは、SolviasのJosiphosなどの独自のリガンドです。 |
| |
そして、最も一般的に入手可能で最も安価なJ001の1つは、依然として金の2倍の価格です。 |
| |
したがって、実験の数を減らすことで消耗品のコストを削減できますが、マルチトンの製造プロセスを持つクライアントに最適なソリューションを見つけたときに最大の影響が生じます。 |
| |
これらの場合、触媒負荷の10分の1の削減、またはロジウム触媒をルテニウム触媒に交換するなど、より安価な代替触媒の発見により、年間数百万ドルを節約できます。 |
| |
そして今度はベンに引き渡します。ベンはJMPUKチームがこの問題にどのように取り組んだかについて話し合います。 |
| ベン・フランシス |
どうもありがとう、デビッド。 |
| |
ですから、それは明らかです |
| |
CatSciおよびCatSciに類似した他の多くの企業は、大きな処方スペースで大きな課題に直面しています。 |
| |
これは非常に高次の相互作用を持つ可能性があります。 したがって、科学は非常に複雑であり、その複雑さを解明するために実験するために私たちが行うことは重要です。 |
| |
残念ながら、Davidがそこで概説したコストのために、すべての組み合わせをテストするというオプションは、実際には賢明で実行可能なものではありません。 |
| |
そして最終的には、関係を数値的に理解するためのデータサイエンスを含む、何らかの形のアプローチを行う必要があります。 |
| |
したがって、選択した配合を続行して製造に適用するには...複数の製造シナリオで、Davidが言ったように、毎回それが機能することを知る必要があります。 |
| |
そこで、JMPではDOEの適用に非常に興味があり、これがDOEの特定の状況であると感じたため、文献を検索しました。 |
| |
そして、私たちが適切に名前を付けたように、それは大きなDOEです。 そこで、大きなDOEアプローチを適用するケーススタディを検索し、Perera etalによる論文を見つけました。 |
| |
2018年に公開され、彼らはこの反応スクリーニングのプラットフォームを検討しました。 そして、このシナリオで興味深いのは、5つのカテゴリ要素があったことです。 |
| |
そして、これはあまり聞こえないかもしれません。 彼らは反応物1と2、配位子、試薬、溶媒を調べなければなりませんでしたが、この論文で提示されたものの複雑さは各要素のレベルでした。 |
| |
それぞれ4、3、12、8、4レベルを組み合わせると、4,608の異なる組み合わせになります。 |
| |
さて、Perera et alの論文では、彼らはすべてをテストしました。これは、Davidが前に概説したように、すべての組み合わせをテストするだけで、世界中のすべての企業にとって明らかに実行可能なソリューションではありません。 |
| |
ここのヒートマップで、高収量の地域がいくつかあるという考えを彼らが得ることができたことがわかります。 |
| |
歩留まりが低いものもあれば、非常に低いものもあります。 そのため、最終的にはプロセスの理解があまり得られないようにするためのテストがたくさんありました。 |
| |
そして非常に高い実験コスト。 |
| |
だから、これは最終的に彼らが組み合わせを見つけた状況になり、彼らは組み合わせに到達し、それを紙で処理して見て、これは一般的であると言うことができました |
| |
初めては正しかったのですが、それ以降、マルチトン製造シナリオに入れると、毎回正しかったのでしょうか。 必要な仕様を提供し続けますか? |
| |
大きなDOEソリューションはリソース要件を削減しますか? |
| |
それは最初にそれを正しくしますか、そしてそれは毎回それを正しくしますか? そして、これらの質問を測定する方法と、どのように実行したか |
| |
第一に、リソース要件を削減するという観点から、合計480回の実行でのみ実験を設計することを許可しました。 そして、これは10 48のワークプレートを模倣しており、これは紙で実行された実行の約10%です。 |
| |
論文で特定された高利回りの組み合わせのうち、80がテストまたは予測された数を調べることによって、最初に測定されたのは正しいですか? |
| |
生成されたモデルによって。 そして、最終的には実行の10%で、DOEから少なくとも8つの高利回りの組み合わせが得られると期待していました。 |
| |
(そして、高利回りはここでは95%以上の値で示されます)。 |
| |
最後に、そして決定的に、モデルの一般的な診断であるRの二乗を調べることによって、測定されるたびにそれが正しく行われるかどうか。 そして、最終的には、これを見て、プロセスの洞察があるかどうかを確認できますか? 関係は理にかなっていますか? 組み合わせと相互作用は理にかなっていますか? |
| |
したがって、ここでもコースの標準を与えるために行ったのは、4,608の完全なデータセットを使用することでした。これの決定係数は.89であり、これはブーストツリー法を使用したものでした。 |
| |
それでは、Philに引き継ぎます。Philは、私たちが採用した最初の大きなDOEアプローチの概要を説明します。 |
| フィルケイ |
ありがとう、ベン。デビッド、シーンをとてもうまく設定してくれてありがとう。 そこで、3つの異なるアプローチを検討しました |
| |
これに取り組み、その論文で実際にテストされた実行の数を減らしても、概説されているようにベンと同じ有用な情報を得ることができるかどうかを確認します。 |
| |
それで、これら3つのアプローチのうちの2つについて説明します。これらの2つは、一種の極端なアプローチです。 保守的なアプローチと貪欲なアプローチがあり、ライアンは、おそらく最終的に最もうまくいくと思われる、よりハイブリッドでバランスの取れたアプローチについて話します。 |
| |
したがって、保守的なアプローチでは、これは標準的なDOEアプローチです。 10ブロックで480ランのカスタム設計を設計します。これは、Davidが示した触媒スクリーニング装置の10プレートを表しています。 |
| |
そして、見出しの結果は、その480回の実験から、最高の収量の組み合わせのうち13が高収量の組み合わせになることを正しく予測することができました。 |
| |
そして、その480回の実行データセットからモデルを構築することができました。このモデルを、その実験で使用されていないデータに対してテストしたところ、 |
| |
決定係数は約0.73だったので、実際にはかなり良いです。 公開された大きな実験から、その小さな実験から、かなり良いモデル、システム全体のかなり良い理解が得られます。 |
| |
これから得られたいくつかの本当に興味深い洞察は、このデータから有用なモデルを取得するために機械学習を使用する必要があるということでした。それは私たちにとって少し驚きでした。 これについてもう少し詳しく説明します。 |
| |
そして、この保守的なアプローチを使用して収集したこのデータから、ある程度の理解が得られました。 これにより、因子空間全体、特定の組み合わせがうまく機能する理由をよく理解できました。 |
| |
代替地域を特定することができたので、高収量の組み合わせを見つけた場合、それは高すぎるため実用的ではありません。 |
| |
触媒が高すぎるか、危険または毒性があり、工業プロセスに適していない可能性があります。スペース全体を理解しているので、多くの選択肢があります。 |
| |
それで、どうやってそれをしたのですか? |
| |
JMPのカスタムデザイン。 私達 |
| |
480ランを設計しました。この場合、10ブロックで最適に設計しました。 繰り返しになりますが、Davidが機器を見せてくれた10個の48個のウェルプレートを表す10個のブロック。 |
| |
ここで注目すべきは、主な効果のためのカスタムデザインのモデルを指定することです。 |
| |
2次相互作用と3次相互作用の場合。 そして、3次の相互作用と、これらのカテゴリ要素のすべてのレベルで、 |
| |
推定する必要のあるパラメータは非常に多いため、それらすべてを明示的に推定する実験を実際に設計することはできませんでした。 可能であれば、3次の交互作用を入れる必要があるため、これは480回の実行でベイジアンIの最適設計です。 |
| |
このビジュアルからわかるように、さまざまな... 10種類のプレートのさまざまな実験ラウンドを調べています。 |
| |
そして、実験で次のプレートを追加することで、因子空間全体の探索にどのように追加しているかがわかります。 |
| |
特定の地域に焦点を当てているわけではありません。その因子空間全体についての知識の空間を埋めているだけです。 |
| |
つまり、実験で使用した480回の実行と、公開されたデータセットからの残りの4,128行です。 このテストデータを使用して、モデルがホールドバックデータセット(このテストデータ)でどの程度比較されているかを確認できます。 |
| |
今、私たちはあらゆる種類のDOEの背景と経験から、 |
| |
特定のモデルの実験を設計する場合、標準的な回帰手法によって最も有用なモデルが提供されます。 |
| |
したがって、ここではJMP Proを使用し、一般化された回帰を使用して完全な3次モデルに適合させました。 |
| |
ここで実際にベータ分布を使用します。これは、予測を0と1の間でバウンスするため、歩留まりを0から1のスケールに変換します。 このような歩留まりデータをモデリングするときに、JMPProを入手したときにそれを使用することをお勧めします。 |
| |
また、検証方法としてAICcを使用して前方選択を使用するため、重要な効果を選択します。 |
| |
そして、各ラウンドの後にこれを繰り返すので、48ランの最初のラウンド、96の2番目のラウンド、144の3番目のラウンドで、完全な480ランが得られる10番目のラウンドまで続きます。 |
| |
ここでは、最初の3ラウンドを確認するために、genregに設定されているフィルターを確認できます。 |
| |
したがって、最初の3ラウンドでは、これはgen reg、前方選択、AICc検証を使用して取得するモデルです。 |
| |
そして、それは私たちが化学に期待することを私たちが理解していることから直感的に、素晴らしいモデルではないと思います。 モデルに関係する要因は2つだけなので、重要なものとして2つの主要な効果のみが選択されています。 |
| |
したがって、そのモデルをデータテーブルに保存すると、そのモデルがホールドバックデータ(テストセット)をどの程度適切に予測するかを確認できます。 |
| |
実験に含まれていなかった残りの4,128行。 そして、ラウンドごとにそれを行うことができます。 そして、ラウンドごとにそれを行ったので、genregを使用して構築した10個のモデルがあります。 |
| |
さて、別の方法として、いくつかの機械学習方法を検討する価値があると考えました。 そしてここでは、最初の3ラウンドをもう一度見ています。 |
| |
また、さまざまなモデリング手法をすばやく確認する方法として、JMP 16Proのモデルスクリーニングを使用しています。 |
| |
そこにYとXの歩留まりと係数を入力するだけです。 検証のためにデータの25%をランダムに抑制するように、ホールドバック検証列が設定されています。 |
| |
[OK]をクリックすると、これらのさまざまなモデリング手法がすべて実行されるため、レポートが表示されます。 |
| |
これらはどれほどうまくいくか...いくつかのgenregモデル、ニューラルネット、さまざまなツリー手法など、これらすべてのさまざまなモデリング手法。 |
| |
そして、そこで最高の2つを選択しました。 実際、実験のすべてのラウンドで、ニューラル...ブーストされたニューラルネットモデルとブートストラップフォレストが最もパフォーマンスの高いモデルであることがわかりました。 |
| |
繰り返しになりますが、予測式を保存し直して、実験に関与しなかったテストデータセットの式を使用して比較し、さまざまなモデルがそのテストデータセットに対してどの程度うまく機能しているかを確認できます。 |
| |
ここではモデル比較とJMPProを使用しているため、すべてのgen regモデル、ニューラルネットモデル、およびブートストラップフォレストモデルを比較します。 |
| |
そして今、あなたはそのテストデータセットに対して二乗された決定係数のビジュアルを見ています。 これらのモデルが、抑制されたテストデータセットに対してどの程度適合しているか。 |
| |
そして、そこに赤で前方選択を使用する標準回帰モデルであるgenregが表示されます。 |
| |
最初のラウンドでは、それは実際には最高のモデルですが、実際には改善されていません。その後、次のラウンドで再び本当に良くなる前に、突然5前後で非常に悪くなります。 非常に不安定で、終わりに向かって悪化し、おそらく過剰適合です。 |
| |
一方、機械学習の方法は、 |
| |
ラウンド3の後、彼らは最高のパフォーマンスを発揮し、標準の回帰手法よりもパフォーマンスが向上し、ずっと改善しています。 そして実際には、 |
| |
ニューラルはそこで緑でより良く始まり、終わりに向かって、ブートストラップフォレストはブーストされたニューラルネットモデルを上回っています。 |
| |
したがって、ここでの持ち帰り方法はこれでも、比較的単純な状況と見なすことができます。これらの種類のシステムまたはプロセスに最適なモデル、最も信頼性の高いモデルを取得するには、JMPProの機械学習方法が本当に必要です。 |
| |
ここでは、公開された4,608回の実行すべての実際の歩留まり結果と、ラウンド10の終わりに480回の実行が完了した後の最良のモデルの予測とのプロットを見ています。 これが右側のブートストラップフォレストでした。 |
| |
そして、それは悪いことではありません、あなたが見ることができることを知っています、それが拾っている重要な行動。 それは低収量の地域を特定し、最高の収穫地域を特定しています。 だから、あります、 |
| |
特に右上では、ヨウ素(?)反応物とボロン酸およびボロン酸エステルを使用しています |
| |
そこに反応物。 |
| |
そこで、これを他の極端なアプローチと比較します。 したがって、48回の実行の最初のラウンドはまったく同じでした。同じ48回の実行から始めます。 次に、モデルを作成し、そのモデルを使用して、残りのすべての実行のうち、どれを実行するかを見つけます。 |
| |
残りの4,560回の実行のうち、モデルが最も高い歩留まりを予測するのはどれですか。その後、10回までのすべてのラウンドでそれを続けます。 |
| |
そしてこの場合、私たちはより多くの高利回りと組み合わせを正しく予測しますが、10ラウンド後に最終モデルを取得し、それをデータで比較すると |
| |
実験で使用していないので、決定係数はひどいです。 .33です。 したがって、実際に私たちが取得するモデルは、システム全体について適切な予測を行っていません。 |
| |
そのため、1つの高収量地域を十分に理解し、組み合わせを見つけ、うまく機能する要素の設定を見つけていますが、システム全体を実際に理解することはできません。 そうではなかった... |
| |
システム全体の理解におけるばらつきを減らしているわけではありません。 |
| |
つまり、そのシステム、そのアプローチがどのように機能するかを示すために、これは完全な4,608回の実行であり、可能なすべての組み合わせです。そして、ラウンド1で述べたように、これは保守的なアプローチを使用したラウンド1と同じです。私は最適です |
| |
そこに点のセットがあり、それらが因子空間全体に均等に分布していることがわかります。 |
| |
これらの48回の実行からのデータにモデルを適合させます。 |
| |
そして、そのモデルを使用して、他のすべての可能な組み合わせの収量を予測し、それらの中から48の最高収量の予測を選択します。 |
| |
それはそれらのものです。 ご覧のとおり、彼らは...私たちはそうではありません...私たちはもはや完全な因子空間を探索していません。 |
| |
そして、ラウンド1、2、3からラウンド10まで進むと、追加するたびに、上部の高収量ゾーンにあるランを実験に追加していることがわかります。左。 したがって、実際には因子空間の1つの領域にのみ焦点を当てています。 |
| |
ここで実際の値と予測値を比較すると、左上のその領域でかなり良い仕事をしていることがわかります。 |
| |
しかし、他の場所では、予想どおり、かなりひどい予測を行っています。それはおそらくそれほど驚くべきことではありません。 システム全体で実験を行ったわけではありません。 私たちは本当にその高収量地域に焦点を合わせました。 |
| |
そして、それを左側の保守的なアプローチと比較すると(つまり、左側のプロットはすでに見たことがあります)、モデルがどのようになっているのかを見てください。 |
| |
ラウンド1から10まで改善され、その後、各ラウンドでモデルスクリーニングプラットフォームを再度使用して、最適なモデルを見つけました。 |
| |
そして、実際には、各段階で、ブーストされたニューラルネットが最良のモデルであることが判明しました。 さて、保守的なアプローチからのgen regのように、それは一種の不安定であることが再びわかります。 |
| |
時々、それは大丈夫です、しかしそれは決してありません...それは保守的な実験からの我々の最高のモデルと決して競争しません。 |
| |
つまり、これらは2つの極端なことです。ライアンに譲ります。ライアンは、この問題に対するよりバランスの取れた、またはハイブリッドなアプローチについて話します。 |
| ライアン・レキベッツ |
だからそのフィルに感謝します。 そして |
| |
ちょうど実際にプレゼンテーションの途中で、私がこれに参加することを許可してくれたフィル、ベン、デビッドに感謝しなければなりません。 開発者として、少し遊んでみるのは実際にはちょっと楽しいです。 だから私はJMPのDOEプラットフォームの開発者です。 |
| |
Philがここで述べたように、私がここで見ているアプローチはハイブリッドアプローチです。 |
| |
了解しました。ここでのアイデアは、最適化と探索のこのアイデアを検討することです。 |
| |
したがって、Philが話した貪欲なアプローチについて考えると、それは本当にその最適化です。 私は厳密に最善を尽くします、それが私が焦点を合わせるつもりのすべてです。 その保守的なアプローチに対して、気にかけたのは探索だけでした。 |
| |
ですから、ここでの考え方は、中間のどこかに到達できるかということです。 |
| |
スペースを少し探索しながら、おそらく最適化しますか? |
| |
だから私はここで何をしたかを言います...それで私は実際に前もって設定された3つのウェルプレートのようなものから始めましたね。 そこで、サイズ48の3つのブロックを実行し、可能であれば2FIで主な効果を実行しました。 |
| |
その理由は、たった48回の実行でモデルを本当に信用しなかったことがあるからです。 さて、少し焼き付けましょうと言いました。 144、または3つのウェルプレートを試してみましょう。そうすれば、モデルをもう少し信頼できるかもしれません。 |
| |
ある意味で、その貪欲なアプローチを考えても、モデルが悪ければ、ひどい地域に行くことになります。 それはあなたにひどい多くを助けるつもりはありません。 |
| |
そしてまたそうです...前と同じように、私はまだ最後に合計10のウェルプレートまたは合計10のブロックを行うつもりです。 |
| |
これについては、今後のスライドで少し説明しますが、実際には全体を通してXGBoostを使用していました。 だから私が予測していた方法はXGBoostを使用することでした、そして私が到達する理由があります |
| |
それをしてくれて。 |
| |
しかし、ここでの考え方は、本質的に予測値が何であるかをとることでした。 だから、ベスト48を厳密に追いかけるのではなく、しきい値を設定するつもりだと言いました。 |
| |
そうです、最初の3つの後、私は50から始めました。 だから私は言った、50より大きい予測値を私に与えてください、そして私がさらにウェルプレートを続けるにつれて、私は各ラウンドで5を増やすつもりです。 |
| |
つまり、それはかなり恣意的でした。その一部は、ラウンド数が10回しかないことを知っていたということでした。それは、そのセットの大きさを予測に基づいて確認できたからでもあります。 |
| |
そうです、データによっては、そのセットがまだ巨大で、予測値が約50であるように見える場合は、それを変更できます。 |
| |
したがって、ここでの考え方は、実際には、より高収量の地域であることが期待されるものをゆっくりと探索し始めることです。 |
| |
それで、私たちは正しかったのですか? さて、これでは、実際には、80の最高収量の組み合わせのうち27を取得しました。これは、貪欲なアプローチからそれほど遠くはありませんでした。 |
| |
また、すべてのホールドアウトデータを含むRの二乗を考えると、最終テストのRの二乗は.69であったため、保守的なアプローチからそれほど遠くはありませんでした。 だからただ... |
| |
つまり、あなたはそうかもしれません...あなたは今、これらの2つの数字を見るだけで注意したいと思うかもしれませんが、それに基づいて、このハイブリッドは実際には両方の世界の一種の最高のようです。 つまり、あなたはそれをトレードオフしているのですが、しかしあなたは何か良いものを手に入れています。 |
| |
したがって、このアプローチに関するいくつかの洞察があります。 本当に、最終的には、高利回りに関連するこれらの因子空間をよりよく理解できたと思います。 |
| |
貪欲だと思いますが、それらのポイントがどこにあったかを振り返ると、それらは本当に左上に集中していたので、そのスペースの探索はそれほど多くありませんでした。 |
| |
そして、あなたは想像することができます... |
| |
そこにある何かが一晩で突然4倍の価格になった場合、この地域の他の地域については他に何も知りません。 |
| |
そうです、そしてこのハイブリッドアプローチでは、その方法と理由のいくつか、いくつかの組み合わせが得られ、より良い選択肢が得られます |
| |
繰り返しになりますが、他に考慮すべきことがある場合は、他の測定に基づいたより良い代替案があるため、歩留まりを少し犠牲にしてもかまいません。 |
| |
それで、本当に、ここでのアイデア...そうです。では、カスタムデザインでこれが実際にどのように行われたかについて説明します。 だから私が取ったアプローチは |
| |
カスタムデザイナーで共変量を使用しますが、これは時々過小評価されていると思います。 |
| |
しかし、アイデアは、私がその完全なデータセットを取得しただけなので、4,608全体が実行されます。 |
| |
そして、ラウンドごとに...想像できるように、最初はそれらを取りました... 144ランの設計を取り、次に、その完全なデータセットのサブセットを取りますと言いました。 以前のデザインですでに選択している場合は、それが含まれていることを確認する必要があります。 |
| |
また、その特定の値を超える予測歩留まりを教えてください。これも、50と55、60などで開始された4番目の設計です。 |
| |
したがって、データテーブルでは |
| |
ここで、以前の実験で使用したデザインポイントを選択します。 だから私はそれらが強調表示されていることを確認します。 そして、カスタム設計では、追加係数を使用すると、共変量と呼ばれるオプションがあります。 そしてまた、私はそれが...だと思います |
| |
多くの人がこれまで共変量を実際に見たことがありません。ここで述べたのは、共変量について話すだけで話全体を費やすことができると思うからです。 |
| |
しかし、実際にはいくつかのブログエントリがあります(このビデオを見るまでにアップしていない場合、おそらくこれを見るまでに数日以内に) |
| |
ここで、共変量を実際に使用する方法についてもう少し説明します。 しかし、アイデアは、以前に候補セットと呼ばれるものも聞いたことがあるかもしれないので、アイデアは... |
| |
これは、以前に選択したもののサブセットであるこのデータセットとそのようなものであり、カスタムデザイナーにこれらのデザインポイントのみを選択できることを示しています。 |
| |
標準的な方法はできません。座標などすべてを切り替えようとします。 これは、JMPカスタム設計者に、これらの実行を設計で使用する必要があること、特に、 |
| |
共変量を使用するオプションの1つは、以前に選択した設計点を強制できることです。したがって、この方法では、実際には設計拡張を行うようなものです。 |
| |
共変量を使用した後に候補を使用します。 |
| |
そしてもちろん、これは...この場合、以前に実験した設計ポイントを実際に捨てることができないためです。 本当に、私たちがやりたいのは次の48を選ぶことだけです。 |
| |
カスタムデザインについて考えるなら、ここでも言及する必要があります... |
| |
したがって、これらのそれぞれで、私が行っていたのは... 2因子交互作用、そして可能であれば3因子交互作用でした。 |
| |
しかし、そこには...それはデザインスペースを探索するためのメカニズムのようなものでしたね。 私がフィッティングしていたモデル |
| |
事後にXGBoostを使用していたので、XGBoostモデルなどに合わせて設計が最適化されていなかったということです。 |
| |
これは、予測された歩留まりが良好に見えるデザインスペースを探索するための代理としての役割を果たしました。特に、これはカテゴリ要因を扱っていたため、バランスをうまくとることができるようになります。 もう1つ言及すべきことは、 |
| |
繰り返しになりますが、基盤となるモデルやXGBoostなどを使用していないため、応答を使用できます。 したがって、この場合、彼らは別の共変量として収量を予測しました、そしてそれがすることは高収量と低収量の両方のより良いバランスを得ようとすることです |
| |
デザインを作ろうとしているときの反応。 |
| |
ですから、ここではそれについては調べませんでしたが、将来的にはそれが有効なことになると思います。 |
| |
だから、予測された収量に。 それで、私がで述べたように...それで、フィルが彼が試した他の機械学習技術のいくつかについて話していたとき、私は思います |
| |
私の???については、実際には主にXGBoostに焦点を当てました。 |
| |
そして、左側を見ると、私がやった理由の1つは、試してみることでした。 |
| |
K分割交差検証を使用しますが、ここでは設計番号を使用します。これは、基本的に、追加の各分割としてウェルプレートになります。 したがって、異なるKフォールドをランダムに選択する代わりに、 |
| |
それは、私がウェルプレートを見て、それからそれぞれのためにそれを差し控えようとするつもりだと言うでしょう。 ですから、想像してみれば、最初の1つは、ウェルプレートが3つしかないときです。 |
| |
それはそれらのウェルプレートのそれぞれを取り、それを差し出し、そして残りの2つに基づいてそれがどれだけうまく予測できるかを見るつもりでした。 それで、私が10番目に到達するまでに... 10番目のウェルプレート、それは実際には10倍のようなものになるでしょう。 |
| |
ですから、その理由の一部は、そのモデルを、あなたが見たことのない次のウェルプレートに対して堅牢にしようとすることを考えることでした。 |
| |
そして、実際には、特定のウェルプレートで何かが起こった場合、これはおそらくあなたを保護するでしょう、 |
| |
それなら、それからも少し保護されるかもしれません。 |
| |
また、XGBoostで行ったもう1つのことは、XGBoostプラットフォームを起動したときです。たとえば、アドインを使用すると、チューニングデザインと呼ばれるものの上部に小さなチェックボックスが表示されます。 |
| |
そして、そのチューニングデザインで、 |
| |
実際には、カバーの後ろにスペースを埋めるデザインを適合させ、さまざまなハイパーパラメーターに対してそれらすべてを実行しています。 |
| |
それで、私がこれをするたびに私がしたことは、 |
| |
50回の実行のチューニング設計を選択しますが、そのハイパーパラメーター空間を探索するだけです。 だから私は各ラウンドでそれを選ぶモデル |
| |
最高の検証R二乗を持っていたものでした。 繰り返しになりますが、この場合の検証Rの二乗は、実際には私が持っている設計点のみを使用しています。 だからこれはそのKフォールドを... |
| |
それらの異なるウェルプレートで。 したがって、この場合、検証R 2乗は使用されません...まだ表示されていないデータを使用していません。これも、実際には、まだそのデータがないためです。 |
| |
しかし、これは、私がウェルプレートを使用していたその検証手法を使用して言っているだけです。 繰り返しになりますが、これがほとんどの場合XGBoostを使用していた理由の一種であり、別のことを試みていたのです。 |
| |
そのKフォールド手法を使用します。また、そのXGBoostに関しては、スペースフィリングも使用するのが本当に好きです。 |
| |
それでは、ここを見てみましょう。 ですから、ここで見るように、これらは連続するラウンドを通して選ばれるポイントです。 さて、 |
| |
貪欲なアプローチで何が起こっていたかを考えると、つまり、それは本当に左上に焦点を合わせていたということです。 |
| |
そうですが、今、このハイブリッドアプローチで見ると、 |
| |
ラウンドに進み始めると、それらのポイントがもう少し埋められるのがわかりますが、特に左側のポイントのサンプリングも改善されています。 |
| |
そうです、あなたが視点から考えるならば、今あなたはそれらの高利回り地域のためのはるかに良い選択肢を持っています。 |
| |
私はそう思います...今、実際の対予測を見てみると、 |
| |
私たちがより良い調査をしたので、私は実際にこれも一種のことを言っていたと思います。 |
| |
多分それらの高利回り地域では |
| |
左下を見ると、実行可能な代替案のいくつかをピックアップするハイブリッドモデルではるかに優れた仕事をしたと思います。 |
| |
この方法の良い点の1つは、歩留まりだけでなく、それに集中できることです。 |
| |
そうですね、考えてみれば... |
| |
ある種の毒性であろうと、費用がかかるものであろうと、私は二次的な反応を示す可能性があります。 |
| |
これらの予測値を見ると、歩留まりだけでなく、それに焦点を当てることができます。 したがって、欲張りアプローチのようなものを考えると、 |
| |
検討したい二次基準を追加し始めると、そのバランス調整を開始するのがはるかに難しくなります。 このサブセットアプローチでは、それを行う際に二次応答を追加することはまったく難しくありません。 |
| |
結論を出すために、今からベンに引き渡すと思います。 |
| ベン・フランシス |
そう、 |
| |
私たちがこれに取り組んでいる理由の背景を説明してくれたDavid、Phil、Ryanに感謝し、最終的には2、3の非常に優れたソリューションと方法を提供してくれました。 |
| |
この問題にどのように取り組んでいるかをご覧ください。 そして、これらすべてのアプローチにおいて、JMPが科学者に価値を提供していることは明らかです。 そのため、簡単に前もって、実験用のリソースを10分の1に削減できます。 実行の10%のみを使用しました。 そして |
| |
最終的に、それぞれの状況で私たちが可能にしたのは、仕様を満たし、実験から高収率のソリューションを提供する能力でした。 |
| |
しかし、それに加えて、このアプローチを採用している企業の目標と戦略に応じて、さまざまなレベルのプロセスを深く理解する方法も示しました。 |
| |
さて、JMPの3人である私たちは、CatSciがこの問題にどのように取り組むかに非常に興味を持っていることに気付くかもしれません。 私たちは必ずしも取っていませんでした |
| |
CatSciから離れた問題を自分たちで解決する。 DOEの観点からこれに取り組むためのツールを提供しています。 そして、これは顧客としてのデビッド間の素晴らしいコラボレーションでした。 |
| |
私と技術販売の側のフィル、そして製品開発のライアン、そして私たち全員がこれを異なる視点から見ていることがここで重要です |
| |
そのようなソリューションを可能にするために、前に述べたように、達成する必要のある目的に応じて、さまざまな方法でプロセスの深い理解を見ることができます。 |
| |
その過程でいくつかのことがわかりました。これはJMPで私たちにとって非常にエキサイティングであり、製品の改善につながり、それを自分自身に返します。 |
| |
顧客として。 機械学習アプローチはこの大きなDOEの状況に適用可能であり、ご存知のように、JMPを使用すると簡単に適用できることがわかりました。 また、検証アプローチの観点から注意を学びました。これについては、さらに詳しく調べることができます。 |
| |
したがって、最終的には、DOEの大きな課題に関してかなりの量の作業をここに提示しました。そして、CatSciと同様に、この種の問題に取り組んでいる企業はたくさんあると確信しています。 |
| |
ですから、私たちが行ったこの作業をさらに探求することをお勧めします。リソースとこのビデオを投稿するコミュニティに関して、ここに2つのリンクがあります。 |
| |
また、JMP Public postを使用すると、この中で使用したデータを手に入れることができます。 ですから、このプレゼンテーションの皆さんから、ご覧いただきありがとうございます。 |