ベイジアン最適化。全体的な最適化のための逐次設計戦略お客様からベイジアン最適化について質問がありました。 顧客から同様の要望を聞いた人はいますか?
一般に、ベイジアン最適化は、関数形式をまったく想定しないブラックボックス関数のグローバル最適化のための逐次設計戦略です。 この方法は、機械学習モデルを調整するために使用されています。 ベイジアン最適化は、最近では製造業（シミュレーション実験や実実験）でも応用されています。
私の顧客は、前の実験のデータに基づいて、次回の実行に最適な実験の候補を選択したいと考えています。
化学実験への応用例です。
https://www.nature.com/articles/s41586-021-03213-y
JMP ではガウス プロセス モデルを作成できるため、顧客は JMP でベイジアン最適化のいくつかの手順を実行できると思います。
裕一
Re: ベイズ最適化;全体的な最適化のための逐次設計戦略ありがとう、裕一。
これに専用の商用ソフトウェア製品があるのは興味深いことです。
私はこの種のアプローチに関する学術論文をかなりの数見てきました。 そのうちのいくつかは、R または Python に基づいたオープンソース アプリケーションを提供しています。 これらの論文で私が目にしたアプローチはすべて「ロボット」または「アルゴリズム」です。
JMP を使用する利点は、科学者が各ステップでデータをインタラクティブに探索して、ドメインの理解を進めながらプロセスを進めることができることです。
よろしく、
フィル
Re: ベイズ最適化;全体的な最適化のための逐次設計戦略今日顧客と話をしたところ、実験に JMP を使用できると感じていました。 ちなみに、以下の製品もこの目的のソフトウェアの候補です。
https://citrine.io/product/what-is-the-citrine-platform/
ありがとう、
裕一
Re: ベイズ最適化;全体的な最適化のための逐次設計戦略ありがとう、フィル。 すべての情報は私にとって役に立ちます。
空間充填設計とガウス プロセス モデルの組み合わせが顧客にとってのソリューションとなることは理解しています。 それは私にとって理にかなっています。
Discovery Europe でのプレゼンテーションについてお知らせいただきありがとうございます。 あなたと Ryan のアプローチは、共変量/候補実行機能と XGboost の組み合わせであると理解しています。 それは JMP Pro の顧客にも当てはまると思います。
私はそれらのアプローチをお客様に提案します。 お客様に良い結果が出ましたら、ご報告させていただきます。
ありがとう、
裕一
Re: ベイズ最適化;全体的な最適化のための逐次設計戦略はい、 @yuichi_カツムル。 空間充填設計とガウス プロセス モデルの組み合わせがお客様にとってのソリューションになると思います。
特に化学においては、このような取り組みに対するお客様の関心が高まっていると思います。 ただし、現時点ではこの目的で JMP を使用している顧客を知りません。
そして、私はあなたが共有した論文を含め、これに関するかなりの数の論文を見てきました。
お客様から、シャンプーの粘度に対する塩濃度の影響を判断するためにこのアプローチを使用することについて質問されました。
これが私が提案するアプローチです。
- 開始データセットが必要です。 私が読んだ論文では、多くの場合、因子空間からのランダムなデータ ポイントのセットから始まります。 でも、スペースを埋める小さなデザインの方が良いと思います。 この実験を実行し、実行ごとの応答を記録します。
- スペース充填を使用して、開始データセットを非常に多数の実行 (たとえば 1000) で拡張します。 これらすべてを実行するわけではないので、非常に大きな数を選択できます。 これで、非常に多数の実行を含むデータ テーブルが作成されました。そのうちのいくつかについてのみ応答が得られます。
- ガウス過程モデルを使用して、要因に対する応答をモデル化します。 予測式の保存と分散式の保存。 これで、少数の実行の実際の応答と、すべての実行の分散と予測応答が得られました。
- テストされていない実行から、最大の分散を持つ実行を見つけます。 この実行の実際の応答を記録します。
- 目的が達成されるまでステップ 3 と 4 を繰り返します。
それは理にかなっていますか？
説明に役立つデータ表を添付しました。 サンプルデータフォルダ内の「2D Gaussian Process Example.jmp」を元にしています。
人々は「搾取」と「探検」について話します。 因子空間の最も不確実な領域を探索するために次の実行を選択しているため、上記のアプローチは探索です。 活用では、最適な応答 (最高の収量など) が得られると予測される実行を選択します。 多くの場合、人々は探索から始めて、ある時点で活用に移行するというアプローチを使用します。
@Ryan_Lekivetzそして私自身が与えたDiscovery Europeでのプレゼンテーションここでは化学プロセスの逐次最適化を検討しており、各ステップで 48 回の実行を実行できます。 探索アプローチと活用アプローチを比較しました。 そして、各ステップ (「ラウンド」) で、特定のしきい値を超える予測収量を持つ未テストの実行から最適な実行セットが選択されるハイブリッド アプローチに注目しました。 各ステップでしきい値を増やします。 これは有用なアプローチであると思われました。
すべてがお役に立てば幸いです。 あなたの顧客がこのアプローチを試すかどうか知りたいと思っています。
ありがとう、
フィル
