ベイズ最適化GPとスタンドアロンGPこんにちは、
私は「ガウス過程」と「ベイズ最適化」プラットフォームにおけるガウス過程モデルの挙動を理解しようとしています（JMP Pro 19.0.1）
これらの単純なシミュレートされた（決定論的な）データをフィッティングします。
ガウス過程の場合:
ベイズ最適化を用いた
GP モデルの場合のように、BO モデルの信頼領域がデータ ポイントで 0 に縮小されないのはなぜですか?
ありがとう
マシュー
追伸
Yの式は次のとおりです。
4.3 + -2 * (:X - 1) ^ 2 + Exp( -3 * (:X + 3) ^ 2 ) + 3 * Sin( :X + 2 )
高度な統計モデリングRe: ベイズ最適化 GP vs スタンドアロン GPこんにちは@matteo_patelmoさん、
現時点では、 ベイズ最適化に関する技術文書は非常に限られており、信頼区間／誤差区間の計算に関する技術的な詳細は公開されていません。2つのプラットフォーム間の違いには、いくつかの要因が考えられます。
ユーザー入力:
- データセットに対する連続相関タイプの適切な使用（ベイズ最適化ではGP（ガウスとキュービックのみ）よりも多くの相関タイプが利用可能）
- GPの「ナゲットパラメータ推定」機能を使用すると、予測モデルはノイズを完全に補間するのではなく、平滑化することができます。このオプションは従来のGPではデフォルトではありませんが、OBではナゲットパラメータがデフォルトで推定されるようで、これにより差異が拡大する可能性があります（ただし、完全に既知の式を使用しているあなたの例ではそうではありません）。
JMP プラットフォームの内部の仕組み:
- 古典的な GP と OB からの GP のフィッティング (および検証手順)。
- 従来の GP では、フィッティングと検証の手順はジャックナイフ法に依存しており、保持されたサンプル (トレーニング サンプル) のメトリックを計算する Leave-One-Out 手順があり、各 LOO サンプルの結果を平均します。
- OBのGPでは、フィッティングと検証の手順が若干異なっており、古典的なLOO手順（100%確実ではない）に依存しているようです。この手順では、除外されたサンプル（テストサンプル）に基づいてメトリクスが計算されます。これにより、プロファイラーに表示される不確実性が高まり、予測値にばらつきが生じる可能性があります。
同じ相関タイプでデータセットを起動し、両方のプラットフォームでナゲット パラメーターを推定している場合、2 つのプラットフォーム間でフィッティングが異なっていることがわかります。シータ、ナゲット パラメーター、および GP 分散の値は異なります。
- 信頼区間の計算：
古典的なGPでは、 GPにおける信頼区間の表示は、GPの分散式と分位数を用いて行われます。ガウス過程モデルから予測区間/信頼区間を保存するにはどうすればよいでしょうか？分散式は、シータ値と、範囲内の各点から最も近い測定点までの距離を使用します。したがって、既に測定された点の位置では「不確実性ゼロ」となります。
OBのGPは「測定誤差」について次のように述べています。「測定誤差は、ナゲットパラメータτとガウス過程分散σ 2 の積として計算されます。」既にサンプリングした領域で「不確実性ゼロ」の状況を回避するために、実験誤差を反映するためにも、測定誤差が使用されているようです。
もちろん、これらの解釈は JMP の技術スタッフによって確認される必要がありますが、これらは現時点での 2 つのプラットフォームの動作と結果を見た私の印象にすぎません。
あなたの興味深い質問にもっと良く答えるために、JMP テクニカル スタッフからの入力を期待しています。
Re: ベイズ最適化 GP vs スタンドアロン GPJMP の誰かがここに応答できるでしょうか?
信頼区間は、後続の測定に最適な場所を予測するために使用されます。
信頼度が異なれば予測も異なる、ですよね？
Re: ベイズ最適化 GP vs スタンドアロン GP信頼区間の計算に関して、2 つの GP ベースのプラットフォームの動作が異なるため、それほど単純ではありません。
OB 信頼区間の計算には常に何らかの誤差がありますが、従来の GP プラットフォームでは、ポイントが測定される場所の誤差は 0 に設定されます (これが、誤差/区間の計算と表示の違いに関する私の最初の反応です)。
使用される取得関数と信頼区間の計算に応じて、異なる「最適な」次のサンプリングポイントの推奨が得られます。
ベイジアン望ましさを最大化する：
期待される改善の望ましさを最大化する（ターゲットに関して予測される応答を最適化する）：
ベイズ標準偏差の望ましさを最大化する（不確実性が最も高い場所に焦点を当てる）:
Re: ベイズ最適化 GP vs スタンドアロン GPああ、そうだ！
測定位置でも 0 以外の CI から始めることが重要です。
フィッティングシミュレーション結果との大きな違い。
モデルがなく、この場所にデータ ポイントが 1 つしかないため、扱いにくいです。
Re: ベイズ最適化 GP vs スタンドアロン GP@Victor_Gさん、貴重なご意見をありがとうございます。JMPスタッフからの明確な説明を待ちましょう。
マシュー
Re: ベイズ最適化 GP vs スタンドアロン GPガウス過程 + ナゲットパラメータ:
ガウス過程モデルから予測/信頼区間を保存するにはどうすればいいですか?
Re: ベイズ最適化 GP vs スタンドアロン GP@hogi 、会話を読んでください。これは私の最初の回答で提供したリンクとまったく同じです。
ベイズ最適化に取り組んでいる JMP 技術スタッフ ( クリス・ゴットウォルト ?) からの公式説明を待ちましょう。
Re: ベイズ最適化 GP vs スタンドアロン GPああ、すみません、最初はリンクをたどりませんでした。クラシック GP の下にリストされていたからです。
おっしゃる通り、同じリンクです。Nugget パラメータの部分もカバーされています。
Re: ベイズ最適化 GP vs スタンドアロン GP誰かが助けてくれることを期待して、このスレッドを再開しようとしています。
マシュー
