スピーカー | 成績証明書 |
| ジェームズ・ウィスノースキー | チームの発見へようこそ。 Andrew Carl と Darryl Ahner と私は、2 つの新しいサンプリング、アダプティブ サンプリング技術、および |
| 実験計画を強化するという点で、一部の実践者に素晴らしい有用性を提供するでしょう。 そして、私がやりたいのは、私たちのいくつかのことを経験したいということです |
| プロセス ここでは、これがどのようにして起こったかについて話してきました。 しかし、DOE と設計の強化について考えると、JMP にはすでに強力な機能が備わっています。 |
| 非常に大規模なシミュレーション研究を行ってわかったことは、ここで欠けている部分があるということです。 |
| ギャップ充填設計と適応サンプリング設計。 そしてその |
| 重要な点は、適応サンプリング設計が応答に焦点を当てていることです。 |
| したがって、これは、拡張して設計空間を調べ、X マトリックスを調べる標準的な設計を考えるときとはかなり異なります。 それでは、実際にターゲットまたは応答を考慮してみましょう。 それで、これは実際に終わるでしょう |
| まったく新しい機能が提供されるため、興奮している場所で追加のサンプルをテストできるようになります。 したがって、応答曲面手法で上昇と同じくらい深いと考えられるのと同じくらい、私たちは高勾配領域にいることを望んでいます。 |
| 次に、シミュレーションで多くの変数と数千回の実行を使用してこれを実行できるようにするという観点から、これを自動化します。 |
| 良いニュースは、これにより、小さなデザインを扱う実践者にとっても非常にうまくスケールダウンできることです。 |
| 私がこれから紹介するアドインについて簡単に説明します。その後、Andrew がこれの技術的な詳細について少し話します。 |
| 一つお詫びしておきたいのは、これは JMP アドインではなく、かなり PowerPoint 中心のものになるということです。 |
| 2 つの理由があります...JMP デモではなく、むしろ 2 つの理由があります。主に、 |
| 処理すべき資料はたくさんありますが、JMP の利用は、この適応サンプリングで作成しているアルゴリズムにも実際に含まれています。 それで |
| 結局のところ、JMP のポイント アンド クリックは私たちが開発した非常にシンプルなユーザー インターフェイスですが、舞台裏では何が行われているのか |
| そしてアルゴリズムですが、ここではまさに JMP の力が発揮されます。 非常に簡単に、ギャップを埋めるデザインが非常に明確になりました。 ここにはいくつかのギャップがあることがわかります。おそらくこれはテクニックを示すために少し誇張されています。 |
| しかし実際には、次元の呪いを伴う非常に多くの要素が影響し、設計に穴が開いている可能性があります。 |
| ご覧のとおり、スペースを埋めるデザインでそれを拡張できます。これは一種の馬車です。 |
| 私たちの多くの仕事の拡張、特に刺激呼び出しにおいては、それほど悪くないようです。 新しい青い点を見てみると、 |
| ポイント、我々が追加したポイント、それほど悪くないようだ。 そして、もう少し詳しく見てみると、なんとなくわかると思いますが、私たちは多くのものを複製し始めました。 |
| それはすでに完了していて、おそらく思ったほど穴を埋めていなかったかもしれません。特に青い色を外すと、それがわかります。 |
| まだかなりの隙間があります。 したがって、適応サンプリングを開発している私たちは、その一部として、いくつかの穴を埋める必要があることを認識しています。 |
| これらのデザインの多くにあります。 そして私たちは、この特定のことを行うためのバウンダリーエクスプローラーと呼ばれるツール、アドインのアルゴリズムを思いつきました。 |
| どのようなデザインでも、穴を埋めるという特定の機能を実行します。これがさまざまなアプリケーションで非常に役立つ可能性があることがわかります。 |
| したがって、この特定のスライドまたはグラフでは、これらの青い点がおそらく穴に集中しており、残りの領域全体に分散している点があることがわかります。 しかし、私たちが行ったとしても... |
| 全体的により均一に見える色を付けることができます。私たちはそのスペースをうまく埋めました。 |
| これは、ここでの全体的な目標であるアクティブ サンプリングに必要なユーティリティでした。 そして、これについて私たちが見つけた主な用途は |
| それは自律システムであり、特に国防総省で多くの話題となり、多くの生産とテストが行われました。 |
| したがって、自律システムについて考えると、実際には 2 つの主要な項目があると考えるかもしれません。 自律システムで実際に注目しているのは、本当に必要なものかどうかです。 |
| システムにそれがどこにあるかを知らせるためのセンサー。 そしてそれに反応するアルゴリズムやソフトウェア。 つまり、それは一種のセンサーです - |
| 私たちが主に焦点を当てているアルゴリズム ソフトウェア統合。 そして、それが推進するのは、正直に言うと、非常に複雑なシミュレーション モデルです。 |
| 何千回も実行します。 しかし、もっと重要なことは、私たちが発見したことは、これらの自律システムにはパフォーマンスの限界があるということです。 |
| たとえば、軍隊のリーダーとフォロワーの例があります。 そこは兵士が非常に重装甲の車両を運転する場所です |
| 輸送隊のトラックに乗れば、残りの隊列は自律走行となり、兵士は乗らないことになる。 |
| あるいは、オートナビが付いている最新のテスラ、ピックアップ トラックを思い浮かべてください。 したがって、私たちはこれらのシステムをテストしようとしているのですが、最終的には多くのテストを行う必要があるということです。 そして何が起こるかというと、 |
| たとえば、このテスラに乗っていても、時速 30 マイルで走行していても、問題なく障害物を回避できるかもしれません。 しかし 30.1 では、アルゴリズムの仕様外の回避操作を行う必要があります。 それで |
| これらの境界が存在すると言うとき、それが私たちが話していることです。 とても急な坂です |
| 応答の変化、非常に高い勾配領域。 私たちが注目したいのはそこです。 |
| 私たちは、平らな面に興味があるわけではなく、本当に興味深い部分があり、そこが私たちがやりたいことなのです。 |
| 正直に言うと、これを繰り返し行うほど、ソリューションはより良いものになることがわかりました。 私たちは完全に |
| これを反復プロセスとして実行することをお勧めします。 したがって、これは適応的な部分であり、テストを実行して、いくつかの新しい良い点を生成し、それらの応答が何であるかを確認し、次の一連の実行をそれらに適応させます。 |
| これが適応サンプリングです。 |
| これのアイデアのようなもの、つまり起源は、ジョンズ・ホプキンス大学の応用物理学研究室と行ったいくつかの研究から生まれました。 彼らは軍と協力して本当に素晴らしい仕事をしているし、 |
| 彼らのジャーナル記事の 1 つでそれをレビューしているときに、私はこう思いました。あなたがやっているという点で、これは素晴らしいことです。JMP を使用して、もっとアクセスしやすいソリューションを考え出すこともできるかもしれません。実践者の多くは。 なぜなら、問題は |
| ジョンズ・ホプキンス大学は、非常に具体的であり、統合するという点では、それほど特別なものではありません。 |
| 小規模なテスト チームでもアクセスできます。 そこで私たちは、これをすぐに使用できる人々の手に渡したいと考えています。 |
| つまり、Journal of Systems and Software のこの論文は、私たちの境界探索者のソースのようなものです。 結局のところ、私たちは多くの良いアイデアを使用しましたが、異なるアプローチを思いつくことができました。 |
| および他の方法。 特に、JMP Pro のネイティブ機能と、途中で行ったギャップ埋め設計などの一部の開発を使用します。 |
| 今、 |
| この例の問題に関しては、おそらく私が行って説明するのが最善でしょう。 |
| ここのデモで。 ここのグラフを見ると、それがわかります...これを使用します...テスラの例に戻ります。 そこで、自動ナビゲーション タイプのアクティビティを実行していて、2 つの入力要素があるとします。 |
| 交通の速度と密度があります。 そこで私たちはこのテスラアルゴリズムについて考えています。 左側の車線に合流したいので、追い越したいと言うべきです。 したがって、合併する必要があります。 したがって、そのうちの 1 つはテスラの速度であり、もう 1 つは交通量である可能性があります。 |
| そして、おそらくこのエリアでは、もっと低い数字が得られます。 したがって、これらの 2 から 10 の数字を考えることができ、おそらく衝突の確率のような応答を考えることもできるでしょう。 |
| したがって、低速/低密度では衝突の可能性は非常に低いですが、ここでは高速/低密度です。 |
| 密度が高い場合、確率は非常に高くなります。 しかし、重要なのは、私がここで強調表示して選択したものです。非常に急な勾配があることがわかります。 |
| 境界領域に沿ったパフォーマンスの違い。 したがって、シミュレーションを実行するにつれて、アルゴリズムのソフトウェア テストをさらに実行し始めることになります。 |
| ここでより多くのポイントを獲得することは実際にはあまり良いことではないことに注意してください。 低密度および低速でもうまく機能することがわかっています。 私たちがやりたいのは、ここの境界内の領域に実際に取り組むことです。 それが私たちの問題なのですが、 |
| ここで実際に境界条件に従う 200 個の新しいポイントを生成するにはどうすればよいですか。 |
| さて、ここで私がやったのは、実際には X1 と X2 です。もう一度、速度を考えてみましょう... |
| 私たちのスピードと密度。 そして、ここに何も意味を持たない予測子変数を投入しました。 そして、それが私たちの答えです。 したがって、これを行うには、境界エクスプローラーに入り、適応サンプリングの下で、 |
| 私の 2 つの応答 (必要に応じていくつでも応答できます) と、ここに私の 3 つの入力要素があります。 ここで、グローバル最小値と最大値をターゲットにするかどうか、境界を表示するかどうかなど、いくつかの設定があります。 |
| そして最終的には、ここである程度の制御ができることを示すつもりです。 このアルゴリズムで何が起こるかというと、私たちが本当に探しているのは、最近傍が何をしているのかということです。 すべての最近傍が同じ応答を持つ場合、つまり確率がゼロの場合のように、 |
| 事故だ、そこはあまり面白い場所ではない。 どこに大きな違いがあるのか見ていきたいと思います。 そしてそこが最も近い隣人の場所です |
| が登場します。 それでは、これを実行してみます。 そこで私たちが見ているのは、アルゴリズムが予測スクリーニングに JMP のネイティブ機能を使用していることです。 |
| 幸いなことに、は正規分布を使用していません。 ブートストラップ フォレストを実行していることがわかります。 アンドリューはそれがどこで使われたかについて話すつもりです。 |
| そして最終的には |
| ここで行うことは、できれば境界に沿って配置される新しい点のセット全体を生成することです。 これらのポイントを実行するのに 30 秒ほどかかりました。ここからは先に進み、引き上げるだけです |
| 私の新しいポイント。 したがって、私の新しいポイントはこれらの境界に沿っていることがわかります。おそらく、先に進んで他の点を追加すると最も見やすくなります。 |
| もの。 |
| だからここで、多分私はそうするよ |
| ここの色をすぐに切り替えてください。 |
| そして、先に進んで、おそらく摂動の中間点を示します。 |
| したがって、現時点では、すべての新しいポイントがどこにあるのかがある程度わかります。 つまり、影が付いているもの、それらはオリジナルのものであり、今ではその境界内に生成された新しいポイントがすべて表示されているような感じです。 |
| もちろん、問題は、どのように、どのようにしてそれを行ったのかということです。 |
| それでは、プレゼンテーションに戻ります。 |
| そこから、私は Andrew に話を引き継ぎ、境界点を見つける方法について、もう少し技術的な詳細を説明します。これは、私たちが思っているほど単純ではないためです。 |
| アンドリュー・カール | わかった。 ありがとう、ジム。 まず、ギャップを埋めることについて簡単に説明します。なぜなら、これを Beast ツール全体に統合することに加えて追加したからです。 |
| スタンドアロンツールでもあります。 したがって、入力するスペースを定義する列を選択する、かなり単純なインターフェイスになっています。 |
| また、連続因子の場合は、コーディング列のプロパティを読み込んで最高値と最低値を取得します。また、名目上の因子も取得できます。 |
| さらに、カスタム デザインまたはスペース充填デザインからこれを生成し、許可されていない組み合わせがある場合、許可されていない組み合わせスクリプトが読み込まれます。 |
| 許可されたスペース内でのみギャップを埋めるようにしてください。 したがって、ユーザーは列と必要な新しい実行の数を指定します。 |
| そして、高次元空間における実際の簡単な例を示しましょう。 これは三次元の場合です。 中空のシリンダーを取り出して、これらの隙間埋めランを追加するプロセスを経た立方体を用意しました。それらを一緒にオンにして、それらがどのように組み合わされるかを確認します。 |
| 次に、色をオフにして、何が起こるかを確認します。 |
| 高次元空間では、変量別プロットでは必ずしも確認できなかったギャップを埋めることができるので、これは素晴らしいことです。 では、どうやってこれを行うのでしょうか? |
| そこで私たちが行うことは、元の点を取得することです。この場合、黒ではなく赤で色付けされており、これら 2 つのギャップがどこにあったかを確認できます。 |
| そして、空間全体の空間充填設計から実行の候補セットをオーバーレイします。 |
| 古い候補実行と新しい候補実行の連結されたデータ テーブルを追加します。インジケーター列と連続インジケーター列があり、古い点に 1 のラベルを付け、候補点に 0 のラベルを付けます。 そして、この連結された空間に、10 個の最近傍を当てはめます。 |
| モデルをインジケーター列に追加し、そこから予測を保存します。 したがって、候補は最小の予測 (この場合は青) で実行されます。 |
| は、デザインに追加したいギャップ ポイントです。 これを 1 回のパスで実行すると、最大のギャップが過度に強調される傾向があります。 つまり、実際にこれを行うのです |
| 10 倍のプロセスでは、新しいポイントの 10 分の 1 を取得し、ここで見ているようにそれらを選択し、それらを追加して、k 最近傍アルゴリズムを再実行して、いくつかの新しいポイントを選択し、すべてのスペースを埋めます。より均一に。 |
| つまり、これは 1 つのオプションにすぎません...ギャップの充填は、境界エクスプローラー内で使用できる 1 つのオプションです。 |
| そこでジムは、任意の数の応答、任意の数の因子を使用でき、連続的かつ名目的な応答と、連続的かつ名目的な因子の両方を使用できることを示しました。 |
| 事実…入ってくる連続的な要因を、より平等な立場にするために、舞台裏にある要因を 01 に正規化するつもりです。 |
| そして、これに含まれる個々の応答については、各応答を個別にループして、因子空間内の各応答の境界を見つけます。 |
| そして最後に、すべての応答を一度に考慮するランダム フォレストを使用した多変量ツールを使用します。 |
| ここでは、GUI やユーザー インターフェイスで使用できるさまざまなオプションがアルゴリズム内でどのように表示されるかを見ていきます。 |
| したがって、これらの連続列のいずれかを正規化した後の最初のステップは、連続応答と名目応答の両方に対する予測子のスクリーニングです。 |
| そして、これは、それぞれの特定の応答に関連する予測因子を見つけることです。 |
| また、説明されるバリアントの割合、または各変数からの寄与の一部について、ユーザー インターフェイスのデフォルト設定が 0.05 に設定されています。 したがって、この場合、X1 と X2 は応答 Y1 に対して保持され、X3 ノイズは拒否されることがわかります。 |
| 次のステップは、最近傍アルゴリズムを実行することです。 デフォルトの 5 を使用しますが、これはユーザーが切り替えることができるオプションです。 |
| そして、私たちは単にこれを方法として使用するだけなので、これがどれだけうまく予測するかにはあまり関心がありません。 |
| 5 つの最近傍に到達します。 5 つの隣の列は何列で、どれくらい離れていますか? 現在の行からの距離はどれくらいですか? |
| そして、この最近傍情報を使用して各点を識別し、各点が境界点である確率を調べます。 |
| ここでは分割を使用し、連続的または名目上の応答に対して別の方法を実行する必要があります。 名目上の応答の場合、現在の列からの応答を連結します。 |
| この連結列には、5 つの最近傍からの応答が順番に表示されます。 |
| そして、連結隣接列に基づいて境界確率を特定するために使用する単純なヒューリスティックがあります。 |
| すべての応答が同じである場合、それは境界点である可能性が低いと言えます。 |
| 少なくとも 1 つの応答が異なる場合、それが境界点である可能性が中程度にあると言えます (すみません、境界点です)。 |
| 2 つ以上の応答が異なる場合、それは境界点である可能性が高くなります。 使用された行も記録します。 この場合、それが境界ペアです。 したがって、これは現在の行とは異なる応答を持つ最も近い行です。 |
| これらの境界確率を元の空間充填設計でプロットできます。 |
| ジムが最初に述べたように、最初に空間充填設計を実行してから、この境界探索ツールを実行して空間を探索し、応答を取得します。 |
| そして今、それを当てはめて、これらの境界確率を計算しました。 そして、境界確率が実際の境界と一致していることがわかります。 |
| 連続応答の場合、5 つの最近傍からの連続応答を取得し、それらのそれぞれに列を追加し、それらの標準偏差を取得します。 |
| 近傍の標準偏差が最も大きい点は、最も急勾配の領域にある点であり、それらは境界点である可能性が高くなります。 |
| また、情報メトリックを取得するために、標準偏差に平均距離を掛けます。 |
| これは、隣接する点の標準偏差が等しい 2 つの点に対して行われるため、すでにそこに存在する点が少なく、よりまばらな領域にある点に重み付けが行われます。 |
| したがって、この連続情報メトリクスを取得したので、それを各ポイントの高確率、中確率、低確率に分割する方法を理解する必要があります。 |
| そこで私たちがやっているのは、ディストリビューションに適合することです。 正規の 3 つの混合に適合し、高確率点のカットオフとして最大の分布として平均を使用します。 |
| そして、最大の正規分布と 2 番目に大きな正規分布の密度の交点を中確率点のカットオフとして使用します。 |
| したがって、これらのカットオフを特定したら、それを適用して境界確率列を形成します。 |
| また、使用されている最も近い行も保持します。 この場合、連続応答の場合、つまり、現在の役割と絶対値が最も異なる応答を持つ隣接者になります。 |
| これで、連続応答と名目応答の両方で同じ出力が得られます。 境界確率と使用する行があります。 境界点を特定したので、 |
| それを使用して境界に沿って新しい点を生成できる必要があります。 |
| したがって、最初の、そしてある意味で最良の方法は、 |
| 境界をターゲットにしてズームインする方法は、中間点法と呼ばれるものです。 そして、各境界ペア、各行とその行の使用、その最近傍に対して何を行うか |
| 以前に特定されました...申し訳ありませんが、最近隣ではなく、公称応答の違いの点で最も関連性がある、または連続応答の点で最も異なる近隣です。 |
| 連続因子の場合、これら 2 つの点のそれぞれの座標の平均をとって中点を形成します。 それがここのグラフに見られるものです。 したがって、ポイントを置きます |
| 赤丸のところ。 名目因子の場合、境界ペアに対して行うことは、その因子のレベルを取得することです。 |
| それらは 2 つのポイントのそれぞれに存在し、そのうちの 1 つをランダムに選択します。 この点の良い点は、両方が同じである場合、中間点もこれら 2 つの点の名目係数と同じレベルになることを意味します。 |
| 摂動法と呼ばれる 2 番目の方法は、特定された境界点のそれぞれにランダムな偏差を単純に追加することです。 |
| したがって、高い境界...高確率の点については、中間のそのような摂動点を 2 つ追加し、1 つ追加します。 |
| そして、それについては、連続因子についてはランダム偏差を追加します。 通常は 0 を意味します。標準偏差、正規化空間の .075、そしてその .075 はスケールできるものです |
| ユーザー インターフェイス内で、境界の周りの広がりの量を増減します。 |
| そして名目要因については、各名目要因のレベルをランダムに選択します。 さて、高確率ですが… |
| 2 番目の摂動点を取得する確率の高い境界点の場合、2 番目の摂動点では、それらの公称係数設定がすべて元の点の設定と等しくなるように制限します。 |
| そこで、境界を特定し、境界エクスプローラーで指定された応答ごとに中点と摂動点を作成するこのプロセスを実行します。 |
| それを行ったら、すべてを連結し、すべての応答に対して特定されたすべての中間点を調べます。 |
| 次に、多変量手法を使用して追加の実行を生成します。 ユーザーは必要な実行数を指定でき、これらの中点および摂動メソッドは固定数の実行のみを生成するため、 |
| 土地の状況、つまりデータだと言えるでしょう。 |
| したがって、私たちが行うことは、すべての応答について特定されたすべての摂動と中間点を取得するギャップ埋め設計に似たものです。 |
| そして候補点の空間充填設計で空間全体を埋めます。 連続インジケーターの候補点に 0、中間点に 1、摂動点に 0.01 のラベルを付けました。 |
| ランダム フォレストをこの指標に当てはめます。 そして見てみましょう。 候補スペースフィルの予測をポイントに保存します |
| 次に、この境界インジケーターの最大の予測値を持つ候補実行を取得します。 |
| これらは、このランダム フォレスト手法を使用して追加したものです。 これは多変量手法であるため、設計空間内に複数の応答の境界となる領域がある場合、その領域は特別に強調され、追加の実行が行われます。 |
| そこで、3種類のポイントをまとめて紹介します。 |
| ここで、もう一度、Jim の言ったことを強調します。これは複数の反復で行う必要があるため、境界探索ツールからこの情報を収集します。 |
| それを元のデータセットに連結して戻します。 そして、これらの応答が得られた後、境界エクスプローラーを再実行すると、 |
| 反復を繰り返しながら継続的に境界と影響を拡大し、場合によってはさらに多くの境界を見つけることもできます。 したがって、摂動点が最も有用です |
| まだ宇宙を探索している初期の反復では、それらはより分散しており、後の反復ではランダム フォレスト手法の方が適しています。 |
| 現在の反復の中間点だけでなく、以前に記録された中間点も使用するため、利用可能な中間点がさらに多くなります。 データテーブルには、追加されたポイントのタイプを記録する列があります。 したがって、以前の中間点もすべて使用します。 |
| したがって、ステップ関数について調べてきたこの例の表面プロットを配置すると、新しい点、中間点、および摂動点がすべて境界である崖に沿って落ちていることがわかります。これが私たちが望んでいたものです。見る。 |
| したがって、ユーザー インターフェイスの最後の 2 つのオプション、またはギャップ埋めを示すオプションが実行され、列プロパティとして設定されている場合は、グローバル最小最大値をターゲットにするか、連続因子のターゲットを一致させるように要求することもできます。 |
| 最後に 1 つの例を示します。この例では、平面を通る 2 つの峡谷があり、それらの交差点に一種の深い井戸があります。 |
| そして、初期の空間充填ポイントを実行しました。これは、応答を把握するために表示されるポイントです。 そして、境界探索ツールを 2 回繰り返し実行すると、 |
| ここにすべての新しい点が配置され、これら 2 つの線の真ん中にギャップがあることがわかります。 それらのギャップは何ですか？ |
| 表面のプロットを見ると、これらのギャップは峡谷の底であり、そこは実際には急ではありません。 つまり、局所的な小さな領域であっても平坦です。 |
| しかし、これらすべての点、これらすべての中間点、 |
| 飛行機の上ではなく、私たちが希望していた急な崖の上に設置されました。 ここでは最小ポイントのオンとオフを切り替えています。これらのポイントが井戸の底に達していることがわかります。 したがって、最小限の目標を達成することもできました。 |
| したがって、私たちのツールは 2 つの異なる、2 つの離散的なものを提供します。 |
| オプション、新しいツール。 連続因子に対してコーディング プロパティが設定されている任意のデータ テーブルで使用できるギャップ充填が必要です。 |
| そして、追加に使用できる境界探索ツールは、因子空間自体を調べるのではなく、追加の実行を追加するために高勾配...高変化領域をターゲットにするために応答を調べる実行を実行します。 。 |
