スピーカー
|
トランスクリプト
|
| ウェイン・レヴィン |
自己検証型アンサンブルモデル。実験計画法などのパラダイムシフトと見なされます。 |
| |
ただ…行きます。 ここでの私たちの議題は...私たちは...誰が話しているのかについての簡単な紹介です。 |
| |
それで、SVEMの何を、なぜそしてどのように。 そこで、DOEと機械学習の概要を簡単に説明し、それらをSVEMにブレンドする方法を説明し、実際のSVEM実験を分析します。 |
| |
いくつかの現在の調査を確認し、JMP 16で新しく追加されたJMPの新しい候補セットデザイナーを示します。その後、通常の次のステップやQ＆Aなどで終了します。 |
| |
SVEMは、より少ない実験サイクルでより多くの洞察を抽出し、DOEを含む小さなデータセットからより正確な予測モデルを構築するための注目に値する新しい方法です。 |
| |
SVEMを使用すると、コストが削減され、市場投入が早くなり、問題解決がはるかに速くなることが期待されます。 今後は、これらすべてを調査していきます。 |
| |
セッションで。 |
| |
私はウェイン・レビンです。プレディクタムの社長です。JMPのチーフデータサイエンティストであるクリスゴトワルトと、ここプレディクタムのシニアデータサイエンティストで大学の准教授であるフィルラムジーが参加しています。ニューハンプシャー。 |
| |
だから |
| |
ここで在庫を取ります。 JMPのデータサイエンスへの貢献は非常に大きいので、誰もが知っています。20年以上前のDOE空間では、座標交換アルゴリズムを使用したJMP4になります。 |
| |
そして、約8年前、9年前、私たちは決定的なスクリーニングデザインが出てくるのを見ました。 そして、SVEMは、短い自己検証型アンサンブルモデリング（3回高速と言ってみてください）と呼んでいますが、これもまた別の貢献だと思います。 |
| |
機械学習と実験計画法。 |
| |
限られた量のデータの制限を克服します。 少量のデータでは機械学習を行うことができません。通常、それを実現するには大量のデータが必要です。 |
| |
現在、私たちは現場でSVEMを試してきましたが、これについて多くの企業からアプローチがあり、SVEMの試用版を利用できるようにしました。 私たちは、 |
| |
この分野で最初に製品を作成したPredictumは、製品を市場に投入します。これまでに学んだことのいくつかを皆さんと共有したいと思います。 |
| |
そして1つは、SVEMが非常にうまく機能することです。 つまり、より多くのパラメーターと実行数がある場合、それは非常にうまく機能します |
| |
高階モデル。 より正確な予測が得られ、壊れたDOEからの回復にも役立ちます。 だから、例えば、あなたが決定的なスクリーニングデザインを持っているなら |
| |
決定的に実行できない理由が何であれ、いくつかの歴史的なDOEが送られてきました。 |
| |
力が足りない。 彼らはただ、あなたが知っているように、何も見つけませんでした、しかし、SVEMで、実際にそれは見つけました。 できました。 そして、あなたは私たちがいくつかの行方不明または疑わしい実行があったケースがあったことを知っています。 |
| |
私たちが学んだ他の何かは、それが有理階乗であなたを助けるつもりはないということです、それでそのようなこと。 ここで予測モデルに興味があります |
| |
フラクショナルファクターは実際には予測モデルを提供しません。それらはそのために設計されていません。 したがって、データが配信するように構成されていないものを提供することはありません。 |
| |
少なくともその程度ではありません。 私たちが学んだもう1つのことは、SVEMの可能性を完全にテストしていないということです。 そのためには、本当に必要です |
| |
そもそもSVEMを念頭に置いて実験を設計すること、つまり、より多くの要因を検討することを意味します。 3つまたは4つの要素だけを見たくはありません。 10、15、またはそれ以上はどうですか？ |
| |
調査から、クリスとフィルがベイジアンI最適設計が最良であると話していることがわかります... SVEMおよび混合設計で使用するための最良のアプローチ |
| |
SVEMに特に役立ちました。これについては、後でもう少し説明します。 そしてSVEMに関する限り |
| |
試してみたい場合は、ChrisとPhilの後に、そのことについて話すための情報があります。 そうは言っても、私はそれをあなたに投げるつもりです、クリス、 |
| |
SVENの何を、なぜ、どのように行うかを説明します。 さあ、クリス。 |
| クリス・ゴトワルト |
よし、よかった、ありがとう、ウェイン。 待って、画面を共有していますか？ |
| ウェイン・レヴィン |
未だに。 |
| |
そこに行きます。 |
| クリス・ゴトワルト |
さて、大丈夫、まあ、ありがとう、ウェイン。 |
| |
そこで、自己検証型アンサンブルモデルまたはSVEMのアイデアを紹介します。 |
| |
私はそれをかなり基本的に保つつもりです。 実験の設計と分析の経験があることを前提としています。 |
| |
最も重要なことは、統計モデリングプロセスは、関数をデータに適合させることになることを理解する必要があります。 |
| |
入力変数の関数としてのその予測子応答変数。 大まかに言えば、SVEMはビッグデータアプリケーションを使用した機械学習アルゴリズム間の架け橋です。 |
| |
実験計画法。これは一般に、小さくて優れた分析問題と見なされます。 機械学習とDOEにはそれぞれ長い歴史がありますが、これまでは比較的別々の伝統でした。 |
| |
私たちの調査によると、SVEMを使用すると、より少ない観測値でより正確なモデルを取得できます。 |
| |
これは、より少ないリソースをより少ないコストで使用して、製品とプロセスの改善をより短い時間で実現できることを意味します。 したがって、競争の激しい業界にいる場合は、 |
| |
最初に市場に出すことが重要である場合、SVEMはあなたにとって非常に興味深いはずです。 |
| |
特に、SVEMには特に...製薬およびバイオテクノロジー業界で大きな期待が寄せられていると私たちは信じています。 |
| |
半導体製造のようなハイテク、そして消費者製品の開発。 |
| |
ここJMPでの私の仕事では、多くの業界やアプリケーション分野でデータがどのように処理されるかを俯瞰的に見ています。 |
| |
最適な設計実験を構築するためのアルゴリズムと、混合モデルやモデルの一般化などの関連する分析手順を開発しました。 |
| |
一方、私はJMP Proのニューラルネットワークアルゴリズムの開発者でもあり、製品に含まれている他の機械学習技術のいくつかも開発しています。 |
| |
過去20年間で、大規模な観測データセットをモデル化し、多くの新しいデータセットを見ると、機械学習がより顕著になるのを見てきました。 |
| |
開発されたアルゴリズム。 同時に、計画実験の分析も変更されましたが、過去20年間でさらに段階的に変更されています。 |
| |
産業実験の全体的な統計的方法論は、1970年代後半にBox、Hunter、Hunterを読んだ人なら誰でも認識できるでしょう。 |
| |
機械学習と実験計画法は、一般に、本質的に予測的な問題を解決するために業界に適用されます。 |
| |
これらのツールを使用して、不良バッチを示すセンサーや、コストを最小限に抑えながら歩留まりを最大化するようにプロセスを調整する方法などの質問に答えます。 |
| |
どちらも本質的に予測的ですが、機械学習と実験計画法は一般に、かなり異なるタイプのデータに適用されています。 |
| |
これから行うことは、両方の概要を簡単に説明してから、それらをSVEMにどのようにブレンドしたかを説明することです。 |
| |
実際の実験からのいくつかのデータを分析して、それがどのように機能するか、そしてなぜそれが全体的に非常にうまく機能していると思うのかを示します。 |
| |
全体的に行きます...行きます...ニューハンプシャー大学の博士課程の学生であるTrentLimpkiss（？）によって行われたシミュレーションの結果を調べます。これにより、アプローチが非常に優れていると確信できました。有望。 |
| |
次に、JMP 16の新しい候補セットの設計を使用して既存のデータセットの最適なサブセットを見つけ、SVEMを自分で試す方法を示す例を見ていきます。 |
| |
私たちの観察のいくつかを強調し、私たちが答えたいと思ういくつかの将来の質問に言及し、それからそれをフィルに渡します。フィルはより詳細なケーススタディとSVEM追加のデモを行います-に。 |
| |
画面上の単純なデータについて考えてみます。 これは冶金プロセスからのデータであり、処理ステップの最後の収縮量を予測したいと思います。 |
| |
収縮を予測するために使用する3つの変数が左側にあります。 モデリングとは、ここでの応答（収縮）を予測する圧力、時間、および温度を接続する関数を見つけることです。 |
| |
うまくいけば、このモデルが生成するでしょう...将来的には新しいデータに一般化されるでしょう。 |
| |
機械学習のコンテキストでは、これを行う標準的な方法は、そのデータを2つの互いに素な行のセットに分割することです。 1つはトレーニングセットと呼ばれ、データを過剰適合させないようにモデルを適合させるために使用されます。 |
| |
これは、新しい観測では不正確なモデルにつながります。 これまでのさまざまなモデルをテストするために使用される検証セットと呼ばれる、データの別のサブセットがあります... |
| |
トレーニングセットに適合している。 ここにはトレードオフがあります。単純すぎる関数は、十分なバリエーションを説明していないため、トレーニングセットと検証セットにうまく適合しません。 |
| |
一方、複雑すぎるモデルは、トレーニングセットにほぼ完全に適合する可能性がありますが、検証セットでは非常に不正確になります。 |
| |
検証Rの二乗などの尺度を使用して、単純すぎず複雑すぎないゴルディロックスモデルを見つけます。 |
| |
このゴルディロックスモデルは、検証Rの2乗が検証セットで最も高いモデルになります。 |
| |
このホールドアウトスタイルモデルの選択は、引用符で囲まれていない行数がかなり多い場合に続行するための非常に良い方法です。 |
| |
多くの場合、数億行以上になります。 適度に大きいステートメントは意図的にあいまいであり、目前のタスクによって異なります。 とはいえ、ここに表示されている12行は実際には小さすぎるため、ここでは説明のために使用しています。 |
| |
DOEでは、通常、時間やリソースに深刻な制約がある状況にあります。 |
| |
計画実験、特に主要なJMP機能である最適な計画実験の中心的なアイデアは、可能な限り少ない行数にパックされた最高品質の情報を取得することです。 |
| |
長年にわたって多くの優秀な人々が、F検定、半正規プロット、AICやBICなどのモデル選択基準などの統計ツールを作成してきました。 |
| |
これは、DOEデータのモデルに関する意思決定に役立ちます。 これらはすべて、科学、工学、製造に関する意思決定の基礎となるモデルを特定するのに役立つガイドです。 |
| |
頻繁に行われないことの1つは、機械学習モデルの選択を計画された実験に適用することです。 では、なぜそうなるのでしょうか。 |
| |
重要な理由の1つは、情報が設計に非常に密に詰め込まれているため、いくつかの観測値を削除しても、主な効果と相互作用が崩壊する可能性があることです。 |
| |
そのため、それらを一意に推定可能な効果に分離することはできなくなりました。 とにかくそれを行おうとすると、自由度の喪失やモデルレポートに追加された特異点の詳細など、ソフトウェアレポートの警告が表示される可能性があります。 |
| |
次に、少し思考実験を行います。 少しごまかそうとした場合はどうなりますか？ |
| |
元のテーブルのXとYからすべての行をコピーし、一方のコピーに「トレーニング」というラベルを付け、もう一方のコピーに「検証」というラベルを付けた場合はどうなりますか？ これで十分なデータがありますよね？ 違う。 私たちはこれでだれもだましていません、これはこのクレイジーな計画です。 |
| |
このアプローチを使用してモデル化を試み、適合度のインデックスのプロットを見ると、それらをより複雑にすることでトレーニングセットへの適合度が向上することがわかりますが、トレーニングと検証が必要なためです。 |
| |
この場合、セットは同じであり、アプローチは常に過剰適合につながります。 |
| |
それでは、機械学習モデルの選択を、同じデータで計算された2つの重み付き二乗和の物語としてバックアップして再キャストしましょう。 |
| |
2つのデータパーティションの観点からモデル選択を考える代わりに、2列の重みとして考えることができます。 |
| |
トレーニングセットの行には1に等しく、それ以外の場合は0に等しいトレーニングの重みと検証列があります。 |
| |
これは、トレーニング行の場合はゼロに等しく、検証行の場合は検証列の場合は1に等しくなります。 |
| |
したがって、機械学習モデルの選択から、各行には独自の重み値のペアがあり、両方の重みが2進数の0と1であると考えることができます。 |
| |
これらをこのように設定することで、モデルの適合性を独立して評価できます。 |
| |
モデルは、トレーニングの重みを使用して重み付けされた二乗誤差の合計を最小化するパラメーター値を見つけることによって適合され、一般化パフォーマンスは、検証列の重みを使用して重み付けされた二乗誤差の合計を使用して測定されます。 |
| |
これらの重みのペアを散布図にプロットすると、もちろん、トレーニング検証の重み...トレーニングと検証の重みは完全に反相関していることがわかります。 |
| |
さて、完全に反相関のあるバイナリ値のペアを使用するのではなく、値が0と1の値のみを取ることができるという要件を緩和するとどうなるでしょうか。 |
| |
重みが厳密に正の値を取ることを許可しますか？ |
| |
これを行うには、特に私の知識に何かをあきらめる必要があります。これが数学的に機能するためには、完全に反相関する重みペアを持つことはできなくなりますが、実質的な反相関がある方法でこれを行うことができます。相関。 |
| |
これを行うには多くの方法がありますが、これを行う1つの方法は、平均が1の指数分布を使用する部分加重ブートストラップと同じスキームを使用して加重を作成することです。 |
| |
ウェイトを作成します。 また、指数分布であるが相関性の高い重みのペアを作成するために使用できる一様分布のプロパティを使用するちょっとしたトリックがあります。 |
| |
これを2列の重み付けされた検証スキームとして使用する場合、これを自動検証と呼びます。 フィルと私はこれについていくつかのディスカバリーペーパーを提供しました...まさにこのアイデアについてです。 |
| |
このアプローチを使用することは、分散の平均が1である重みのトレーニング列と同じプロパティを持つ検証列を持つようなものです。 |
| |
この自動検証スキームでは、行がトレーニングの二乗和に平均以上の重みを与える場合、その行は検証二乗和にあまり寄与しません。その逆も同様です。 |
| |
Mikeが作成したアドインがあります... JMPProのモデリングプラットフォームが使用できるこの種の形式にデータセットを設定するMikeAndersonが作成したアドインがあることを指摘しておきます。 |
| |
最近、フィルと私は博士課程の学生としてトレントを引き受けました。 |
| |
春から秋にかけて、トレントは、自動検証ベースのアプローチの動物園全体を含む、モデルをDOEデータに適合させるためのさまざまなアプローチを試す多くのシミュレーションを行いました。 彼の結果のいくつかをお見せします |
| |
ここで少し。 言うまでもなく、独立したテストセットでの最小平均エラーの観点から、一貫して最も効果的に機能したアプローチは、自動検証を適用することでした。 |
| |
前方選択などの変数選択手順と組み合わせますが、一度これを行う代わりに、プロセスを数十回または数百回繰り返します。 |
| |
毎回予測式を保存し、最終的にこれらすべての自動検証された反復にわたってモデルを平均化します。 そして、この一般的な手順を自己検証型アンサンブルモデルまたはSVEMと呼びます。 |
| |
そこで、もう少し具体的にするために、これを説明する簡単な例を示します。 自動検証の重みを初期化することから始めます。 |
| |
なげなわや前方選択などのモデル選択手順を適用してから、予測式をテーブルに保存します。 |
| |
これが最初の予測式です。 この反復では、2つの線形主効果のみが選択されています。 |
| |
次に、重みを再初期化し、新しい重みのセットを使用してモデルに再度適合させ、その予測式を保存します。 |
| |
これが2番目の自動検証された予測式です。 今回は、主効果と交互作用の異なるセットが選択され、それらの回帰係数が今回は異なることに注意してください。 |
| |
このプロセスを何度も繰り返します。 |
| |
そして最後に、SVEMモデルは単にすべての予測式の平均です。 |
| |
これは、SVEMアルゴリズムを図として示す簡潔な図です。 したがって、ブートストラップ手順をモデルの平均化と組み合わせるというアイデア |
| |
重みを再初期化した後、何度も何度も発生します。 その反復からの予測式を保存します。 |
| |
保存します...ここでパラメータを保存します...ここで図はパラメータを示していますが、数式でも同じです。 それらをすべて保存するだけで、1日の終わりに、最終的なモデルはすべての反復の平均になります。 |
| |
完了したら、グラフプロファイラーでそのSVEMモデルを使用し、中間式の展開をオンにして、結果のモデルを視覚化し、プロセスの最適化などを行うことができます。 |
| |
次に、トレントの論文研究の結果について説明します。 |
| |
BoxBehnkensとDSDの4つと8つの要素。 各シミュレーションは1,000回のシミュレーション複製で構成され、各シミュレーションには2次応答曲面モデルの独自の真のパラメーター値のセットがありました。 |
| |
アクティブパラメータは二重指数分布であり、50％から100％までのさまざまな割合のアクティブ効果を調査しました。 |
| |
1,000回のシミュレーション担当者のそれぞれについて、SVEM予測は、因子空間上の10,000の実行空間充填設計で構成された独立したテストセットの真のモデルと比較して評価されました。 |
| |
多数の異なる古典的なシングルショットモデリングアプローチと、すべての検証に関するさまざまなバリエーションを検討しました。 |
| |
しかし、比較するには多すぎるため、最も興味深い結果を見るだけの方が簡単です。 ストーリーは、調査したすべての状況で非常に一貫していました。 |
| |
これは、基本設計が8つの要素と21回の実行を伴う最終的なスクリーニング設計であったシミュレーションの1つです。 この場合、効果の50％はゼロではありませんでした。 |
| |
これは、モデルが実行された数とほぼ同じ数のゼロ以外のパラメーターを持っていたことを意味します。 |
| |
左側は、ラッソ、ダンツィーグセレクター、前方選択、および剪定前方選択の対数二乗平均平方根誤差の箱ひげ図です。これらはすべてAICcを使用して調整されており、メソッドで最高のパフォーマンスを発揮します。 |
| |
また、フィット決定プラットフォームからのメソッドの最高のパフォーマンスが次に続き、SVEMが異なるモデリングに適用されます...右側にいくつかの異なるモデリング手順があります。 |
| |
テストセットのRMSEをSVEM予測と比較すると、独立したテストセットの二乗平均平方根誤差が劇的に減少します。 |
| |
また、これは対数スケールであるため、これは予測パフォーマンスのかなり劇的な違いであることに注意してください。 |
| |
これはさらに興味深い結果です。 これは本当に私を驚かせたプロットでした。 これは同じシミュレーション設定ですが、ここではすべての効果がゼロ以外です。 |
| |
したがって、真のモデルは、計画行列だけでなくパラメーター自体でも過飽和になっています。 |
| |
これまで、アクティブな効果の数はすべての効果の小さなサブセットであり、行の数よりも確かに少ないと想定する必要がありました。 |
| |
ここでは、アクティブなパラメーターの数が行数の約2倍であるにもかかわらず、かなり正確なモデルを取得しています。これは本当に注目に値します。 |
| |
次に、簡単な図を見ていきます。 |
| |
SVEMを使用して、独自の過去のDOEに適用する方法を示します。 発酵プロセスからの5因子DOEの実際の例を使用します。ここで、関心のある応答は、pDNA力価によって測定された生成物の収量でした。 |
| |
SVEMの大きな利点は、少ない実行でより正確なモデルを取得できることです。 これは、既存のデータセットを取得できることを意味します。 |
| |
JMP 16の新しい候補セットデザイナーを使用して、元のデザインの引用符なしの予測中心を形成する行のサブセットを識別します。 |
| |
36行の元のデータを取得し、5つの列を共変量としてロードし、カスタムデザイナーに、そのサイズで最高の予測パフォーマンスを提供する元のデザインの16行のサブセットを提供するように指示します。 |
| |
次に、そのサブセットデザインにないすべての行を非表示にして除外し、後で独立したテストセットとして使用できるようにします。 |
| |
SVEMモデルを実行し、SVEMモデルのパフォーマンスを、フォワード選択などの標準的な手順を適用した場合に得られるものと比較します。さらに、同じ16回の実行にAICcを適合させます。 |
| |
JMP 16の新しい候補セットデザイナーは...また注目に値する貢献であり、ブラッドのチームがこの新しいツールの作成にどれほど素晴らしかったかを指摘したいと思います。 SVEMを含む多くの点で役立ちます。 |
| |
したがって、これを行うには、データセットを取得して、カスタムデザイナーに移動します。 |
| |
共変量行を選択するため、これはJMP16の新しいアウトラインノードです。 |
| |
次に、5つの入力要素を選択します。 |
| |
[続行]をクリックします。 |
| |
そして、RSMボタンを押します。これにより、最適性の基準がI-optimalまたはpredictiveタイプの設計に自動的に変換されます。 |
| |
すべての非切片因子を選択し、モデル内で...を右クリックします。 |
| |
ここでリストを選択し、作成...すべての非切片効果を可能な効果のように設定します。 これが私たちがモデルを持つことを可能にするものです |
| |
設計基準がベイジアンI最適設計になるため、基本設計としての実行よりも多くのパラメーターが含まれます。 これで、実行回数を16に設定できます。 |
| |
[デザインを作成]をクリックします。 |
| |
そして、それが完了すると、オプティマイザーはその魔法を働かせ、ベイジアンI最適サブセットデザインにあるすべての行が元のテーブルで選択されます。 |
| |
テーブルに移動し、インジケーターまたは変換列を使用して、現在の行の選択を記録できます。 |
| |
そして、先に進んで、後で列の名前を意味のある名前に変更しました。 |
| |
新しいインジケーター列がゼロに等しいすべての行を選択することにより、サブセットデザインにないポイントを選択できます。 |
| |
次に、これらの行を非表示にして除外し、モデルの適合プロセスに含まれないようにすることができます。 |
| |
PhilはSVEMアドインのデモを行うので、モデリング手順をスキップして、ベイジアンI最適サブセット設計に含まれていない行での前方選択とAICcおよびSVEMモデルのモデル比較に進みます。 だからあなたはここでその比較を赤で見ることができます... |
| |
ここのレポートの赤いアウトライン部分にあります。 SVEMのRの正方形が |
| |
.5の独立したテストセットと従来の手順では、Rの二乗は.22であるため、SVEMで説明されている変動量は従来の手順の基本的に2倍になります。 |
| |
46の観測すべてにSVEMを適用すると、2つのモデルのプロファイルトレースを比較することもできます。 |
| |
SVEMでは16回の実行で得られるので、46回の実行すべてにSVEMを適用すると、基本的に同じモデルが得られることは明らかです。 |
| |
しかし、前方選択ベースのモデルには、曲率項が欠落しています。見逃すことはありません...言うまでもなく、欠落している相互作用もたくさんあります。 これはかなり簡単な手順です...自分の履歴データでSVEMをテストするために使用できるかなり簡単な手順です。 |
| |
したがって、全体的なSVEM |
| |
多くの質問があります。 それらの多くは、行よりもパラメーターが多いモデルに適合できるようになったため、設計実験における自由度の役割を中心にしています。つまり、そのようなことがあった場合、実質的に負の自由度が存在することになります。 |
| |
これにより、産業実験におけるP値ベースの考え方の役割を再考することができると思います。 |
| |
予測のような分析の不確実性のための新しい方法を確立するために取り組む必要があります...予測の信頼区間で。 |
| |
Philと私は、作業できるベースモデルの最良のファミリを理解するためにいくつかの作業を行っています。 したがって、これは2次RSMである可能性があり、かなり前に提案されたこれらの部分3次モデルも検討していますが、今では再検討する価値があると考えています。 |
| |
どんなデザインを使うべきですか？ 使用している基本モデルの因子の数の関数として、どのサンプルサイズが適切ですか？ スクリーニング実験の役割は何ですか？ そして、1つの大きな未知数は、ブロッキングと分割プロット実験の役割は何ですか？ |
| |
このフレームワークでは？ |
| |
だから今、私はそれをフィルに引き渡すつもりです。 彼は、より詳細なケーススタディを行い、PredictumのSVEMアドインのデモも行います。 フィル、それを奪う。 |
| フィリップ・ラムジー |
さて、ありがとう、クリス。 そして、私がやろうとしているのはケーススタディについて話し合うことなので、これを入れさせてください |
| |
スライドショーと私はいくつかをします |
| |
クリスが言ったように、予測のイラスト |
| |
多くのSVEM分析を実際に自動化するアドイン。 そして、私たちが見ようとしているのは、バイオテクノロジー業界で使用されている分析方法です。 |
| |
そしてこれは、治療用タンパク質、基本的には抗体になるタンパク質の糖プロファイリングを特徴づけるためのものです。 |
| |
そして、その業界で働く多くの人は、糖タンパク質が本当に非常に豊富な治療法の源であることを知っています。また、GMPを見るために働く場合は、測定システムの信頼性を実証する必要があることも知っています。 そして実際にはグリコプロファイリングのために、 |
| |
高速で使いやすい分析メソッドは、実際には完全には開発されていません。 したがって、この実験のアイデアは、人々がさまざまなものを正確に評価するために使用できる、かなり迅速で簡単な方法を考え出すことでした。 |
| |
（私はここでは化学者ではありません） |
| |
転写後にベースタンパク質に付着します。 |
| |
そして、あなたにアイデアを与えるために、クロマトグラフィーを使用するというアイデアと私はあなたがそれにある程度精通していると仮定します、基本的にそれはあなたが |
| |
いくつかの解決策があり、それをカラムに通し、次に、さまざまな化学種がカラムを通過するときに、 |
| |
それらは分離し、異なる時間にカラムから出てくる傾向があります。 つまり、基本的には、いわゆるクロマトグラムと呼ばれる形式で、ピークが |
| |
は濃度の関数であり、ピークが発生する時間は、種が実際に何であったかを識別するために実際に重要です。 したがって、この場合、いくつかの |
| |
砂糖。私は単にそれらをグリコフォームと呼ぶことにします、そしてここで起こっているのはこの仕事をした科学者がキャリブレーションソリューションを開発したことです。 |
| |
そして、キャリブレーションソリューションの内容を正確に把握しています。 どのピークが溶出されるべきか、そして大まかにどこにあるかを正確に知っています。 |
| |
そして、実際のヒト抗体サンプルをキャリブレーションサンプルと比較することができます。 そして、これらのグリコフォームのいくつかは帯電しています。 彼らは彼らをコラムに通すのが難しい。 |
| |
彼らはそれに固執する傾向があるので、私たちは時々グラジエント溶出手順と呼ばれるものを使用しています。 |
| |
そして、私は詳細には立ち入りません。 ここで行っているのは、高性能陰イオン交換クロマトグラフィーと呼ばれるものです。 私はそれの専門家ではありませんが、私が一緒に働いた科学者はそれをしました |
| |
このキャリブレーションを開発する上で非常に優れた仕事であり、歴史的にそのキャリブレーションソリューションが必要な理由 |
| |
ヒト抗体サンプルから溶出する糖は、カラムから出てくる場所を完全に予測できるわけではないため、キャリブレーションに使用できるものがあります。 |
| |
そう。 |
| |
仕事をした人、そして私がすぐに彼女に言及するつもりですが、2つの別々の実験を設計しました。 1つは、16ランの3レベル設計です。 |
| |
その後、彼女は戻ってきて、より大きな28ランの3レベルの設計を行いました。 したがって、1つはトレーニングセットとして使用でき、もう1つは検証セットとして使用できますが、クリスが話した共変量セレクターとベイズI最適戦略を示すために、 |
| |
両方の設計が1つの44ラン設計に結合されました。 その後、 |
| |
その設計を共変量セレクターを使用してカスタム設計に取り入れ、さまざまなベイジアンI最適設計を作成しました。 |
| |
さらに多くの組み合わせを行うこともできましたが、これについて話す時間はあまりありません。 したがって、3つのデザインがあります。 1つには10回の実行があり、5つの要素を覚えておいて、10回実行しています。 |
| |
13ランの設計と16ランの設計、そして繰り返しになりますが、はるかに多くのことができます。 だから、私たちがやりたいのは、これらがどのように |
| |
設計は、ファンを使用してモデルを適合させた後に実行されます。ちなみに、Chrisが述べたように、これらの各設計では、44から選択されていない実行が、モデルがどの程度適切かを確認するための検証またはテストセットとして使用されます。実行されます。 |
| |
さて、これらは初期の要因、酢酸ナトリウムの初期量、水酸化ナトリウムの初期量です。 そして、3つの別々のグラジエント溶出ステップが行われます |
| |
約40分まで実行されるプロセス時間にわたって。 したがって、これらは実験で使用および操作されている設定です。 |
| |
実際、この実験では、44の異なる応答を見ることができます。 それで、私たちが利用できる時間を与えられて、私は2つを見るつもりです。 |
| |
1つはグリコフォーム3のリテンションタイムであり、これが重要であり、これがキャリブレーションクロマトグラムを固定するものです。 |
| |
また、ヒト抗体サンプルとの整合性が良いので、8分半くらいで出てほしいです。 |
| |
実際、モデル化はかなり簡単です。 2番目の応答は、グリコフォーム10の保持時間です。 それは帯電したグリコフォームです。 それは非常に遅く溶出し、他の荷電グリコフォームと一緒に集まる傾向があり、区別するのがより困難です。 OK、それで私が見る2つの応答です。 |
| |
また、クロマトグラフィーに慣れていない方のために、クロマトグラムと呼ばれるものをいくつか紹介します。 これらは本質的に応答です、 |
| |
応答がどのように見えるかの写真。この場合、写真を見ると、保持時間、つまりいつ行われたかがわかります。 |
| |
ピーク3が出ますか？ いつ、いつ、ピーク10が出て、クロマトグラムに表示されましたか？ そして、ちなみに、2つの間の注意 |
| |
私が示しているクロマトグラム、プロファイルの違い。 したがって、この実験では、これらの実験的要因を操作したとき |
| |
（ちなみに、これらのクロマトグラムは44個あります。そのうちの2つを示しています）、これらのピークの形状や保持時間など、および分解能に多くの違いが見られます。 だから私たちがしていることは何でも、私たちは明らかに操作しています |
| |
クロマトグラム、そして興味のある方のために、はい、私たちは将来これを機能データとして、そして機能データ分析がどのように使用されるかについて考えています。 |
| |
しかし、それはしばしば未来ですが、それは間違いなく私たちが非常に興味を持っていることです。 クロマトグラムは、最終的には実際には機能データです。 ただし、2つの機能を抽出して、それらをモデル化してみます。 はい。 そして私もクレジットを与えたい |
| |
CytovanceBiologicsのElizaYeung博士は、親友であり、優れた科学者です。 そして、彼女はすべての実験的な仕事をしました、そして、彼女は建設するという考えを思いついた人でした... |
| |
彼女が言うところのブドウ糖はしご、校正液。 そしてエリザは、いい人であるだけでなく、JMPも大好きです。 ですから、私たちは多くの点でエリザが好きです。 優秀な科学者。 そして |
| |
入る前に |
| |
SVEM、私はただ言及したい...クリスは最適化の基礎として1950年以来使用されている完全な二次モデルに言及しました。 |
| |
基本的に、すべての主な効果、2要素交互作用および2乗項。 実際、多くの複雑な物理システムでは、動力学は実際にはそのモデルには複雑すぎます。 |
| |
そして、コーネルとモンゴメリーは、1998年の本当に素晴らしい論文で、これを指摘し、多くの場合、 |
| |
彼らが相互作用モデルと呼んでいるもの、私たちはそれを部分立方体モデルと呼んでいますが、もっとうまくいくかもしれません。 そして私の経験では、SVEMを使用し、このモデルを多くのケーススタディに適用すると、それらは正しいです。 実際にはより良い予測モデルが得られますが、問題があります。 |
| |
これらの部分立方体モデルは巨大になる可能性があり、Chrisが述べたように、過飽和モデルが大きな問題である従来のモデリング戦略に対する大きな課題です。 |
| |
潜在的な用語はいくつありますか？ さて、Kスクエアを2倍取り、インターセプト用に1つ追加します。 したがって、5つの要因については、 |
| |
部分立方体モデルには51の項があります。 ちなみに、これらのモデルを使用しますが、通常最も重要な用語のうち40個のみを使用します。 |
| |
次に、自己検証型アンサンブルモデリングを使用してモデルを適合させます。クリスが言ったように、SVEMは過飽和モデルに問題はありません。 |
| |
ちなみに、機械学習の文献では、過飽和モデルは常に適合しています。 |
| |
そして、適切な機械学習手法を使用すると、実際に...実際に表示することができ、より優れた予測パフォーマンスを得ることができます。 |
| |
これは、従来の統計ではほとんど知られていません。 そこで、SVEMアドインを使用します。それについて知りたい場合は、Predictumですでに話されているWayneLevinに連絡できます。Wayneはきっとあなたと話をしたいと思っています。 |
| |
それでは、JMPについて簡単に説明しましょう。 |
| |
そして、アドインが実際にどのように機能するかをお見せしますので、JMPを持ち込みましょう。 |
| |
そこで、アドインをインストールして、独自のタブを作成しました。 だから私はPredictumをクリックします。 ちなみに、これは私たちが作成したベイジアンI最適設計の1つであり、これには16回の実行があります。 自己検証型アンサンブルモデリングを選択します。 |
| |
これで、典型的なフィットモデルの起動ダイアログがどのように見えるかがわかります。 5つの要素を選択します。 |
| |
この時点で、説明のために応答曲面モデルを作成します。モデル化したいのですが。 |
| |
グリコフォーム3の保持時間。 バックグラウンドで、このセットアップ、自動検証テーブルに注意してください。待機関数があります。 |
| |
そして、自動検証の部分があります。 これはすべてバックグラウンドで行われるため、表示する必要はありません。 しかし、のこぎり...しかし、アドインがそれを作成し、基本的にそれを非表示にしますが、必要に応じてそれを見ることができますが、それを見ることがそれほど重要ではないため、非表示になっています。 |
| |
これでGenRegを開きます。これが、GenRegです。 |
| |
コントロールパネル。 ちなみに、SVEMは、モデル構築に使用する方法に関しては、実際には不可知論者です。 したがって、実際には、GenRegにもないメソッドを使用できますが、それが今日の私たちの主な焦点です。 そこで、フォワードセレクションを行います。 |
| |
時間があまりないので、10回だけやります。 |
| |
[移動]をクリックすると、モデルが作成されます。 |
| |
したがって、これは10回の繰り返しの出力であり、予測されたプロットによって実際の結果が得られます。 しかし、これの本当に素晴らしい点は、実際にアンサンブルモデルの平均を作成することです。 |
| |
そこで、自己検証型アンサンブルモデルをクリックして、予測式を保存します。 それで、先に進んでこのディスプレイを閉じます。 |
| |
やって来る。 |
| |
そして、私のモデルがあります。 |
| |
これで、このモデルを取得して、検証データに適用できます。 選択された16の実行があるので、実際にどのように実行したかを確認するための検証セットとして使用できる別の28の実行があります。 だからこの時点で私は今に戻るつもりです |
| |
プレゼンテーションと、ちなみに、SVEMアドインがないと、特にJMPスクリプトに特に熟練していない場合は、少し難しい場合があります。 |
| |
これらのモデルを実際に作成します。 そのため、そのアドインは、バックグラウンドで非常に多くの作業を行ったようには見えないかもしれません。 では、どのようにしたのでしょうか。 それで、これをスライドショーに戻しましょう。 |
| |
だから私がやったことは、16ランのデザインと13ランの3つのデザインがあり、それから私は10ランを選びました。 私たちは本当に限界を押し広げます。 |
| |
そして、私が言ったように、2つの応答があります。グリコフォーム10は遅く溶出し、ノイズが多くなる傾向があり、解決するのが難しい場合があります。 したがって、16ランの設計では、実際には40項の部分3次モデルを適合させます。 そのことを覚えておいてください、16ラン。 そして、私は40タームモデルに適合します。 |
| |
そして、これの鍵は、検証セットのルート平均二乗誤差です。 そう |
| |
私は私の6番目に適合します...私の40タームモデル、そして次に |
| |
検証セットのルート平均二乗誤差は低く、検証Rの二乗は実際には98に近いため、非常によく適合します。 |
| |
はるかに騒々しい場合でも注意してください |
| |
グリコフォーム10、まだかなり良いモデルがあります。 予測されたプロットによる実際のプロットをいくつか示します。 したがって、これを13で実行し、もう一度13で実行すると、非常に良い結果が得られました。 |
| |
そして最後に10のために。 ちなみに、10の場合は、標準の完全2次モデルにぴったり合うので、本当に運が良かったように感じました。 |
| |
しかし、私は先に進んで部分的な立方体を試すことができたでしょう。 また、10回の実行でも、グリコフォーム3の保持時間をモデル化すると、R平方.94が得られたことに注意してください。 |
| |
私にとって、それは本当に印象的であり、再びモデル化しました...私のモデルには、観測値の2倍の予測子があり、グリコフォーム10のモデル化が困難な場合でも、非常にうまくいきました。 |
| |
それで、ここにいくつかの実際の予測プロットがあります、そして再びモデル化するのが本当に難しいので私はグリコフォーム10を選びます。 |
| |
だから私はシステムをあまりゲームしたくなかった。 私は経験からモデル化するのが難しいことを知っています。 したがって、実際の予測プロットがあります。 10ラン設計の別の実際の予測プロットがありますが、それでもかなりうまくいきます |
| |
私たちがここでやろうとしていることを考えるとき。 |
| |
そして最後に、全体的にどのようにしたのでしょうか。 |
| |
これは私がまとめた小さな表であり、16ランの設計をベースラインとして採用しました。次に、10を適合させたときに何が起こったかを比較しています。 |
| |
タームモデルとG10の保持時間の13ターム。 |
| |
13ではかなり大きなエラーが発生し、10でははるかに小さなエラーが発生したことに気付くでしょう。 理由はわかりません。 結果を表示することにしました。 それは少し謎です、そして私はそれを探求するために戻っていません。 |
| |
しかし、保持時間3については、16から10になっていることに注意してください。 はい、ルート平均二乗誤差がいくらか増加しましたが、予測されたプロットで実際を見るとわかります。 |
| |
それでも、検証セットを予測するのに適しています。 ですから、これが重要なのは、これは、私がバイオテクノロジー企業と多くの仕事をしていることです。 |
| |
実験計画で達成できる可能性のある実際の効率。多くの人にとって、これらの実験にはコストがかかることを私は知っています。 |
| |
そしてさらに重要なのは、彼らは多くの時間を要します。 これにより、実験時間を短縮し、実験予算を削減して、さらに多くの情報を得ることができます。 |
| |
ですから、これに対する簡単な結論です。 このSVEM手順とこれ、そしてChrisが示したように、シミュレーションとケーススタディでこれを調査しました。 |
| |
SVEMは過飽和モデルに最適です。 詳しくは説明しませんが、機械学習の実践から、過飽和モデルは非常に優れたパフォーマンスを発揮することが知られています。 彼らは例として常に深い学習を使用します。 |
| |
基本的に、Chrisが言うように、SVEMは機械学習と実験計画法を組み合わせています。 |
| |
さらに重要なのは、SVEMの経路をたどり始めると、それが実験についての考え方を教えてくれることです。 |
| |
したがって、基本的にSVEMを使用して、イノベーションのペースを実際にスピードアップし、実際に実験の時間とコストを削減できる非常に効率的な実験について考え始めることができます。 そして、製品とプロセスを開発する時間とともに |
| |
リードタイムがどんどん短くなっているので、これは些細なことではありません。バイオテクノロジーの多くの人も深刻な予算の制約に直面していることを私は知っています。 |
| |
そして（ちなみに、ほとんどの人はそうです）そして最後に1つの有望な領域はベイズI最適設計です。 |
| |
繰り返しになりますが、ブラッド・ジョーンズと彼のグループは、JMPでこれらを紹介する素晴らしい仕事をしてくれました。 これは、ベイジアンI最適設計を実際に実行することを私が知っている唯一のソフトウェアパッケージです。 |
| |
そして、SVEMは多くの可能性への窓を開くだろうと私たちは考えています。 基本的に、それが私の話であり、ウェイン・レヴィンに引き渡すつもりです。 |
| ウェイン・レヴィン |
ありがとう、どうもありがとう、 |
| |
フィルとクリス。 非常に多くの作業があり、いくつかを含む多くの研究がこれに行われていることを誰もが理解できることを願っています |
| |
塹壕で働いていると言うかもしれませんが、私はこのゲームに30年以上携わっていますが、ここで見ているものに非常に興奮していると言ってもかまいません。 |
| |
これは本当に変革的であり、実際に何を変えることができると思います...ここで産業実験がどのように行われるか。 以前は過飽和のデザインだけでとても興奮していました。 |
| |
カスタムデザイナーで促進され、今では...それはデザイン側にあります。 |
| |
物事の。 |
| |
さて、分析側にSVEMを導入すると、これらは2つの素晴らしい味になります。 |
| |
それは一緒にうまくいく、あなたは言うかもしれません。 とにかく、結論として、私はここにスライドします |
| |
Phil、私、Marie Goddard、オンデマンドコースをまとめています（4月のように来四半期に利用可能になるはずです） |
| |
混合計画実験について説明します。そのコースでは、SVEMにかなりの時間を費やします。 それで、もしそれがあなたに興味があるなら、私に知らせてください、またはそうするでしょう...そうすれば、LinkedInまたはそれらのいずれかで私たちに知らせたりフォローしたりすることができます。 |
| |
また、SVEMアドインについても、可能であれば、これを最初に市場に投入できたことを嬉しく思います。 |
| |
私たちは何ヶ月もそれに一生懸命取り組んできました。 ほぼ毎月新しいリリースを行っているので、フィールドからのフィードバックを受け取りながら進化しています。Philに感謝します。 |
| |
これをリードしてくれて。 そして彼は私たちの開発者の一人と提携していて（???）そしてそれは本当に本当に素晴らしい努力であり、多くのハードワークでした |
| |
この点に到達するために、私たちはあなたがそれを利用できるようにしたいのです。 Philが前述したように、これを試すには2つの方法があります。 1つは、アドイン自体を試すことです。 |
| |
14と15で動作します。 そして、16が出てきたので、16でも機能するようになると思います。 JMP Proが必要なため、JMP Proをお持ちでない場合は、ここにリンクがあり、JMPProトライアルライセンスを取得するために申請できます。 |
| |
もちろん、このプレゼンテーションのスライドをダウンロードすると、このリンクを取得できます。 それがあなたがそれを手に入れる方法です、それでこれはあなたがそれを自分で試すためにそれを扱うことができる一つの方法です。 |
| |
もう1つの方法は、お問い合わせいただくだけです。概念実証に基づいてサポートいたします。 |
| |
そして、私たちはいくつかの比較分析などを行うことができます、そしてもちろん、あなたとその分析をレビューします。 必要な事務処理を行うことをご存知でしょう。 |
| |
試してみてもかまいません。 私たちはかなりの数の企業のためにそれを行ってきました、そしてそれはあなたにとって何がうまくいくにせよ、あなたにとって最も簡単な方法かもしれません。 さて、そして今のところ、私がしたいのは |
| |
現時点で質問やコメントがある場合は、それを開いてください。 クリスとフィルを代表して、ご参加いただきありがとうございます。 質問やコメントをお願いします。 |
