398679_ja-JP

liliconcom

JMP Pro 16 の予測プロファイラーでの外挿の制御 (2021-US-45MP-838)

レベル: 中級

 

Laura Lancaster、SAS、JMP 主任研究統計開発者
Jeremy Ash 氏、SAS、JMP Analytics ソフトウェア テスター
Christopher Gotwalt 氏、SAS 統計研究開発担当 JMP ディレクター

 

制御されていないモデル外挿は、(1) モデルがデータから遠く離れて完全に無効である可能性がある、(2) 変数値の組み合わせが物理的に実現不可能である可能性がある、という 2 つの重大な種類のエラーを引き起こします。 プロファイラーを使用して観測データに適合するモデルを最適化すると、何の警告もなく、実際には役に立たない外挿された解が得られる可能性があります。 JMP Pro 16 では、多くの予測モデリング プラットフォームとプロファイラー プラットフォーム自体に外挿制御が導入されています。 予測プロファイラーのこの新機能は、外挿の可能性をユーザーに警告するか、モデルが有効ではない可能性のある外挿点の描画を完全に回避します。 さらに、ユーザーは外挿を回避する制約された領域に対して最適化を実行できます。 このプレゼンテーションでは、外挿制御の動機と有用性について説明し、それが JMP でどのように簡単に使用できるかを示し、私たちの方法の詳細を説明します。

 

 

自動生成されたトランスクリプト...

 

スピーカー	成績証明書
ティム・ピアース	行く。
	そうですね、ミュートにします。
	こんにちは、クリス・ゴットワルトです。 共同プレゼンターの Laura Lancaster および Jeremy Ash と私は、外挿制御と呼ばれる便利な新しい JMP Pro 機能を紹介します。
	予測に使用したいほぼすべてのモデルには、幅広い適用性があります。
	予測が考慮される入力空間の領域
	十分に信頼できます。 その領域の外側では、モデルの適合に使用されたデータから遠く離れた 2 点でモデルの外挿を開始します。 それらの時点でそのモデルからの予測を使用すると、完全に信頼性の低い予測につながる可能性があります。
外挿の主な情報源は 2 つあります	統計的外挿とドメインベースの外挿。 どちらのタイプも新機能の対象となります。
	統計的外挿は、モデルのトレーニングに使用された値に近くない X でモデルを使用して予測しようとするときに発生します。
	ドメインベースの外挿は、科学的理由により不可能な X で評価しようとしたときに発生します。
	またはエンジニアリングベースの制約。 ここの例は、両方の種類の外挿を 1 つの例で示しています。 ここでは、冶金製造プロセスのモデルからのプロファイラーを示します。
	予測値は -2.96 ですが、不可能な温度と圧力の組み合わせで評価していることを示すものはありません。
	このマシンで達成すべきドメインの意味で。 使用されたデータから離れている場合には、統計的な外挿も行っています。
	右側のトレーニング データの散布図に見られるように、モデルを適合させます。 JMP Pro 16 では、ジェレミー、ローラ、そして私が協力して、プロファイラーが推定を行っている可能性があると判断した場合に警告を発することができる新しい機能を追加しました。
	または、外挿コントロールをオンにすると、表示されるポイントのセットが、外挿されていないと思われるポイントのみに制限されます。
	外挿制御には 2 種類あります。
	1 つはレバレッジの概念に基づいており、最小二乗モデルを使用します。 この最初のタイプは、フィット モデル最小二乗法の Pro バージョンでのみ使用できます。
	もう 1 つのタイプは、一般機械学習外挿制御と呼ばれるもので、プロファイラー プラットフォームと、JMP Pro の最も一般的な機械学習プラットフォームのいくつかで利用できます。
	ご要望に応じて、mor に追加することもできます。 最小二乗外挿制御では、予測分散のスケーリングされたバージョンのようなレバレッジの概念が使用されます。 モデルベースなので、
	主効果の交互作用と高次項に関する情報を使用して外挿を決定します。
	一般的な機械学習の外挿制御の場合、独自のアプローチを考え出す必要があります。 欠損値に対して堅牢な方法が必要でした。
	線形依存関係、より高速な計算、連続入力変数とカテゴリ入力変数の混合を処理できます。また、データの近似に使用されるモデルから外挿モデルを明示的に分離したいと考えていました。
	したがって、一般的な外挿制御をオンにすると、入力変数をプロファイラー トレースで確認される応答に適合させる教師ありモデルが 1 つだけ存在します。
	トレーニング セット X を記述するための簡単で汚い教師なしモデルを作成するプロファイル。この教師なしモデルは、外挿制御制約を決定するためにプロファイラーによって舞台裏で使用されます。
	何らかの理由で、PowerPoint のカメラが現在うまく動作していないため、切り替える必要があります。
	私たちは、データ サイエンスに携わる人々によってリスクの高い外挿が毎日行われていることを認識しており、外挿の使用が不適切な予測につながり、最終的には悪いビジネス成果につながると確信しています。
	外挿制御はモデルの予測にガードレールを設け、JMP Pro ユーザーによる定量的に優れた意思決定につながります。
	ユーザーは、外挿が発生していることを確認した場合、その分野の知識と当面の問題に関する知識に基づいて、予測を使用するか使用しないかを決定する必要があります。
	外挿制御の警告が発生し始めた場合は、入力の分布がトレーニング データの分布からずれているため、多くの場合、そのモデルのライフ サイクルが終了し、新しいデータに再適合する時期が来ている可能性があります。
	私たちは、外挿を特定する必要性がデータ サイエンス コミュニティで十分に認識されていないことに、正直に非常に驚き、懸念しています。
	外挿の制御を可能な限り簡単かつ自動化しました。 JMP Pro で開発した Laura が、次回このオプションをデモンストレーションします。 次に、私たちのチームで多くの研究を行った Jeremy が、このアプローチの数学的詳細と統計的動機について詳しく説明します。
	こんにちは。 私の名前は Laura Lancaster です。JMP Pro 16 に追加された外挿コントロールのデモを行うためにここに来ています。 フィットモデル最小二乗プラットフォームを使用した非常に単純な例から始めたいと思いました。
	よく知られているかもしれないいくつかのデータを使用します。 サンプル データにあるフィットネス データです。
	そして、酸素摂取量を反応として使用し、走行時間、走行脈拍、最大脈拍を予測変数として使用します。 そして、フィットモデルのフィット最小二乗法では、使用される外挿メトリクスがレバレッジであることを繰り返しておきたかったので、先に進んで JMP を開始しましょう。
	これで、JMP でフィットネス データを開いて、フィット最小二乗モデルを自動的に起動するためにデータ テーブルに保存するスクリプトを用意しました。
	それでは、このスクリプトを実行してみます。 最小二乗プラットフォームを起動します。
	そして、プロファイラーを自動的に開くと、プロファイラーが以前と同じように見えることがわかります。
	ここで、因子の境界は各因子の範囲によって個別に定義され、長方形の境界制約が与えられます。
	また、因子の設定を変更すると、これらの制限があるため、データの相関構造のはるか外側に移動しているかどうかを判断するのが非常に困難になることがあります。
	これが、外挿コントロールを追加したい理由です。 したがって、これは JMPs Pro 16 のいくつかのプラットフォームに追加されました。
	フィット最小二乗法を含む。 外挿コントロールにアクセスするには、プロファイラー メニューの下のメニューに移動します。 ここを見ると、外挿制御と呼ばれる新しいオプションがあることがわかります。
	デフォルトではオフに設定されていますが、オンまたは警告をオンにして外挿制御をオンにすることができます。 これをオンにすると、外挿していない値のみにプロファイル トレースが制限されることに注意してください。
	警告をオンにすると、完全なプロファイル トレースが表示されますが、外挿とみなされる領域に行くと警告が表示されます。
	外挿の詳細をオンにすることもできます。これは非常に便利です。
	そしてそれは私にさらに多くの情報を与えてくれます。 まず第一に、外挿を定義するために使用しているメトリクスがレバレッジであることがわかります。これは最小二乗適合プラットフォームでは当てはまります。
	デフォルトで使用されるしきい値は、最初は最大レバレッジになりますが、これは変更できるものです。それについては後ほど説明します。
	また、現在の設定に対する外挿メトリックが何であるかを確認できます。 これがここにある数値であり、係数設定を変更すると変化します。
	この数値がしきい値を超えると、推定を行っている可能性があるという警告が表示されます。 それを下回った場合、その警告は表示されなくなります。
	このしきい値は、メニューで何かを変更してしきい値を調整しない限り、変更されません。 それでは、今すぐそれをやらせてください。 メニューに行くつもりですが、
	そして、しきい値基準を設定することにします。 したがって、最小二乗法では、しきい値には 2 つのオプションがあります。 最初は最大レバレッジに設定されており、データの凸状の穴内に留まります。
	または、観測値に対する平均レバレッジまたはモデル項を掛けた乗数に切り替えることもできます。 そのしきい値に切り替えたいので、3 に設定します
	デフォルトでは乗数として設定されているため、これは平均レバレッジの 3 倍になります。 「OK」をクリックすると、しきい値が変更されることに注目してください。 実際には小さくなっているため、これは外挿のより保守的な定義です。
	そして、プロファイル トレースを制限するためにオンに戻すつもりです。これで、リージョンのみに移動できるようになります。
	私は平均レバレッジの 3 倍以内にいます。
	これで、外挿制約に従う最適化も実装されました。 さて、set desirability をオンにすると
	そして私は最適化を行います、
	外挿制約を満たす最適な値を求めます。 このメトリクスがしきい値以下であることに注意してください。
	それでは、次のスライドに進み、外挿制御をオンにした場合とオフにした場合の最適値の差をグラフ (散布図マトリックス) で比較します。
	これは、JMP で作成した散布図行列で、元の予測子変数データと予測子変数値を示しています。
	外挿制御を使用しない最適解は青色、外挿制御を使用する最適解は赤色です。 そして、ここでは制約のないソリューションが青で示されていることに注目してください。
	ここで、実行パルスと最大パルスの元のデータの相関構造に違反するため、この予測の不確実性が増大しますが、外挿制御を使用した最適解は元のデータとはるかに一致しています。
	次に、より一般化された外挿制御方法 (正則化 T 二乗法と呼ぶ) を使用した例を見てみましょう。
	Chris が前述したように、私たちは最小二乗モデル以外のモデルのためにこの手法を開発しました。 サンプル データにも含まれている糖尿病データのニューラル モデルを見ていきます。
	反応は疾患の進行の尺度であり、予測因子はベースライン変数です。 もう一度言いますが、この例で使用される外挿メトリックは正則化された T 二乗です。これについては、Jeremy が数分で詳しく説明します。
	そこで、JMP で糖尿病データを開いて、ニューラル モデルの適合を示すスクリプトを保存しました。 では、そのスクリプトを実行してみます。
	ニューラル プラットフォームを起動します。 そして、検証方法ランダムホールドバックを使用していることに注意してください。 検証メソッドを使用するときは常に、外挿制御はトレーニング データのみに基づいていることに注意したいと思います。
	検証データやテストデータではありません。
	プロファイラーを開いたところ、完全なトレースが使用されていることがわかります。 外挿制御がオンになっていません。
	さあ、電源を入れてみましょう。
	そして、詳細もオンにしていきます。
	トレースが制限されており、メトリックが正規化された T 2 乗であることがわかります。
	しきい値は、サンプルの正規化された T 二乗の標準偏差の 3 倍です。 これが何を意味するのかについては、ジェレミーが数分以内に詳しくお話します。
	正則化 T 二乗法を使用している場合、しきい値の選択肢は 1 つだけですが、乗数は調整できることにも触れておきたかったのです。 それで、あなたが行くなら
	外挿コントロール、しきい値の設定、この乗数を調整できますが、ここでは 3 のままにしておきます。 そして今、私は次を使用して最適化を実行したいと思います
	外挿制御なので、最大化して記憶するだけです。 これで、外挿制御をオンにした最適なソリューションが得られました。
	そこで今、元のデータで前に見たのと同じように、外挿制御ありとなしの最適値で散布図行列を見ていきたいと思います。
	これは、JMP で作成した糖尿病データの散布図マトリックスです。 元の予測値があり、
	赤は外挿制御を使用した最適解、青は外挿制御を使用しない最適解です。 そしてそれを見ることができます
	赤い点は、青い点よりも元のデータの相関構造の範囲内にはるかにあるように見えます。 そして、この LDL 対総コレステロールを見ると、それが特に当てはまります。
	それでは、グラフ メニューの下にあるプロファイラーを使用する例を見てみましょう。これをグラフ プロファイラーと呼びます。
	また、正則化 T 二乗法も使用されており、JSL 式として作成および保存できるあらゆる種類のモデルで外挿制御を使用できるようになります。 また、一度に複数のモデルで外挿制御を行うこともできます。
	それでは、粉末冶金技術を使用して自動車産業向けのスチール製ドライブ シャフトを製造する企業の例を見てみましょう。
	彼らは、収縮を最小限に抑え、不良な表面状態による故障も最小限に抑える、生産に最適な設定を見つけられるようにしたいと考えています。 したがって、応答は 2 つあります
	収縮は連続的であり、最小二乗モデルを当てはめます。表面状態は合格/不合格で、公称ロジスティック モデルを当てはめます。
	そして、私たちの予測変数は、本番環境における重要なプロセス変数の一部にすぎません。 もう一度言いますが、外挿メトリックは正則化された T 二乗です。
	そこで、粉末冶金データを JMP で開いており、収縮応答の最小二乗モデルをすでに当てはめています。
	そして、表面状態の合否応答に対する名目上のロジスティック モデルをすでに当てはめています。 また、グラフ プロファイラーで使用できるように、予測式をデータ テーブルに保存しました。
	したがって、グラフ メニュー プロファイラーに移動すると、収縮の予測式をロードできます。私の予測式は表面状態に関するものです。
	「OK」をクリックします。
	これで、両方のモデルがグラフ プロファイラーに起動されました。
	そして、外挿制御をオンにする前に、完全なプロファイル トレースがあることがわかります。 外挿制御をオンにすると、
	トレースが少し縮小しているのがわかります。 そして、詳細もオンにします
	実際に、このメソッドでは正則化された T 乗を使用していることを示すためです。
	それで、私が本当にやりたいのは、収縮を最小限に抑え、失敗を最小限に抑える最適な条件を見つけたいということです。
	外挿制御がオンの場合。 推測していないことを確認したいと思います。 有用な解決策を見つけたいです。
	最適化を行う前に、実際に希望を設定する必要があります。 望ましさを設定するつもりです。収縮についてはすでに正しいですが、表面状態については設定する必要があります。
	パスを最大化し、失敗を最小化するように努めます。
	OK。
	これで、外挿コントロールをオンにして最適化を実行し、最大化して記憶できるようになりました。
	これで最適な解決策が見つかりました
	外挿制御がオンの場合。 それでは、元のデータの散布図行列を、外挿制御をオンにした解と外挿制御をオフにした解とともにもう一度見てみましょう。
	これは、JMP で作成した粉末冶金データの散布図マトリックスであり、最適解も含まれています。
	外挿制御ありの最適解は赤い点、外挿制御なしの最適解は青い点です。 そして、もう一度、外挿制御を制定しない場合、
	最適解はデータの相関構造のかなり外側にあります。 特に、比率と圧縮圧力の関係でそれが分かります。
	それでは、ジェレミーにプレゼンテーションを渡して、私たちの手法についてさらに詳しく説明したいと思います。
	やあ。 ここでは、プロジェクトの開始時に設定した外挿制御のいくつかの目標を示します。
	多数の観測値と変数を使用して迅速に計算できる外挿メトリックが必要でした。また、メトリックが外挿を示しているかどうかを迅速に評価する方法も必要でした。 これは、プロファイラー トレースの対話性を維持するためであり、
	最適化を実行するにはこれが必要でした。
	プロファイラーで使用できるさまざまな変数タイプをサポートできるようにしたいと考えています。 これらは本質的に連続的、カテゴリ的、順序的です。
	一部のモデリング手法にはこれらの観察結果と ??? が含まれるため、欠損セルを含む観察結果を利用したいと考えました。
	私たちは、データの線形依存関係に対して堅牢な方法を求めていました。 これらは、たとえば、変数の数が観測値の数よりも大きい場合に発生します。
	そして、多くのユーザー入力を必要とせずに簡単に自動化できるものを望んでいました。
	最小二乗モデルでは、線形モデルで外れ値を特定するためによく使用されるてこ比にたどり着きました。
	新しい予測ポイントのレバレッジは、この式に従って計算されます。 レバレッジには多くの解釈があります。 一つの解釈は、
	これは、トレーニング データの中心から予測ポイントまでの多変量距離です。 別の解釈では、これはスケーリングされた予測の分散であるため、予測点がデータの中心から遠ざかるにつれて、予測の不確実性が増加します。
	そして、この距離が大きすぎるかどうかを判断するために、統計文献にある 2 つの一般的なしきい値を使用します。
	1つ目は最大レバレッジです。 この閾値を超える予測点は、トレーニング データの凸穴の外側になります。
	そして2番目はレバレッジの平均の3倍です。 これは、モデル項の数を観測値の数で割った値の 3 倍に相当することがわかります。
	ローラが前に説明したように、これらのしきい値の乗数を変更できます。
	最後に、望ましさが最適化されている場合、外挿制約は非線形制約になります。 また、以前のプロファイラーでは線形制約による制約付き最適化が可能でしたが、
	しかし、このタイプの最適化はより困難であるため、Laura は遺伝的アルゴリズムを実装しました。 これらに詳しくない方のために説明すると、遺伝的アルゴリズムは分子進化の原理を使用して、複雑なコスト関数を最適化します。
	次に、線形モデル以外の 2 つの外挿制御モデルを一般化するために使用するアプローチについて説明します。
	JMP で予測モデルを構築するときは、一連の予測子変数と一連の応答変数から始めます。
	一部の教師付きモデルがトレーニングされ、プロファイラーを使用してモデルの表面を視覚化できます。
	JMP のプロファイラーには多数のバリエーションがあります。 モデリング プラットフォームの内部でプロファイラーを使用でき、予測式を出力してビルドすることができます。
	Laura が実証したように、複数のモデルのプロファイラー。 アンサンブル モデルのプロファイラーを構築できます。 これらすべてのシナリオに一般化できる外挿制御メソッドが必要だったので、メソッドを特定のモデルに結び付ける代わりに、教師なしアプローチを使用することにしました。
	そして、予測点が予測子空間内でデータが集中している場所から大きく外れている場合にのみ、予測点に外挿としてフラグを立てます。 これにより、プロファイラー間で一貫性を保つことができるため、外挿制御メソッドをどのプロファイラーにも組み込むことができます。
	レバレッジの多変量距離解釈は、一般的な外挿制御のための距離としてホテリングの T 二乗を示唆しました。 実際、代数操作によって、ホテリングの T 二乗がレバレッジをシフトしてスケーリングしただけであることがわかります。
	この図は、ホテリングの T 二乗が観測値がどの楕円上にあるかを測定する方法を示しています。楕円はデータの平均を中心とし、形状は共分散行列によって定義されます。
	もはや線形モデルではないため、この指標は予測分散と同様の関係を持ちません。 したがって、線形モデルで使用されていたしきい値に依存する代わりに、いくつかの分布の仮定を立てて、
	予測点の T 二乗は外挿を考慮する必要があります。
	ここでホテリングの T 二乗の公式を示します。 平均および共分散行列は、モデルのトレーニング データを使用して推定されます。
	P が N より小さい場合、P は予測子の数、N は観測値の数です。
	予測子が多変量正規分布の場合、予測点の T 二乗は F 分布になります。 ただし、次の方法が必要でした。
	連続データセットとカテゴリカルデータセットの混合など、複雑なデータタイプを含むデータセットを一般化します。ここで、P は N より大きくなります。
	欠損値のあるデータセット。 したがって、各ケースで分析的に分布を計算する代わりに、実際にうまく機能することがわかった単純で保守的な管理限界を使用します。
	これは、トレーニング データからの T 二乗の経験的分布を使用した 3 シグマの制御制限であり、Laura が述べたように、この乗数を調整することもできます。
	問題の 1 つは、P が N より大きい場合、ホテリングの T 二乗が定義されないことです。 共分散行列のパラメーターが多すぎるため、利用可能なデータで推定できません。
	そして、これは部分最小二乗などの外挿制御の典型的な使用例でよく発生します。 そこで、ホテリングの T 二乗を計算するための新しいアプローチを決定しました。これは、これらのケースに対処するものであり、これを正則化 T 二乗と呼んでいます。
	共分散行列を計算するには、高次元ゲノミクス データ用に Schafer と Strimmer によって独自に開発された正規化推定量を使用します。 これは、完全なサンプル共分散行列 (ここでは U) と制約ターゲット行列 (D) の重み付けされた組み合わせにすぎません。
	ラムダ重みパラメーターについて、シェーファーとストマーは、推定量である MSE を漸近的に最小化する分析式を導き出しました。
	Schafer と Strimmer は、いくつかの可能なターゲット行列を提案しました。 私たちが選択したターゲット行列は、対角線上に予測子変数のサンプル分散を含む対角行列でした。 このターゲット行列には、外挿制御にとって多くの利点があります。
	まず、データを確認する前に変数間の相関構造を仮定しません。これは一般的な事前分布として機能します。
	また、N が小さいか、大きな部分が欠落しているために、共分散行列を推定するためのデータがほとんどない場合、
	楕円制約は対角行列の大きな重みによって拡張されるため、外挿制御のテストがより保守的になります。 偽陽性率を合理的に制御するにはこれが必要であることがわかりました。
	これをもっと簡単に言うと、トレーニング データが限られている場合、正則化 T 二乗によって予測が外挿としてラベル付けされる可能性が低くなります。共分散が偶然に観察される可能性が高くなるため、これが望ましいことになります。
	これらの詳細を示すシミュレーション結果がいくつかありますが、そのすべてを説明する時間はありません。 代わりに、コミュニティ Web ページにアーカイブ内の論文へのリンクを置き、これを Journal of Computational Graphical Statistics に投稿する予定です。
	次のスライドでは、考慮する必要があるその他の重要な詳細を示します。 カテゴリ変数を処理する方法を理解する必要がありました。
	それらをインジケーターコード化されたダミー変数に変換しているだけです。 これは多重対応分析に相当します。
	もう 1 つの複雑な問題は、データが欠損している場合に Hotelling の T 二乗を計算する方法です。 いくつかの JMP 予測モデリング プラットフォームは、欠損データのある観測値を使用してモデルをトレーニングします。
	これらには、ナイーブ ベイズとブートストラップ フォレストが含まれており、これらの式は、共分散行列を推定するために使用するペアワイズ削除法を示しています。
	行単位の削除を使用する方が一般的です。これは、共分散行列を計算する前に、欠損値のあるすべての観測値が削除されることを意味します。 これは最も単純ですが、トレーニング データのサンプル サイズが小さい場合、有用なデータが失われる可能性があります。
	ペアごとの削除では、対応するエントリの計算に使用される変数のペアに欠損値がある場合にのみ観測値が削除されます。
	それがこれらの式が示していることです。 利用可能なすべてのデータを使用するだけなので、簡単なことのように思えますが、各エントリの計算に異なる観測値が使用されるため、実際には多くの問題が発生する可能性があります。
	これにより、負の固有値を持つ共分散行列などの奇妙な現象が発生する可能性があり、これに対処する必要がありました。
	評価において他の方法と比較したときに見つかった、正則化 T 二乗の利点をいくつか紹介します。
	1 つは、正則化が通常の正則化と同じように機能することです。 これは、トレーニング データの過剰適合と推定量の過剰なバイアスの間のバランスをとります。 これにより、推定器はノイズやモデルの仕様の誤りに対してより堅牢になります。
	次に、Schafer と Strimmer は論文の中で、正則化により高次元の設定でより正確な推定量が得られることを示しました。 これは、外挿制御のためのほとんどの距離ベースの方法を悩ませる次元の呪いに役立ちます。
	そして、外挿制御の手法が開発された分野では、
	多くの場合、高次元データと相関性の高い予測子の両方が含まれています。 たとえば、ケモインフォマティクスやケモメトリクスでは、多くの場合、化学的特徴は高度に相関しています。
	外挿制御は、相関構造の違反を検出するために T 二乗と DModX が使用される PCA および PLS モデルと組み合わせて使用されることがよくあります。 これは、モデル駆動多変量管理図で行うことと似ています。
	これは一般的な使用例であるため、これらの方法から大きく逸脱しないオプションが必要でした。
	正規化された T 二乗は以下を提供します
	同じタイプの外挿制御ですが、投影ステップが必要ないため、いくつかの利点があります。
	これにより、他のタイプの予測モデルをより適切に一般化できることがわかりました。
	また、私たちの評価では、予測子間に非線形の関係がある場合など、線形投影がデータに対して適切に機能しない場合、
	誤差により投影ベースの手法の管理限界が大きくなり、外挿に対する保護が不十分になる可能性があり、私たちのアプローチはこれよりも堅牢です。
	そして、もう 1 つの重要な点は、
	単一の外挿メトリックの使用と解釈がはるかに簡単になりました。
	ここでは、外挿制御の機能を簡単にまとめます。 この方法により、実行可能な領域をより適切に視覚化できます。
	プロファイラーの高次元モデル。 柔軟な制約付き最適化のために、新しい遺伝的アルゴリズムが実装されました。
	そして、正規化された T 二乗は、N より大きい P や連続変数、カテゴリ変数などの場合の乱雑な観測データを処理します。
	このメソッドは、JMP 16 Pro のほとんどの予測モデルで利用でき、その特異性の多くをサポートします。 グラフのプロファイラーでも利用でき、あらゆる予測式を操作できるため、その実用性がさらに広がります。
	そして、将来の方向性として、現在の相関構造制約を超える K 最近傍ベースの制約を実装することを検討しています。
	多くの場合、予測子は複数の分布によって生成され、その結果、予測子空間内でクラスタリングが行われます。K 最近傍ベースのアプローチにより、クラスター間の外挿を制御できるようになります。
	ご視聴いただきありがとうございます。さらにご質問がございましたら、こちらにメールをお送りいたします。
ジェレミー・アッシュ、JMP	君たちはまだそこにいるよ。
クリス・ゴットワルト	はい、そうです。
ローラ・ランカスター	ただ。

サミットのベスト起こるデータの視覚化統計とモデリングRe: JMP Pro 16 の予測プロファイラーでの外挿の制御 (2021-US-45MP-838)

@MC17この重要な質問をしていただいてうれしく思います。講演の中で少し触れましたが、おそらく十分に強調していませんでした。

 

それで、あなたが尋ねているのは、なぜ PCA/PLS モデルでよくあるように、DModX ではなく T2 だけを制御するのかということだと思います。これは、たとえば、MDMCC で行うことです ( https://www.jmp.com/support/help/en/16.1/index.shtml#page/jmp/model-driven-multivariate-control-charts.shtml ）。 同様のアプローチを取る場合は、おそらく DModX に管理限界を設定することになります。トレーニング データはすべて DModX > 0 になるためです。そのため、あまりにもおかしくなりすぎずに、予測がトレーニング データのやり方から逸脱できるようにするのがコツです。 。DModX = 0 にしたい場合は、Isaac Himanga のアプローチを取ることができます ( https://community.jmp.com/t5/Discovery-Summit-Americas-2021/Optimizing-Multivariate-Models-From-Data-Collection-to-Optimal/ta-p/398760 ）。

 

簡単に言うと、正則化 T2 は元の予測子変数に基づいて計算され、データをモデル コンポーネントとエラー コンポーネントに分割する必要がないということです。PCA/PLS モデルの場合、正則化により T2 と DModX の制御に似た制約が生じますが、1 つのメトリクスを使用して実行できるため、よりシンプルで解釈が容易になります。

 

PCA/PLS モデルでは、シナリオで説明されているように、T2 はモデル平面内のトレーニング データからの大きな偏差のある予測にフラグを立てますが、DModX はモデル平面からの大きな偏差のある予測にフラグを立てます。 これは、モデリング手法がデータの低次元線形投影を前提としている場合に理にかなっています。ただし、ほとんどのモデリング手法はそのような投影を実行しません。 さまざまな理由 (アンサンブルなど) から、プラットフォーム間で一貫したアプローチが必要です。 変数、カテゴリ変数などの間に非線形の関係がある場合、線形投影の実行は合理的ではない可能性があります。また、これらのモデルのコンポーネントの数はどのように選択しましたか? 評価の結果、線形投影がデータに適切に適合しない場合、エラーによって DModX 制御制限が増大し、外挿に対する保護が不十分になることがわかりました。 私たちは、より良い一般的なアプローチは、元の予測子空間に T2 を使用して外挿制約を配置することであることがわかりました。これにより、データの全方向での相関構造の違反が防止されます。

 

T2 の正則化は、外挿を制御するときに、相関性の高い変数に大きな重要性を置き、相関性の低い変数にはあまり重要性を置きません。p>n の場合に機能します。これにより、PCA モデルと PLS モデルの T2 と DModX に同様の制約が発生します。 添付のホワイトペーパーには、この方法がどのように機能するかを示すシミュレーション結果がいくつかあります。T2 および DModX アプローチとの比較を近日中に更新し、さらに議論を追加したいと考えています。私は、私たちの方法が機能すること、その論文はまだ進行中であることを示すことから始めました。

 

これには意味がありますか? さらに詳しく議論し、これに関するご意見やご懸念をお聞かせいただければ幸いです。

Re: JMP Pro 16 の予測プロファイラーでの外挿の制御 (2021-US-45MP-838)

なぜ厳密に Hotelling T2 値によって予測の整合性が保証されるのかという疑問があります。Hotelling T2 がモデルで使用したデータの設計空間を実際に定義していることに同意する必要があります。データ構造自体が正しい相関構造を持っているわけではありません。Hotelling T2 設計領域内に予測値があるにもかかわらず、値の予測に使用されるデータ構造が元のモデルのデータ構造と一致しない例をよく見かけます。したがって、この予測には非常に疑問があります。この簡単な例としては、入荷したオレンジに基づいてオレンジ ジュースを予測する単純なモデルが挙げられます。ただし、誰かが誤ってレモンをラインに配置した場合でも、モデルはオレンジ ジュースを予測します。ジュースの量は、おそらく依然としてホテリング T2 領域の範囲内にあるでしょう。しかし、私たちが手に入れているのはオレンジジュースではないことは誰もが知っています。データ構造が変更されました。そのため、PLS タイプのモデルでは、将来の最適化値が使用される元のモデル データ構造内に確実に収まるように、DmodX = 0 を維持する必要があります。

 

正則化された T2 が、モデル データ領域ではなく、使用されているモデル データ構造にどのように適合するかを説明していただければ、この新しいツールをより自信を持って使用できると思います。