JMP® Pro 16 の予測プロファイルにおける外挿の制御 (2021-EU-45MP-751) ローラ・ランカスター、SAS JMP主席研究統計学者開発者
ジェレミー・アッシュ、SAS、JMP Analytics ソフトウェア テスター
クリス・ゴットウォルト、SAS JMP 統計研究開発ディレクター
制御されていないモデル外挿は、2種類の重大なエラーにつながります。(1)データから遠く離れた場所ではモデルが完全に無効になる場合があり、(2)変数値の組み合わせが物理的に実現できない場合があります。プロファイラーを使用して観測データに適合するモデルを最適化すると、警告なしに実用的ではない外挿ソリューションが得られる可能性があります。JMP Pro 16では、多くの予測モデリングプラットフォームとプロファイラープラットフォーム自体に外挿制御が導入されています。予測プロファイラーのこの新しい機能は、ユーザーに外挿の可能性を警告するか、モデルが有効でない可能性がある外挿ポイントの描画を完全に回避します。さらに、ユーザーは外挿を回避する制約領域で最適化を実行できます。このプレゼンテーションでは、外挿制御の動機と有用性について説明し、JMPでどのように簡単に使用できるかを示し、私たちの方法の詳細について説明します。
自動生成されたトランスクリプト...
| スピーカー |
トランスクリプト |
| |
こんにちは、クリス・ゴットウォルトです。私の同僚は |
| |
プレゼンターのローラ・ランカスターと |
| |
ジェレミー・アッシュと私は |
| |
便利な新しいJMP Pro |
| |
外挿と呼ばれる機能 |
| |
コントロール。ほぼすべてのモデル |
| |
あなたが予測したいこと |
| |
さまざまな |
| |
適用範囲、地域 |
| |
入力スペースでは、 |
| |
予測は |
| |
十分に信頼できる。それ以外は |
| |
地域から推測し始める |
| |
モデルを遠く離れた点に |
| |
モデルに適合させるのに使用したデータ。 |
| |
そのモデルからの予測 |
| |
これらの点では、 |
| |
全く信頼できない |
| |
予測は2つあります |
| |
一次情報源 |
| 外挿 |
統計的 |
| |
外挿とドメインベース |
| |
外挿法。どちらのタイプも |
| |
新しい機能によってカバーされます。 |
| |
統計的な外挿が行われる |
| |
何かをしようとしているとき |
| |
xのモデルを使用して予測する |
| |
それは価値に近くない |
| |
そのモデルをトレーニングするために使用されます。 |
| |
ドメインベースの外挿 |
| |
評価しようとすると起こる |
| |
xは不可能なので |
| |
科学または工学 |
| |
ベースの制約。例 |
| |
ここでは両方の種類を示します |
| |
1 つの例における外挿。 |
| |
ここでは、プロファイラーの |
| |
冶金生産のモデル |
| |
プロセス。予測では |
| |
アウトは-2.96で、 |
| |
評価中であることを示す |
| |
温度の組み合わせで |
| |
そして不可能なプレッシャー |
| |
ドメインの意味で達成する |
| |
この機械。また、 |
| |
統計的な外挿として |
| |
適合に使用されたデータとはかけ離れている |
| |
散布図に見られるモデル |
| |
トレーニングデータのプロット |
| |
そうです。JMP Pro 16では、ジェレミーは |
| |
ローラと私は協力して |
| |
新しい機能を追加して |
| |
プロファイラーが警告を出す |
| |
あなたはそうかもしれないと思う |
| |
外挿する。あるいは、 |
| |
外挿制御をオンにすると、 |
| |
点の集合を制限する |
| |
あなたが見ているのは、 |
| |
それはそうではないと思う |
| |
外挿法です。2つのタイプがあります |
| |
外挿制御の1つは |
| |
レバレッジの概念に基づいて |
| |
最小二乗モデルを使用します。 |
| |
この最初のタイプは |
| |
プロ版で利用可能 |
| |
モデルの最小二乗法を当てはめる。 |
| |
他のタイプは一般型と呼ぶ |
| |
機械学習の外挿 |
| |
コントロールと利用可能 |
| |
プロファイラープラットフォームといくつかの |
| |
最も一般的な機械学習 |
| |
JMP Proのプラットフォーム。 |
| |
リクエストに応じて、 |
| |
さらに。最小二乗法 |
| |
外挿制御は、 |
| |
レバレッジの概念は |
| |
縮小版のような |
| |
予測分散。これはモデル |
| |
に基づいており、情報を使用しています |
| |
主な効果について |
| |
高次の相互作用 |
| |
決定するための条件 |
| |
外挿。一般的な |
| |
機械学習の外挿 |
| |
対照ケースでは、私たちは |
| |
独自のアプローチで |
| |
方法を望んでいた |
| |
欠損値に対して堅牢、線形 |
| |
依存関係、高速コンピューティング、 |
| |
混合したものを処理できる |
| |
連続入力とカテゴリ入力 |
| |
変数、そしてまた |
| |
明確に分離したかった |
| |
外挿モデルから |
| |
データを適合させるのに使用されたモデル。つまり |
| |
一般的な |
| |
外挿制御をオンにすると、 |
| |
監督されているのは1つだけです |
| |
モデルは... |
| |
応答への入力変数 |
| |
プロファイラーで見る |
| |
トレース。プロファイラーは |
| |
素早く汚い |
| |
記述するための教師なしモデル |
| |
トレーニングセットの軸と |
| |
教師なしモデルが使用される |
| |
舞台裏で |
| |
プロファイラーで |
| |
外挿制御 |
| |
制約。だから私は |
| |
パワーポイントと私の |
| |
カメラがうまく機能していない |
| |
今はなぜか。私たちは |
| |
危険な外挿を知る |
| |
毎日作られている |
| |
データサイエンスに携わる人々 |
| |
そして、その使用に自信がある |
| |
外挿は悪い結果につながる |
| |
予測と最終的には |
| |
ビジネス成果が悪くなる。 |
| |
外挿制御場所 |
| |
モデル予測のガードレール |
| |
そして定量的に |
| |
JMP Proによるより良い意思決定 |
| |
ユーザー。ユーザーが外挿を見るとき |
| |
発生した場合、ユーザーは |
| |
かどうかの決定 |
| |
予測を使用するべきかどうか |
| |
ドメインに基づいて使用される |
| |
知識と精通 |
| |
目の前の問題。もしあなたが |
| |
外挿を見始める |
| |
制御警告はかなり起こる |
| |
多くの場合、それは |
| |
そのモデルのライフサイクル |
| |
新しいデータに合わせて再調整する時間 |
| |
の分布は |
| |
入力は |
| |
訓練データのそれです。 |
| |
正直かなり驚いています |
| |
の必要性に懸念を抱いている |
| |
外挿を特定することは |
| |
データによってより良く理解される |
| |
科学界と |
| |
外挿を制御する |
| |
できるだけ簡単かつ自動化します。 |
| |
JMPでこれを開発したローラ |
| |
プロがデモンストレーションを行います |
| |
次のオプションです。そしてジェレミーは |
| |
私たちは多くの研究をしました |
| |
チームは数学に入ります |
| |
詳細と統計 |
| |
アプローチの動機。 |
| |
こんにちは、私の名前はローラです |
| |
ランカスターと私はここに来て |
| |
外挿のデモ |
| |
JMPに追加されたコントロール |
| |
プロ16。私は始めようと思った |
| |
かなり単純な例で |
| |
適合モデルを最小値で使用 |
| |
正方形のプラットフォーム。私は |
| |
いくつかのデータを使用する |
| |
おなじみのフィットネスデータです |
| |
これはサンプルデータです |
| |
酸素摂取量を使用する |
| |
私の応答と実行時間、実行 |
| |
パルスとマックスパルスを私の |
| |
予測因子です。そして私は |
| |
適合モデルでは、 |
| |
最小二乗法で近似する |
| |
外挿指標は |
| |
使われるのはレバレッジです。それでは始めましょう |
| |
先に進んでJMPを始めましょう。 |
| |
これでフィットネスデータが手に入りました |
| |
JMPで開くとスクリプトがあります |
| |
データテーブルに保存して |
| |
フィットを自動的に起動する |
| |
最小二乗モデルです。 |
| |
実行してみましょう |
| |
スクリプトでは、少なくとも |
| |
正方形のプラットフォーム。そして私は |
| |
プロファイラーが自動的に開きます。そして |
| |
プロファイラーが |
| |
いつものように |
| |
過去、因子の境界 |
| |
それぞれの範囲によって定義されます |
| |
因子ごとに、 |
| |
長方形境界制約。 |
| |
そして係数を変えると |
| |
設定は、これらの制限のため |
| |
制約があると、本当に |
| |
動いているかどうかは分かりにくい |
| |
相関関係から大きく外れた |
| |
データの構造。 |
| |
これが私たちが追加したかった理由です |
| |
外挿制御。つまり |
| |
これはいくつかの |
| |
JMP Proのプラットフォーム |
| |
16（最小二乗近似を含む）。 |
| |
そして外挿に至っては |
| |
コントロールの下にあるメニューに移動します |
| |
プロファイラーメニューです。 |
| |
ここに新しいオプションがあります |
| |
外挿制御と呼ばれます。 |
| |
デフォルトではオフに設定されています。 |
| |
でもどちらにでもできます |
| |
オンまたは警告をオンにしてオンにする |
| |
外挿制御。もし私が |
| |
オンにすると、 |
| |
私のプロフィールが制限される |
| |
値のみに移動するトレース |
| |
ここでは推測はしていません。 |
| |
警告に変えれば |
| |
オンにすると、完全なプロフィールが表示されます |
| |
痕跡は残るが、 |
| |
地域に行くときに警告する |
| |
それが考慮される場所 |
| |
外挿である。 |
| |
外挿をオンにすることもできます |
| |
細部までこだわって、 |
| |
役に立つし、それが私にとって |
| |
もっとたくさんの情報があります。まず |
| |
結局のところ、それは私の |
| |
私が使用している指標 |
| |
外挿を定義すると |
| |
レバレッジは、 |
| |
最小二乗プラットフォームに適合します。 |
| |
そして、その閾値は |
| |
最初にデフォルトで使用されるのは |
| |
最大の影響力を発揮するだろう |
| |
しかし、これは私ができることです |
| |
変化すれば、それをお見せします |
| |
1分後に。また、 |
| |
私の外挿指標は |
| |
現在の設定です。 |
| |
ここにこの番号があります |
| |
私が変わればそれは変わる |
| |
私の要素設定。 |
| |
この数字が大きい場合はいつでも |
| |
閾値を超えたら、 |
| |
この警告を受けると、私は |
| |
外挿して、下回ったら |
| |
もうそれは得られない |
| |
警告。このしきい値は |
| |
私が変わらなければ変わることはない |
| |
メニューで調整するもの |
| |
私の限界です。それでは先に進みましょう |
| |
今すぐそれをやろう。だから私は |
| |
メニューへ |
| |
そして私はセットに行くつもりです |
| |
閾値基準。つまり |
| |
最小二乗近似では、2つの |
| |
しきい値のオプション |
| |
最初は最大に設定されています |
| |
レバレッジを維持することで |
| |
あなたは凸包の中にいる |
| |
データ、または |
| |
乗数×平均 |
| |
レバレッジまたはモデル用語 |
| |
観察です。そして私は |
| |
その閾値に切り替えます。つまり |
| |
乗数を3に設定 |
| |
デフォルトではこうなります |
| |
平均レバレッジの3倍 |
| |
そしてOKをクリックすると |
| |
私の基準は変わります。 |
| |
実際に小さくなったので、 |
| |
より保守的である |
| |
外挿の定義。 |
| |
そして、私はそれを元に戻します |
| |
プロフィールの痕跡を制限するにはオンにします。 |
| |
そして今、私が行けるのは |
| |
私が3以内の地域 |
| |
平均レバレッジの倍数。 |
| |
今では、 |
| |
実装された最適化 |
| |
に従う |
| |
外挿 |
| |
制約です。それで今私が |
| |
望ましさを設定する |
| |
そして最適化を行います |
| |
最適な値が得られるので |
| |
外挿を満たす |
| |
制約。この |
| |
メトリックは以下です |
| |
閾値です。だから今私が行くとき |
| |
次のスライドでは |
| |
グラフ、散布図で比較する |
| |
マトリックスの違い |
| |
最適値と |
| |
外挿制御がオン |
| |
そしてそれをオフにします。 |
| |
これが散布図です |
| |
JMPで作成したマトリックス |
| |
そしてそれはオリジナルを示す |
| |
予測変数データも同様 |
| |
予測変数値として |
| |
最適なソリューションを得るために |
| |
外挿制御なし、 |
| |
青、そして最適解は |
| |
外挿制御は赤色で表示されます。 |
| |
そして、制約のない |
| |
解決策は青色で示します。 |
| |
ここに違反しているのは |
| |
相関構造 |
| |
実行パルスの元データと |
| |
最大脈拍数を増加させ、 |
| |
この予測の不確実性。 |
| |
一方、最適な解決策は |
| |
外挿法を使った |
| |
コントロールはより正確になりました |
| |
元のデータを使用します。 |
| |
それでは例を見てみましょう |
| |
より一般化された |
| |
外挿制御法、 |
| |
これを私たちは |
| |
正規化T二乗法。 |
| |
クリスが先ほど言ったように、私たちは |
| |
モデル用にこの方法を開発した |
| |
最小二乗モデル以外。 |
| |
そこで、 |
| |
糖尿病の神経モデル |
| |
サンプルにも含まれるデータ |
| |
データ。レスポンスは尺度です |
| |
病気の進行と |
| |
予測因子はベースラインである |
| |
変数。もう一度言うと、 |
| |
外挿メトリックは |
| |
この例は |
| |
正規化されたTスクエア |
| |
ジェレミーは次のように説明する。 |
| |
詳細は数分後にお伝えします。 |
| |
糖尿病のデータを開いたら |
| |
JMPとスクリプトを保存しています |
| |
私のニューラルモデルの適合性について。私は |
| |
実行してみましょう |
| |
スクリプト。ニューラルネットワークを起動します |
| |
プラットフォームで、私が |
| |
検証方法、ランダム |
| |
控えてください。ただメモしておきたかっただけです |
| |
いつでも |
| |
検証方法、 |
| |
外挿制御は |
| |
トレーニングデータのみ |
| |
あなたの承認ではなく |
| |
またはテストデータ。 |
| |
プロファイラーを開いて |
| |
使用していることがわかります |
| |
完全なトレース。外挿 |
| |
コントロールがオンになっていません。 |
| |
さあ、電源を入れてください。 |
| |
そして私はまた |
| |
詳細をオンにします。 |
| |
痕跡が残っているのがわかります |
| |
制限されており、メトリック |
| |
は正規化されたTスクエアです。 |
| |
閾値は3倍 |
| |
標本の標準偏差 |
| |
正規化されたTの2乗。ジェレミーは |
| |
これからもっと話します |
| |
つまり、ほんの数秒で |
| |
数分。そして私はただ |
| |
使用する際に言及する |
| |
正規化されたTの2乗 |
| |
方法は一つだけ |
| |
閾値については、 |
| |
乗数を調整します。 |
| |
外挿制御に移動し、設定 |
| |
しきい値を調整できます |
| |
乗数ですが、私は |
| |
3のままにしておきます。そして今私は |
| |
最適化を実行したい |
| |
外挿制御。だから私は |
| |
最大限に活用して |
| |
覚えておいてください。今私は |
| |
最適なソリューション |
| |
外挿制御がオン |
| |
それで今私は見たいのです |
| |
散布図マトリックスでは、 |
| |
先ほど見たように |
| |
元のデータだけでなく |
| |
最適値と |
| |
そして外挿なしで |
| |
コントロール。 |
| |
これは散布図マトリックスです |
| |
私が糖尿病のデータを |
| |
JMPで作成されました。 |
| |
元の予測値として |
| |
最適な解決策 |
| |
外挿制御を使用して |
| |
赤、そして最適な解決策なし |
| |
外挿制御は青色です。 |
| |
そして、赤い |
| |
ドットははるかに多く見える |
| |
相関構造内 |
| |
元のデータよりも |
| |
青、特に |
| |
このLDLを見ると真実である |
| |
総コレステロールと比較。 |
| |
それでは例を見てみましょう |
| |
プロファイラーを使用して |
| |
グラフメニュー、これを |
| |
グラフプロファイラ。また、 |
| |
正規化T二乗法 |
| |
そしてそれは私たちが使うことを可能にします |
| |
任意の外挿制御 |
| |
モデルの種類 |
| |
JSLとして作成され保存される |
| |
式です。また、 |
| |
外挿制御をオンにする |
| |
一度に複数のモデル。 |
| |
それでは例を見てみましょう |
| |
粉末を使用する会社 |
| |
冶金技術を |
| |
スチール製ドライブシャフトを製造 |
| |
自動車産業。 |
| |
彼らは見つけられるようにしたいのです |
| |
最適な設定 |
| |
生産を最小限に抑える |
| |
収縮も最小限に抑えます... |
| |
不良による失敗を最小限に抑える |
| |
サービス条件。 |
| 二 |
応答の縮小（これは |
| |
継続的であり、私たちは |
| |
最小二乗モデルを当てはめる |
| |
（それ）と表面状態（ |
| |
合格/不合格で、 |
| |
名目ロジスティックモデルを当てはめる |
| |
そして私たちの予測子 |
| |
変数は単なるキーです |
| |
生産におけるプロセス変数。 |
| |
そしてもう一度外挿すると |
| |
メトリックは正規化された T 平方です。 |
| |
だから私は粉を持っている |
| |
JMPで冶金データを開く |
| |
そして私はすでに少なくとも |
| |
私の収縮のための正方形モデル |
| |
応答、そして私はすでに |
| |
名目ロジスティックモデル |
| |
表面状態の合格/不合格 |
| |
応答し、保存しました |
| |
データへの予測式 |
| |
テーブルを用意して |
| |
グラフプロファイラーで使用されます。 |
| |
グラフメニューに行くと |
| |
プロファイラーをロードすると、 |
| |
収縮予測式 |
| |
そして私の予測式は |
| |
表面の状態。 |
| |
[OK]をクリックします。これで |
| |
私のモデルは両方とも |
| |
グラフプロファイラー。 |
| |
そして電源を入れる前に |
| |
外挿制御、あなた |
| |
私は完全な |
| |
プロファイルのトレース。電源を入れると |
| |
外挿制御 |
| |
痕跡が見えるでしょう |
| |
少し縮んで、私も |
| |
詳細を表示するには、 |
| |
私が本当にそうであることを示すために |
| |
正規化されたTスクエアを使用する |
| |
ここではこの方法で。 |
| |
だから私が本当にやりたいのは |
| |
最適なものを見つけたい |
| |
私が最小限に抑える条件 |
| |
収縮を最小限に抑える |
| |
外挿による失敗 |
| |
コントロールし、確認したい |
| |
推測しているわけではありません。 |
| |
役に立つ解決策を見つける。そして |
| |
最適化を行う前に |
| |
実際に設定する必要がある |
| |
望ましさ。だから私は |
| |
望ましい条件を設定する。すでに |
| |
収縮率を補正しますが、 |
| |
サービスのために設定する必要がある |
| |
状態。最大限に活用しようと努力します |
| |
合格率を高め、失敗を最小限に抑えます。 |
| |
K. |
| |
そして今、私はできるはずだ |
| |
最適化 |
| |
外挿コントロールをオンにします。 |
| |
最大限に活用して覚えておいてください。 |
| |
そして今、私は最適な |
| |
外挿による解 |
| |
コントロールをオンにします。それでは |
| |
再び |
| |
散布図マトリックス |
| |
元のデータと |
| |
外挿による解 |
| |
ソリューションの制御、 |
| |
外挿制御付き |
| |
オフ。 |
| |
これは散布図マトリックスです |
| |
粉末冶金データの |
| |
JMPで作成したものです。そしてそれは |
| |
最適な解決策も持っている |
| |
外挿制御を |
| |
赤い点と最適な |
| |
外挿なしの解 |
| |
コントロールは青い点として表示されます。 |
| |
もう一度見てみると、 |
| |
外挿を施行しない |
| |
制御、最適な解決策 |
| |
かなり外側にある |
| |
相関構造 |
| |
データ。特に |
| |
ここでは比率と |
| |
圧縮圧力。 |
| |
だから今、私は引き継ぎたい |
| |
ジェレミーへのプレゼンテーション |
| |
もっと詳しく |
| |
私たちの方法の詳細。 |
| |
こんにちは、ここにいくつかあります |
| |
外挿制御の目標 |
| |
私たちがレイアウトした |
| |
プロジェクトの始まりです。私たちは |
| |
外挿指標が必要だった |
| |
すぐに計算できる |
| |
多数の |
| |
観察と変数、そして |
| |
迅速に評価する方法が必要でした |
| |
指標が示すかどうか |
| |
外挿かどうか。これは |
| |
インタラクティブ性を維持するために |
| |
プロファイラーのトレースと |
| |
私たちはこれを必要としていました |
| |
最適化を実行します。 |
| |
私たちは、 |
| |
さまざまな変数をサポートする |
| |
利用可能なタイプ |
| |
プロファイラー。これらは |
| |
本質的に連続的、 |
| |
カテゴリカルと順序カル。 |
| |
私たちは活用したいと考えました |
| |
欠損セルの観測、 |
| |
いくつかのモデリング手法では |
| |
これらの観察が含まれます |
| |
で ？？？。 |
| |
私たちが求めていたのは、 |
| |
線形依存性に対して堅牢 |
| |
データ。これは、 |
| |
変数の数が多い |
| |
観測数よりも |
| |
例えば、私たちは |
| |
簡単にできたもの |
| |
自動化を必要とせずに |
| |
多くのユーザー入力。 |
| |
最小二乗モデルの場合、 |
| |
レバレッジに着地した、それは |
| |
外れ値を特定するためによく使用される |
| |
線形モデルでは、レバレッジは |
| |
新しい予測ポイントは |
| |
これに従って計算すると |
| |
式。たくさんある |
| |
レバレッジのための解釈。 |
| |
一つの解釈は、 |
| |
多変量距離 |
| |
中心からの予測点 |
| |
トレーニングデータの。もう一つの |
| |
解釈としては、それは |
| |
スケール予測分散。つまり |
| |
予測点が移動するにつれて |
| |
中心から離れた |
| |
データの不確実性 |
| |
予測が高まります。そして私たちは |
| |
2つの一般的な閾値を使用する |
| |
統計文献 |
| |
この距離を決定する |
| |
大きすぎる。まず |
| |
最大レバレッジ、予測 |
| |
この閾値を超えるポイント |
| |
または凸包の外側 |
| |
トレーニングデータ。 |
| |
2番目は3倍 |
| |
レバレッジの平均。それは |
| |
これは |
| |
3倍に相当する |
| |
分割されたモデル項の数 |
| |
観測回数によって。 |
| |
そしてローラが説明したように |
| |
以前、 |
| |
これらの乗数 |
| |
しきい値。 |
| |
最後に、望ましさが |
| |
最適化されているので、 |
| |
外挿制約は |
| |
非線形制約、および |
| |
以前はプロファイラーは |
| |
制約付き最適化 |
| |
線形制約。このタイプの |
| |
最適化はより |
| |
挑戦的なのでローラは実装しました |
| |
遺伝的アルゴリズムです。そしてもしあなたが |
| |
これらに馴染みがない、 |
| |
遺伝的アルゴリズムは |
| |
分子の原理 |
| |
最適化のための進化 |
| |
複雑なコスト関数。 |
| |
次に、 |
| |
一般化するために使用したアプローチ |
| |
モデルへの外挿制御 |
| |
線形モデル以外。 |
| |
予測を構築している |
| |
JMPのモデルでは、 |
| |
予測変数のセットと |
| |
応答変数のセット。いくつかの |
| |
教師ありモデルが訓練され、 |
| |
プロファイラーを使えば |
| |
モデルの表面を視覚化します。 |
| |
さまざまなバリエーションがあります |
| |
JMPのプロファイラで |
| |
プロファイラを内部的に使用する |
| |
モデリングプラットフォーム。 |
| |
出力予測式と |
| |
複数のプロファイラーを構築する |
| |
モデルです。ローラが示したように、 |
| |
プロファイラーを構築できます |
| |
アンサンブルモデル。 |
| |
外挿制御法 |
| |
これらすべてを一般化する |
| |
シナリオなので、 |
| |
私たちの方法を |
| |
特定のモデルについては |
| |
監督なしの |
| |
アプローチ。 |
| |
そして、私たちはフラグを立てるだけです |
| |
予測ポイントとして |
| |
遠い場合は外挿 |
| |
データが存在する場所の外側 |
| |
予測因子に集中している |
| |
スペースです。これにより、 |
| |
一貫している |
| |
プロファイラーで |
| |
外挿制御法 |
| |
どのプロファイラーにも接続できます。 |
| |
多変量距離 |
| |
レバレッジの解釈 |
| |
ホテリングのT2乗は |
| |
一般向けの距離 |
| |
外挿制御。実際、 |
| |
代数的な操作によって |
| |
ホテリングのT2乗が |
| |
レバレッジがシフトしただけで |
| |
スケール。この図は |
| |
ホテリングのT2乗尺度 |
| |
観測を楕円にする |
| |
楕円が描かれている場所 |
| |
平均を中心とした |
| |
データと形状が定義される |
| |
共分散行列によって。 |
| |
もう私たちは |
| |
線形モデルでは、この指標は |
| |
同じではない |
| |
予測との関連 |
| |
差異。 |
| |
使用される閾値に依存する |
| |
線形モデルに戻ると、 |
| |
いくつか作るつもり |
| |
分配の仮定 |
| |
Tの2乗を決定する |
| |
予測ポイントは |
| |
外挿として考慮される。 |
| |
ここで私は次の式を示します |
| |
ホテリングのT2乗。平均と |
| |
共分散行列が推定される |
| |
トレーニングデータを使用して |
| |
モデル。PがNより小さい場合、 |
| |
ここでPは |
| |
予測変数、Nは数 |
| |
観察の結果と、 |
| |
多変量予測因子 |
| |
正規分布の場合、Tの2乗 |
| |
中毒ポイントはFです |
| |
配布。しかし、私たちは |
| |
一般化する方法 |
| |
複雑なデータを含むデータセット |
| |
連続的な混合のようなタイプ |
| |
およびカテゴリデータセット（P |
| |
Nより大きいデータセットの場合、 |
| |
欠損値。そのため、 |
| |
分布を計算する |
| |
それぞれのケースを分析的に見ると、 |
| |
シンプルな保守的な |
| |
私たちが見つけた管理限界 |
| |
実際にうまく機能します。これは |
| |
3シグマ管理限界 |
| |
経験分布を使用する |
| |
訓練からのTの2乗 |
| |
データと、ローラが言ったように、 |
| |
この乗数を調整することもできます。 |
| |
一つの複雑な点は、P |
| |
Nより大きい、ホテリングのT |
| |
2乗は定義されていません。 |
| |
パラメータが多すぎる |
| |
推定する共分散行列 |
| |
利用可能なデータと |
| |
これは通常の使用ではよく起こる |
| |
外挿制御のケース |
| |
部分最小二乗法のように。 |
| |
そこで私たちは小説を書くことにしました |
| |
HotellingのTを計算するアプローチ |
| |
これらを扱う |
| |
ケース、そして私たちはそれを |
| |
正規化されたTの2乗。 |
| |
共分散を計算するには |
| |
正規化された行列を使用する |
| |
推定値元々 |
| |
シェーファーによって開発され、 |
| |
高い場所でも使える刈払機 |
| |
次元ゲノミクスデータ。 |
| |
それは単なる重み付けです |
| |
完全な組み合わせ |
| |
標本共分散行列、 |
| |
ここではUであり、 |
| |
制約ターゲット行列 |
| |
それはDです。 |
| |
ラムダ重量について |
| |
パラメータ、Schafer および Strimmer |
| |
分析的に導き出した |
| |
最小限に抑える表現 |
| |
MSE、推定値 |
| |
漸近的に。 |
| |
シェーファーとストリマーは提案した |
| |
いくつかの可能性のあるターゲット |
| |
行列。ターゲット行列は |
| |
選択したのは対角行列で、 |
| |
標本分散は |
| |
予測変数 |
| |
対角線。このターゲットマトリックスは |
| |
多くの利点 |
| |
外挿制御。まず、 |
| |
相関関係があるとは考えない |
| |
変数間の構造 |
| |
データを見る前に、 |
| |
一般的な事前分布としてうまく機能します。 |
| |
また、データが少ない場合 |
| |
共分散を推定する |
| |
行列Nが小さいか、 |
| |
大きな部分が欠落しており、 |
| |
楕円制約は |
| |
大きな重量によって拡大 |
| |
対角行列、そしてこれは |
| |
より保守的な結果となる |
| |
外挿制御のテスト。 |
| |
これは、 |
| |
合理的な制御を獲得する |
| |
偽陽性率。これを |
| |
もっと簡単に言えば、 |
| |
限られたトレーニングデータ、 |
| |
正規化されたTの2乗は小さい |
| |
予測を次のように分類する可能性が高い |
| |
外挿、つまり |
| |
欲しいのは、あなたがもっと |
| |
共分散を観察する可能性が高い |
| |
偶然です。私たちはいくつか持っています |
| |
シミュレーション結果 |
| |
これらの詳細を示すと、 |
| |
でも行く時間がない |
| |
それらすべてに。代わりに |
| |
コミュニティウェブページでは、 |
| |
アーカイブに関する論文へのリンク |
| |
これを提出する予定です |
| |
計算ジャーナル |
| |
グラフィカル統計。 |
| |
次のスライドでは、他の |
| |
必要な重要な詳細 |
| |
検討する。 |
| |
カテゴリカルな問題に対処する方法 |
| |
変数です。私たちはただ |
| |
それを指標に変換する |
| |
コード化されたダミー変数。これは |
| |
倍数に匹敵する |
| |
対応分析。もう一つの |
| |
複雑なのは計算方法だ |
| |
ホテリングのT2乗は |
| |
データが欠落しています。いくつかの |
| |
JMP予測モデリング |
| |
プラットフォームは観測結果を使用して |
| |
訓練するための欠落データ |
| |
モデル。これにはナイーブ |
| |
ベイズとブートストラップフォレスト。そして |
| |
これらの式は |
| |
ペアワイズ削除法 |
| |
共分散を推定するために使用される |
| |
マトリックス。より一般的には |
| |
行単位の削除。これは |
| |
欠損値のあるすべての観測値 |
| |
値は削除される前に |
| |
共分散行列を計算します。 |
| |
これは最も単純な方法ですが、 |
| |
有用なものを捨ててしまうことになる |
| |
データのサンプルサイズが |
| |
トレーニングデータは小さい。 |
| |
ペアワイズ削除観察 |
| |
削除されるのは |
| |
ペアの欠損値 |
| |
計算に使用される変数 |
| |
対応するエントリとそれは |
| |
これらの数式が何を示しているか。 |
| |
簡単なことのように思えます。 |
| |
全てのデータを使用しているだけです |
| |
それは利用可能ですが、 |
| |
実際には多くの |
| |
問題があるので |
| |
異なる観察が |
| |
各エントリを計算します。これにより |
| |
奇妙なことが起こる、 |
| |
共分散行列のような |
| |
負の固有値、つまり |
| |
私たちが対処しなければならなかったこと。 |
| |
次のような利点があります |
| |
正規化されたTの2乗は |
| |
他のものと比較したときに発見した |
| |
評価方法の一つ |
| |
正規化とは |
| |
正規化の仕組み |
| |
通常は動作します。 |
| |
過剰適合とのバランス |
| |
トレーニングデータと過剰バイアス |
| |
推定値。これにより、 |
| |
ノイズに対してより堅牢な推定値 |
| |
およびモデルの誤指定。 |
| |
次に、シェーファーとストリマー |
| |
彼らの論文では、 |
| |
正規化の結果、 |
| |
より正確な推定値 |
| |
高次元の設定。 |
| |
これは筆記体に役立ちます |
| |
悩ませる次元性 |
| |
ほとんどの距離ベースの方法 |
| |
外挿制御用。 |
| |
そして、 |
| |
方法論を開発した |
| |
外挿制御、 |
| |
多くの場合、高い |
| |
次元データと高度に |
| |
相関予測因子。 |
| |
ケモインフォマティクスの例と |
| |
ケモメトリクス、化学 |
| |
機能はしばしば非常に |
| |
相関関係がある。外挿制御 |
| |
組み合わせて使用されることが多い |
| |
PCAとPLSモデルでは、 |
| |
T平方DModXは、 |
| |
相関関係の違反を検出する |
| |
構造。これは |
| |
モデル駆動で何をするか |
| |
多変量管理図。 |
| |
これは一般的な使用例なので、 |
| |
私たちは選択肢を持ちたかった |
| |
あまり逸脱しなかった |
| |
これらの方法。正規化されたT |
| |
squaredは同じタイプを提供します |
| |
外挿制御の、しかしそれは |
| |
投影ステップを必要としない |
| |
これにはいくつかの利点があります。 |
| |
これにより、 |
| |
他のタイプをより一般化した |
| |
予測モデルの。また、 |
| |
私たちの評価では、 |
| |
線形投影が |
| |
あなたのデータにうまく適合する例 |
| |
非線形関係がある |
| |
予測変数間の誤差 |
| |
管理限界を膨らませることができる |
| |
投影ベースの方法、 |
| |
それは貧困につながる |
| |
に対する保護 |
| |
外挿と私たちのアプローチ |
| |
これよりも堅牢です。 |
| |
そしてもう一つ重要な点は |
| |
私たちが見つけたのは |
| |
単一の外挿メトリック |
| |
使い方がずっと簡単で、 |
| |
解釈する。 |
| |
以下は簡単な要約です |
| |
外挿の特徴 |
| |
制御。この方法は、より良い |
| |
実現可能性の視覚化 |
| |
高次元の領域 |
| |
プロファイラー内のモデル。 |
| |
新しい遺伝的アルゴリズムは |
| |
柔軟な実装 |
| |
制約付き最適化。 |
| |
正規化されたT2乗 |
| |
乱雑な観察を扱う |
| |
データ、Pが大きい場合のようなケース |
| |
Nよりも連続的で |
| |
カテゴリ変数。 |
| |
この方法はほとんどの |
| |
JMPの予測モデルの |
| |
16 Proと多くの |
| |
彼らの特異性。また |
| |
プロファイラーで利用可能 |
| |
グラフは、 |
| |
操作できるので便利です |
| |
あらゆる予測式に基づいて。 |
| |
そして今後の方向性としては |
| |
導入を検討しています |
| |
K近傍法に基づく |
| |
制約を超える |
| |
現在の相関関係 |
| |
構造上の制約。多くの場合 |
| |
予測子は以下によって生成される |
| |
複数の分布の結果 |
| |
予測子のクラスタリングにおいて |
| |
空間。そしてK近傍 |
| |
ベースのアプローチにより、 |
| |
外挿を制御する |
| |
クラスター間。 |
| |
皆さんに感謝します |
| |
これを見て |
| |
メールアドレスはこちらです |
| |
他にご質問がございましたら。 |
高度な統計モデリング基本的なデータ分析とモデリング消費者および市場調査データの探索と可視化実験計画法予測モデリングと機械学習品質およびプロセスエンジニアリング信頼性分析
