最近では統計的に言えば機械学習と人工知能の謎を解き明かす、著名な作家、統計学者、教育者であるDavid Handの開会プレナリーは、専門家のパネリストであるキャメロンウィルデン、WLの統計学者との非常に興味深い議論の舞台となりました。 ゴア; WildstatsConsultingの創設者であるSamGardner氏。 JMPのシニアシステムエンジニアであるJasonWiggins氏。
の中に前の投稿、パネリストは、ライブストリームイベント中に受けた専門知識とトレーニングに関する質問に回答しました。この投稿では、データとモデリングに関する質問についての考えを共有しています。最初の質問は、DavidHandの最新の本の名前であるダークデータについて適切に質問されます。ダークデータ：なぜあなたが知らないことが重要なのか（強くお勧めします）。
暗いデータの反対は明るいデータです。 それは珍しいことではありませんか？
サム：多くの場合、組織のデータサイエンスの旅の初期段階で、彼らは多くの暗いデータの問題を抱えていることに気づきます。解決すべき主な問題は、適切なデータを取得する方法です。 問題を本当に解決したい、そして問題をうまく解決したい組織は、「明るく」優れたデータを生成および収集できるアプローチ、戦略、およびシステムを備えています。
JMPは、サポートベクターマシンやGenRegなど、不足しているデータのみに「適合」できますか？ どういうわけか、欠測データの構造を既存のデータと一緒に使用して、それを適合させるために–逆適合のようなものですか？これは「有益な欠落」とは異なります。
ジェイソン：欠測値の探索ユーティリティで多変量SVD代入と自動データ代入をチェックし、これらが期待どおりに機能するかどうかを確認します。
サム： JMPとJMPプロデータの相関構造に基づく多重代入を行うことができます。のオンラインヘルプを参照してください欠測データの代入そして欠落している値を調べる。
相互に排他的ではないマルチラベルデータに取り組むために、どのような機械学習モデルを使用できますか？
キャメロン：私があなたを正しく理解していれば、複数の回答をするだけでそれを達成できます。たとえば、モデルは、誰かを老若男女に分類し、男性と女性に別々に分類するために処理および画像化する場合があります。
プロセスデータの変動性が高いプロセス出力の予測モデリングにアプローチするための最良の方法は何ですか？
キャメロン：高い変動性を克服する最良の方法は、大量のデータを使用することです。たとえば、平均の標準誤差は、分母にサンプルサイズの平方根があります。
ジェイソン：プロセス変動の原因を特定します。それらからのデータの継続的な測定と収集に投資します。 プロセスで測定される重要なプロセス入力はいくつですか？ 出力の変動を適切に説明するのに十分ですか？ 私はこのような問題を理解することを目的としたプロジェクトに参加し、主導してきました。トリッキーかもしれませんが、必要です。モデリングは魔法ではありません。 成功するには良い情報が必要です。 難解なモデルに飛び込む前に、まずここに投資します。
報酬をより早く得るために（お金を節約するために）小さなデータセットで新しいモデルをトレーニングしたい場合、これを行うためのいくつかの良い実用的なヒントは何ですか？完璧ではないモデルを使用する場合でも、それは「十分だ」
キャメロン：ディープラーニングの領域では、転移学習はより少ないリソースでより多くのことを行う方法を提供します。計画実験は、冗長な情報の量を最小限に抑えるようにポイントを計画するため、データポイントごとの関係に関する詳細情報を取得するもう1つの方法です。つまり、一般に、因子間の相関はほとんどないため、分散インフレーション因子は1に等しいか非常に近くなります。
ジェイソン：過剰適合を回避するために、より小さなデータセットでモデルをトレーニングする場合は、「1つを除外する」やk分割交差検定などの戦略が役立つ場合があります。私は、両方の交差検定戦略を使用して、小さなデータセットでペナルティ付き回帰モデルを使用して成功しました。モデルを作成するとき、実際と予測をどのくらいの頻度でチェックインしますか？ 予測がビジネス上の意思決定に適している場合、モデルは「十分に優れている」可能性があります。
あなたの経験では、問題を解決するために継続的/反復的な学習モデルとオフライン/ 1回限りのモデルを適用する必要がある時間の割合はどれくらいですか？それぞれの長所と短所は何ですか？
キャメロン：これは、アプリケーションの分野によって大きく異なります。 先行指標に基づいて製品の需要をモデル化している場合、それらの関係が時間の経過とともに進化することを絶対に期待する必要があります。 私の生産モデルを時間の経過とともに進化させ、適応させることは非常に有利です。 一連の物理的特性に基づいてマシン出力をモデル化している場合、関係はおそらく時間の経過とともに安定したままであり、オンライン学習についてそれほど心配する必要はありません。 例外は、より多くのデータが入ってくるにつれて、モデルのパラメーター推定値を時間の経過とともにより正確にしたい場合です。
プロセスを調査/監視するためにそこにいない場合、問題の原因を見逃す可能性があります。また、COVIDはこれを複雑にします。 研究者/問題解決者/データサイエンティストとして、データを収集するために「そこに」いることができない場合、私たちは何をしますか？
キャメロン：良い質問です。私が本当に言えるのは、データを収集した人々をデータの分析にどのように関与させるかを理解することだけです。 分析のバックグラウンドがなくても、グラフィック分析を十分に理解してディスカッションに参加し、直接の経験から洞察を引き出してディスカッションと解釈に貢献できる可能性があります。
ジェイソン：これは難しいです！プロセスを確認するために使用できる仮想ツールはありますか？ プロセスを実行しているのは誰ですか？ データで発生する問題を説明できるプロセスについて観察するようにトレーニングできますか？仮想プロセスウォークを実行できますか？
データが豊富であると、データが偏っていないという誤ったセキュリティにつながる可能性があります。新しい反事実データが到着している間に、偏ったデータを大量に使用することの緩和手順は何ですか？
サム：モデルをテストします。開発したモデルがまだ適切に予測されているかどうかを常に確認してください。モデルの「サポート」（モデルの構築に使用される予測変数の範囲）が十分に理解されていることを確認し、モデルを使用する新しい状況がその「サポート」範囲外で予測しているかどうかを確認します。十分な数の新しいデータを収集したら、モデルを再トレーニングできるため、古いモデルと新しいモデルを比較して、類似した予測または異なる予測を行っているかどうかを確認する必要があります。
AI / MLモデルで作業するには、どのタイプのコンピューター/マシンが必要ですか？ 十分なRAMを搭載したラップトップで実行できますか？
キャメロン：それは本当にあなたがしていることに依存します。 すべてのMLが、数百万のパラメーターを含む巨大なデータセットとモデルで実行されるわけではありません。 スマートフォンには、多くのAI / MLを実行するのに十分な処理能力があると思われます。 サイズが数十ギガバイトのデータセットで作業を開始すると、データをバッチで処理している場合でも、PCで実行できることの制限に直面する可能性があります。 画像やビデオを使ってディープラーニングを行う場合は、並列コンピューティングとGPUコンピューティングが非常に重要になります。その時点で、おそらく組織内で共有コンピューティングリソースを使用しているか、クラウドベースのサービスを使用しています。 Google Colaboratoryは、ディープラーニングのためにGPUコンピューティングにアクセスするための無料で簡単な方法です。そのサービスのGPUコンピューティングパワーの上位層へのアクセスに対しても料金を支払うことができます。
ジェイソン：どのタイプのMLモデルを使用したいですか？どのくらいのデータがありますか？ 私が行ったモデリング演習の多くは、ラップトップワークステーション（クアッドコアプロセッサ、32 GB RAMなど）で行われました。 私が使用した欠陥検出プロジェクトに取り組みました畳み込みニューラルネットワーク処理中のカメラフィードから製造上の欠陥を特定します。 この問題に対処するためにハイエンドのカスタムゲーミングPCを構築し、プロジェクトを離れる前にサーバーの展開を検討していました。 私のラップトップワークステーションとゲーム機の最大の違いはグラフィックカードです。 画像解析やGPUコンピューティングを計画している場合は、ラップトップのグラフィックカードでは不十分な場合があります。 速度とメモリが問題になる場合は、サーバーを使用するか、分散コンピューティングを調査することをお勧めします。
キャリアの中で最も成長するのに役立ったツール/テクニック（クリーニング、組み合わせ、モデリングなど）は何ですか？
キャメロン：好奇心、懸命に努力する意欲、障害を克服する方法を見つけるための頑固な決意、そして実践することによる学習は、特定のツールやテクニックよりもはるかに重要でした。 途中で必要なものを手に入れます。
ジェイソン：前JMP Recodeユーティリティがあったので、データクレンジングに配列と行列を活用するのに役立ったツールの1つだと思います。スクリプト内の小さな行列演算、行列操作、および/または論理インデックスが、データの問題を見つけて修正するために何ができるかは驚くべきことです。 正規表現は、テキストデータのクリーニング/管理に関して私のキャリアに大きな違いをもたらしたもう1つのツールです。 Recodeができたので、これは私のお気に入りのデータクリーニングツールです。テキストの正規表現をサポートしており、数値データの問題を簡単に見つけることができます。 結果を数式として保存できるため、recodeは、以前行っていたほとんどのスクリプトを自動的に実行します。外れ値の探索およびパターンの探索ユーティリティも、データクリーニング用のスクリプトで処理していたことの多くを実行します。 すべてが大幅な時間の節約になります！とりわけ、分析ワークフローのすべての段階でデータを利用して、データの背後にあるストーリーを解き放つことが、私のキャリアに最大の影響を与えたと言えます。
サム：正直なところ、データの良いグラフを作成することは、おそらく私ができる最も効果的なことです。 写真に入れると、データと問題のストーリーがわかります。 2番目に重要なツールは、書くことです。分析の結果を伝達し、学んだことを要約し、さらなる行動のための推奨事項を作成します。 あなたがそれを書き留めないと、人々は何が起こったのかを覚えたり知らなかったりしません。
メカニズムモデルに基づいてプロセス（操作と制御）を行う化学または製薬業界に、ブラックボックスの代替案に飛び込むように説得するにはどうすればよいでしょうか。ハイブリッドアプローチは最初のステップですか？
キャメロン：メカニズムモデルは何らかの方法でそれらを抑制していますか？ 私にとって、機械的なモデルは、手の届く範囲にある場合は常に望ましいものです。 ボールを投げたときに何が起こるかを理解するために物理教育を必要としないのと同じように、コンピューターは多くの例を見ることで何かがどのように機能するかを学ぶことができます。 ただし、すべての物理計算とパラメータ値を知っている場合は、正確な予測を行うために必要なデータはほとんどありません。 状況を第一原理にうまく分解すればするほど、必要なデータが少なくなり、外挿についても心配する必要が少なくなります。データ駆動型モデル（「ブラックボックス」ではなくそれを使用します）は、知識のギャップを回避したり、複雑さ全体を概算したりするのに非常に役立ちます。 100％の回答を得るのに数か月かかるが、データ駆動型モデルを使用して今すぐ95％の回答を得ることができる場合、何を選択しますか？ 最初のオプションでの機会費用はいくらですか（その余分な時間で何ができるか考えてください）？
サムが使用したヘッドセット（Plantronics 655 DSP）と、彼の本の入手方法について質問がありました。電子書籍はから直接注文することができますSAS Pressとハードコピーはで利用可能ですアマゾン。第2版は進行中であり、2021年に利用可能になるはずです。
このエピソードのオンデマンドバージョンを見ることができます統計的に言えばと読んで抜粋の科学の章からダークデータ。そこにあるすべての暗いデータを分類してより適切に処理できるようになると、モデルがはるかに便利になります。 このような良い質問をしてくれた視聴者に感謝します。また、キャメロン、サム、ジェイソンの専門知識を共有してくれたことに感謝します。
