一般化回帰におけるリッジペナルティ関数の質問お客様は、一般化された回帰についていくつか質問があります。以前の経験によれば、変数の効果である「エラスティックネット」または「エラスティックネット」を見逃したくないため、モデルを構築するためのペナルティ関数として「リッジ」を使用したいと考えています。この場合、「ラッソ」ペナルティ関数は適合しません。
ただし、お客様は通常、多くの変数を含むスペクトルデータを分析し（一部のデータには65行の4500変数が含まれています）、ペナルティ関数として「リッジ」を使用すると、時間がかかり、結果を得ることができません。
私はJMPサポートに質問をフィードバックしました。彼らは私が提供したサンプル（添付ファイルとして、約2400の変数と65の観測値）を試してみました。 16GBのRAMと4つのコアを搭載したWindows10マシン。そして、JMPは最初の1時間は「応答なし」モードになりましたが、その後プログレスバーを生成しました。 グリッドポイントを50に変更しても、リッジの結果（4.5時間）を取得するのに長い時間がかかりました。
エラスティックネットやラッソ法と比べると、2〜3分程度で、エラスティックネット/ラッソとリッジの時間差が大きいです。
さらに、顧客は、Pythonがペナルティ関数として「Ridge」を使用して一般化回帰をより迅速に実行できることにも言及しました。
モデル適合プロセスをスピードアップすることは可能ですか？ CPUをフルロードにするようなものですか？または、他の適切な機能/プラットフォームは、顧客が見積もり結果をより効率的に取得するのに役立ちますか？
サンプルデータも添付しました。 ありがとう
Re：一般化回帰におけるリッジペナルティ関数の質問@Eric_Wang Pythonでのリッジ回帰の一部の実装では、入力変数を標準化する必要があります。 変数を標準化すると、係数を解く時間を短縮できます。 JMPのルーチンが入力に対して何らかの標準化を自動的に実行するかどうかはわかりませんが、約4500の入力変数を標準化することで計算時間を短縮できるかどうかを試すことができます。
Re：一般化回帰におけるリッジペナルティ関数の質問これは、エラスティックネットを使用する必要がある場合のように聞こえます。観測値よりもはるかに多くの予測子が存在するこのような場合、変数選択を行う際の大きな懸念は、共線性と冗長性により、本当に重要な予測子を見逃してしまうことです。 X1とX2の相関が高い場合、前方選択のようなものはそのうちの1つだけを選択する可能性があります。 エラスティックネットの強みは、相関する予測子のグループを選択することです。したがって、この場合はX1とX2です。 私の推測では、この状況で「変数の効果を見逃したくない」とは、実際には、実際に影響を与える可能性のある効果を見逃したくないということです。 エラスティックネットは、この正確なシナリオのために構築されています。
では、なぜここでラッソと弾性がリッジ回帰よりもはるかに速いのでしょうか？ 変数選択を行うため、エラスティックネットとラッソの計算には少数の予測子しか含まれませんが、リッジ回帰は指定された2400個の変数すべてに対して最適化を行います。 また、ラッソとエラスティックネットはどちらも、フィットの品質と解釈の点でリッジ回帰を支配する傾向があることに注意することも重要です。そのため、ラッソとエラスティックネットフィッターの計算時間を改善するように努めました。 リッジ回帰について同様の改善を優先することはできませんでした。
Re：一般化回帰におけるリッジペナルティ関数の質問おかげで、イアン、私は「リッジテスト」という名前のスクリプト領域のスクリプトでサンプルデータを変更して再添付しました。スクリプトを実行してテストできます。
Re：一般化回帰におけるリッジペナルティ関数の質問FWIW、32コアと128GBのRAMを搭載したWindows10ボックスがあります。 JMPが何を利用するかはわかりませんが、それが役立つ場合は、別のベンチマークを取得してみてください。 ただし、詳細は重要です（特に、実行に5時間かかる場合は...）。では、リッジ回帰を行うためのスクリプトを投稿していただけませんか。 私はそれをテーブルに見ませんでした。
Re：一般化回帰におけるリッジペナルティ関数の質問ありがとう、 @Bill_Worleyと@clay_barker 、あなたの提案と説明は非常に役に立ちます。 この場合、最初にエラスティックネットまたはPLS方式を試すように顧客を説得しようとします。
Re：一般化回帰におけるリッジペナルティ関数の質問こんにちはエリック、
顧客が試すもう1つの提案は、部分最小二乗法であり、この場合はPLS-DAです。プラットフォームは変数選択を可能にしますが、モデリングプロセスの最初のパスですべての変数を使用します。 これは非常に高速であり、モデルを比較して、どのモデリングプラットフォームが全体的に最適であるかを確認するのに役立ちます。
PLSについてはそうですが、私はこれについてClayと一緒にいます。私はGenRegを使用していくつかのスペクトルデータセットを分析しましたが、Elastic Netは、これほど広いデータセットを使用して優れた予測モデルを構築する上で上位にランクされています。
よろしくお願いします、
明細書
Re：一般化回帰におけるリッジペナルティ関数の質問イアン、お時間を割いてご協力いただきありがとうございます。
Re：一般化回帰におけるリッジペナルティ関数の質問こんにちは@clay_barker 、ご返信ありがとうございます。ご不明な点がありましたら、GRの専門家にご確認ください。 私たちの顧客は、変数または観測値の数に関するデータを分析するときに、ペナルティ方法としてRidgeを「回避」することについて何か提案がありましたか？さらに、FDEでこれらのスペクトルデータを分析することを提案しますか？ ありがとう。
Re：一般化回帰におけるリッジペナルティ関数の質問@ian_jmp 、これがテクニカルサポートトラックです、 7613489182 。 あなたが探しているものがそこにあるかもしれません。
CC： @AdamMorris 、 @clay_barker
