シナリオ: 検証データを使用して Lasso ペナルティを調整し、最適化されたペナルティ項を指定してすべてのデータ (トレーニング + 検証) を再調整したいと考えています。
一般化回帰プラットフォーム内でそれを実行する方法がわかりません。ここでは何をお勧めしますか?
こんにちは@ミットマン、
実際の基礎となるアルゴリズムが何であるかはわかりませんが、Lassoモデリングで行われるチューニングは非常に限られています。L1ペナルティによって。 重要でない因子を縮小するのはかなり得意ですが、因子と応答の間に多重共線性がある場合はそれほど優れていません。 覚えておくべきことは、交差検定を使用する場合(検証列を使用)、アルゴリズムはそれを使用して、因子の推定値の最小化を開始することです。 これは、アルゴリズムが重要でない要素を0に駆動するのに役立ち、モデルを単純化します。 再実行すると(同じグリッド間隔/間隔タイプ、およびペナルティの割合を使用している場合でも)、モデルを単純化するために異なる検証方法が使用されるため、異なるモデルになります。 検証列に適合するモデルとAICcまたはK-foldを使用するモデルを比較する場合は、生成する各モデルで、適合の横にある赤いホットボタンに移動し、[列の保存]> [予測式の保存]を選択できます。 次に、たとえばモデル比較プラットフォームで、さまざまなモデルが応答にどの程度適合しているかを比較できます。
他のいくつかの考え:
1. L1(Lasso)とL2(Ridge)の両方のペナルティ付きメソッドを組み合わせているため、ElasticNetの実行を検討することもできます。 両方の長所の一種。
2.因子の推定値に対してブートストラップまたはシミュレーションを実行して、それらの大きさを決定し、それらが本当に重要であるかどうかを判断することができます。 大きさを推定値の標準誤差と比較して、誤差が推定値自体よりも大きいかどうかを確認してください。
3.モデルの構築に取り組んでいる場合は、JMPの他のモデリングプラットフォームを実行して、どのモデルがより適切かを確認することをお勧めします。 KNN、SVM、またはNNモデルは、予測機能の点で他のモデルよりも実際に優れている可能性があります。 SLS、GenLinRegなどの他のモデリングプラットフォームのいくつかを必ず確認してください。どのモデルが他のモデルよりも優れているかはわかりません。
4.相互検証に検証列を使用している場合は、モデルのパフォーマンスに影響を与える可能性があるため、データをトレーニングと検証に分割する方法を検討することができます。
5.データがDOEからのものであり、経験則としてGenRegプラットフォームを使用している場合は、GenRegプラットフォームの最初の5つの推定方法に制限するのが最善です。
お役に立てれば!、
DS