JMP 13 Pro の強化されたニューラル ネットワークJMP 13 のマニュアルによるニューラル ネットワークのブースティング手順の説明は曖昧です。 これがそのスナップです：
「最初のステップは、1 層、2 ノードのモデルを適合させることです。 そのモデルからの予測値は、学習率によってスケーリングされ、実際の値から差し引かれ、スケーリングされた残差が形成されます。 次のステップは、別のレイヤーを合わせることです。 2 ノード前のモデルのスケーリングされた残差に基づいてモデル化します。」
JMP が予測値の残差をどのように使用しているかがわかりません。 数式または図が非常に役立ちます。
JMP は定義済みの特徴に残差を追加して、ネットワークを再度トレーニングしていますか?または、残差の連鎖ネットワークを単独でトレーニングする場合はどうなりますか? たとえば、10 個の特徴があり、単一の連続応答を予測しようとしていて、ネットワークに 3 つのニューロン (別名ノード) の隠れ層が 1 つあるとします。ブーストされたネットワークの最初のニューラル ネットワークは [10, 3, 1] の形になります。 これで、JMP は最後のレイヤーから残差 (真の値 - 予測値) を計算します。 さて、遺留分はどうなるでしょうか。 2 番目のネットワークはどのような形状で、その入力は何で、何を予測しているのか?
よろしくお願いいたします。
Re: JMP 13 Pro で強化されたニューラル ネットワークわかりました、明確にしていただきありがとうございます。
ブースティングの第 2 段階では、第 1 段階と同じ予測子を使用します。 違うのは、合っているという反応です。 第 2 段階では、応答は第 1 段階の残差です。
その結果、ブーストごとに同じ数の非表示ノードを再度追加することになります。
フィル
Re: JMP 13 Pro で強化されたニューラル ネットワーク100 の異なる測定 (列) と 200 の観測 (行) から始めて、1 つの連続応答 (列) を予測しようとしているとします。 最初のニューラル ネットワークは 100 列すべてを取り込み、1 つの予測を出力すると仮定します。 2 番目のニューラル ネットワークは 1 列の残差を取り込み、1 列の予測も出力しますか?
Re: JMP 13 Pro で強化されたニューラル ネットワーク100 の「測定」は 100 の変数 (列) ですか、それとも 100 の観察 (行) ですか?
ありがとう、
フィル
Re: JMP 13 Pro で強化されたニューラル ネットワークこんにちはフィル、返信ありがとうございます。 2 番目のニューラル ネットワークへの入力は、まだ少しわかりません。 では、最初のデータセットに 100 個の測定値があり、それらを特徴として使用していたとしても、2 番目のニューラル ネットワークは 1 つの特徴 (残差) だけで機能すると思いますか?
Re: JMP 13 Pro で強化されたニューラル ネットワークこんにちは、機械学習におけるブースティングの一般的なアプローチは、最初に「弱い予測子」モデルを Y に適合させることです。 次に、次のモデルが最初のモデルの残差に適合します。 これら 2 つのモデルの組み合わせは、元のモデルのいずれよりも優れたモデルになります。 Y(予測) と Y(実際) の間にまだ残差があると仮定すると、3 番目のモデルはこれらの残差に適合し、モデル 1 および 2 と結合されます。 これは、適合度の改善が止まるまで続きます (使用している尺度に応じて)。
