皆さんこんにちは
以下のようなJMPのニューラルネットワークのアルゴリズムの資料がある場合は、お知らせください。
-入力が正規化されているかどうか
-初期化とパラメーター設定の種類
-W、bの初期化方法
-学習率の設定
-エポック番号設定
-検証セットの最適化プロセスを視覚化するために学習曲線を確認する方法
-ハイパーパラメーターのデフォルト値
イクジュ、
Chris Gotwaltは、NNアルゴリズムに関する優れたホワイトペーパーを作成しました。
https://www.jmp.com/content/dam/jmp/documents/en/white-papers/wp-jmp9-neural-104886.pdf 。以下の回答は、彼の論文とJMPのドキュメントに基づいています。
(SE:気軽に声をかけてください。)
建
-入力が正規化されているかどうか
モデル起動ウィンドウの下に、共変量の変換というオプションがあります。詳細については、5ページを参照してください。
-初期化とパラメーター設定の種類
「最初に、正規分布のランダムな開始値が生成され、ペナルティパラメータがゼロに設定されます。この初期適合の後、ペナルティパラメータのゼロ以外の候補値が選択され、ペナルティパラメータの単変量線探索が行われます。」(ページ7)
-W、bの初期化方法
正規分布のランダム値(ページ4および7))
-学習率の設定
デフォルトは0.1ですが、モデル起動ウィンドウで(0、1]の間の任意の値を選択できます。
-エポック番号設定
ツアーの数は、モデルの起動ウィンドウで設定できます。デフォルトでは1です。
-検証セットの最適化プロセスを視覚化するために学習曲線を確認する方法
NNでは、JMPは累積検証を表示しません。Boosted Treesのレポートに似たレポートを見たいので、良い提案です。
-ハイパーパラメーターのデフォルト値
これらの「デフォルト」ハイパーパラメータ値は、モデル起動ウィンドウに表示されます。たとえば、1つのレイヤー、3つのノードを持つTanH、1つのツアーなど。 ベストプラクティスは異なる設定の複数のモデルに適合し、それらを比較するため、これらの設定を使用するモデルをベースモデルと呼びます。