JMP 13 Pro 中的增強神經網絡我發現 JMP 13 手冊對神經網絡增強過程的描述很模糊。 這是它的一個快照:
“第一步是擬合單層、兩節點模型。 該模型的預測值按學習率縮放,然後從實際值中減去以形成縮放殘差。 下一步是安裝不同的一層,兩節點基於先前模型的縮放殘差的模型。”
我不明白 JMP 如何使用預測值的殘差。 數學公式或圖表可能非常有幫助。
JMP 是否將殘差添加到定義的特徵中並再次訓練網絡?或者單獨訓練殘差鍊式網絡? 例如,如果我有 10 個特徵,並且我正在嘗試預測單個連續響應,並且我的網絡有一個包含 3 個神經元(也稱為節點)的隱藏層;增強網絡中的第一個神經網絡的形狀為 [10, 3, 1]。 現在,JMP 計算最後一層的殘差(真實值 - 預測值)。 現在,殘差會怎樣? 第二個網絡的形狀是什麼,它的輸入是什麼以及它預測什麼?
感謝您提前抽出時間。
回复:JMP 13 Pro 中的增強神經網絡好的,謝謝你的澄清。
提升的第二階段使用與第一階段相同的預測器。 不同之處在於它的響應是否合適。 在第二階段,響應是第一階段的殘差。
結果是您為每個提升再次添加相同數量的隱藏節點。
菲爾
回复:JMP 13 Pro 中的增強神經網絡假設我從 100 個不同的測量值(列)和 200 個觀察值(行)開始嘗試預測 1 個連續響應(列)。 我假設第一個神經網絡將接收所有 100 列並輸出 1 個預測。 第二個神經網絡會接收 1 列殘差並輸出 1 列預測嗎?
回复:JMP 13 Pro 中的增強神經網絡你好,你能澄清一下:100 個“測量值”是 100 個變量(列)還是 100 個觀察值(行)?
謝謝,
菲爾
回复:JMP 13 Pro 中的增強神經網絡菲爾您好,謝謝您的回复。 第二個神經網絡的輸入對我來說仍然有點不清楚。 那麼,即使我的初始數據集有 100 個測量值並且我將它們用作特徵,您是否會說第二個神經網絡將僅使用 1 個特徵(殘差)?
回复:JMP 13 Pro 中的增強神經網絡您好,機器學習中 boosting 的一般方法是首先為 Y 擬合一個“弱預測器”模型。 然後下一個模型適合第一個模型的殘差。 這兩個模型的組合是比任何一個原始模型更好的模型。 假設 Y(預測)和 Y(實際)之間仍然存在殘差,則第三個模型將擬合這些殘差,然後與模型 1 和 2 組合。 這種情況一直持續到擬合優度停止改善(根據您使用的測量方法)。