回复:神經網絡調優嗨斯科特,
非常方便的插件。 之前我必須手動生成空間填充設計來嘗試探索 NN 平台。 將對其進行試運行! 有計劃擴大 NN 平台的層數嗎? 另外,任何機會調整也可以在 Genreg 平台上實施嗎?
謝謝,
文斯
回复:神經網絡調優你好, @文斯!.
只是想插話一下。 GenReg 已經可以調整,只需將 alpha 超參數設置為“。” JMP 會對其進行優化。 在 NN 的更多層上,這更多地掌握在 JMP Development 手中,而不是 Scott。 您應該將請求放在JMP 願望清單這樣他們就知道您希望看到更深入的神經網絡。
最好的,
中號
回复:神經網絡調優@文斯-
目前,該插件僅將參數傳遞到 JMP NN 平台,該平台可構建最多兩層的神經網絡。 如果平台發生變化(更多層、激活功能等)並且有足夠的興趣,我可以更新插件。 我想第二@邁克D_安德森的建議,如果您希望在未來的 JMP 版本中看到某些功能,請前往願望清單。
讓我知道您的測試運行情況如何!
-斯科特
回复:神經網絡調優這很棒。 我一直想知道 JMP Pro 何時會出現這樣的功能,但製作此插件是一項偉大的舉措。格蘭芬多+50分!
回复:神經網絡調優很棒的工具,非常感謝。 我剛剛在各種數據集上測試了它,它節省了我很多時間,並找到了我不必為了時間而測試的條件(參數)。 謝謝斯科特!
回覆:神經網路調優做得好@斯科特艾倫關於這個插件的良好設定和功能!
兩個問題/警告:
1. 神經平台在執行模型擬合時會查看驗證數據,因此驗證結果有洩漏且過於樂觀。因此,我認為它們沒有提供對泛化性能的良好估計,也沒有提供在調優設計中比較不同模型的好方法。我知道的解決這個問題的唯一方法是使用三級驗證列(訓練、驗證和測試,可透過分析 > 預測建模 > 建立驗證列建立),然後僅使用測試結果來比較模型。我剛剛檢查了該加載項是否可以處理這種情況,並為了驗證一般觀點,繪製了驗證 R2 與測試 R2 的關係圖。
2. 在單一測試保留集上投入大量模型很可能會導致該測試集過度擬合。XGBoost 中的自動調諧功能(使用相同的快速靈活設計方法)發生了這種情況,促使更改為在自動調諧時僅輸出整體模型,並在每個折疊內使用嵌套以避免洩漏。
@文斯新的 Torch 深度學習插件提供任意深度的神經網路;請註冊並嘗試JMP 18 早期採用者它還沒有自動調整功能,但將來可能會。
回覆:神經網路調優@russ_wolfinger
很棒的觀點。 我同意這兩點,並希望繼續開發此外掛程式來解決這些問題。
我的第一個目標是自動化目前的模型生成工作流程,現在我想開始考慮包括「護欄」或幫助找到包括其他驗證方法的方法。
我也喜歡整合模型的想法。 我正在考慮添加一種簡單的方法,讓使用者將模型傳遞到比較模型平台。 但最好基於某些模型擬合統計數據來自動執行此操作。 值得深思!
回覆:神經網路調優@斯科特艾倫我已將更多層添加到 NN 的願望清單中。
@russ_wolfinger ,我已經在 EA5 中使用了 Torch 深度學習插件進行了多次測試運行。 我確實得到了比 xgboost 插件更好的模型,不過我總是回到你的 xgboost 插件,我保存了一個包含「增益」、「分割」、「覆蓋」、每個變數分數的表格。 透過此表,我僅選擇具有非 0 值的變量,並使用較小的預測變量集重新運行 xgboost。 通常在 2-3 輪之後,我不會得到非零預測變數。 透過這種方式,我可以過濾掉不重要的變量,並且可以讓分析器可視化較小的模型。 我的預測值通常是 60-300K。 我想看到一個選項Torch 深度學習插件,我可以在其中存取包含值的表,我可以用它來剔除不重要的變數。
xgboost 中是否會有擴展的快速靈活設計,其中還包括其他約 30 個包含分類參數的高級選項?最後@russ_wolfinger ,下一個採用者 EA 版本是否會有 Torch 深度學習插件的調整表?等不及了,模型明顯更好了!
回覆:神經網路調優@文斯非常感謝您的回饋。我認為 XGBoost 中的變數減少方法是合理的(我自己也做了同樣的事情),因為那些重要性為 0 的變數沒有在任何模型中使用。變數重要性和自動調整都在 Torch 的「待辦事項」清單中。
XGBoost 對所有進階選項的自動調整將需要更大、更混亂的介面,我們可以考慮一下。同時,還有一個「調整設計表」選項,您可以在其中指定帶有設計點的輔助 JMP 表,例如直接在要調整的參數上呼叫 DOE FFF 來建立。
我們現在也更關注貝葉斯優化方法。有一個加入。
回覆:神經網路調優更新
神經網路調整插件已更新。版本 1.1 現已可供下載,版本 1 已被刪除。 該版本修復了許多錯誤,並根據用戶的回饋進行了整體改進:
Bug修復
- 資訊缺失的作品。
- 當列規範或參數規範步驟遇到問題時,會拋出各種警告以避免 JMP 錯誤訊息。
- 現在支援多層名目和序數回應。
改進
- 一般介面更新
- KFold 驗證現已可用
- 點選「幫助」按鈕可以啟動幫助視窗。 「幫助」視窗提供有關如何在版本 1.1 中處理模型驗證、比較模型和保存模型的附加資訊。
- 現在總是使用色譜柱進行模型驗證,以幫助提高模型的重現性。
- 現在使用比較模型平台在重複(和隱藏)資料表中進行模型比較。
- 使用「儲存模型」按鈕直接從調整結果視窗儲存模型。
- 載入先前儲存的資料表時,如果儲存的資料表中的 X 變數與加載項啟動時指定的 X 變數不同,加載項將會向您發出警告。
- 圖形產生器輸出現在具有列切換器切換器,可查看訓練、驗證或測試 R2 值與每個參數的關係。
- 另外兩個模型視覺化圖將作為選項卡新增至結果視窗。 這些還與數據表交互,以幫助識別最佳模型。
- 模型進度視窗有一些更新:
- 顯示總體建模時間
- 顯示每個模型的平均時間
- 如果總體建模時間比預期時間長,模型進度視窗中可以使用「取消」按鈕。 在建模步驟中完成的任何模型都會儲存到結果視窗中。 請注意,當建模時間較長時,此按鈕可能會“滯後”,並且可能需要單擊幾下才能註冊命令。
- 儲存到資料表的模型具有更新的註解部分,其中包含用於產生模型的所有參數。
回覆:神經網路調優更新
1.2 版現已推出。 該版本根據用戶的回饋修復了許多錯誤並進行了其他改進:
Bug修復
- Compare Models 只會將最近準備的 NN 模型引入 Compare Models 平台,而不是所有先前產生的模型
- 現在可以使用標稱和序數 Y 值進行模型比較
- 其他小修復
改進
- 現在您可以呼叫調整參數
- 新增了不同的模型保存選項
- 顯示調整表會產生該表的副本
- 資料表現在儲存為結果視窗中的選項卡
- 新增了唯一的模型 ID,以便於比較具有不同隨機種子的模型
- 使用多個隨機種子時可以使用新圖
神經網路調優更新
2023 年 11 月 27 日- 版本 1.1 - 改進和錯誤修復,詳細資訊在下面的帖子中
2023 年 11 月 28 日- 版本 1.11 - 小錯誤修復
2023 年 12 月 15 日- 版本 1.2 - 改進和錯誤修復,詳細資訊在下面的帖子中
目的
神經網路調整插件是另一種神經網路平台,它提供了一種產生大量神經網路的簡單方法,以確定隱藏層結構、增強和擬合選項的最佳參數集。
怎麼運作的
使用者指定將運行的神經網路模型的數量,並設定參數和擬合選項的範圍。 使用調整參數作為因子以及訓練、驗證和測試 R 來產生快速靈活空間填充 DOE 2值作為響應。
DOE 中的每個試驗都會傳遞到神經網路平台和 R 2值記錄在輸出 DOE 表中。 所有模型運行後,表格按 Validation R 排序2並顯示一系列圖表來幫助使用者識別最大化驗證 R 的最重要效果2價值觀。
透過調整調整參數並重新運行 DOE 可以產生其他模型。 新的運行將附加到原始表中。
資料表可以儲存並重新載入到平台中,以儲存進度並重新開始附加分析。 這是一種調整神經網路的方法,可能需要大量的計算時間。
影片指南
回覆:神經網路調優嗨@Marco2024
要分析兩個或多個變量,您需要為每個變數建立一個模型,然後在探查器中載入預測表達式:
- 為您的第一個輸出 (Y) 建立一個 NN 模型,並透過點擊「儲存模型」按鈕儲存預測表達式。 “分析器公式”選項會將單一公式列儲存到資料表中。
- 對您想要比較的所有 Y 變數重複此操作。
- 啟動探查器(圖形 > 探查器)並載入預測表達式。
這將為每個堆疊在一起的 Y 變數提供一個分析器,以幫助您比較和共同優化您的系統。
回覆:神經網路調優嗨斯科特,
我很高興向您問好......我無法用我的用戶名進入博客來回复您......,我感謝您對我的查詢的回复!!!.....下面我注意到下列:
1. 觀察結果:
- 該外掛不適用於西班牙語
- 該插件不會保存所選模型或表中的模型
2. 查詢:
- 插件是否可以選擇根據使用者指定的參數範圍一步搜尋 1 層和 2 層神經網路?
問候,
馬可
回覆:神經網路調優嗨斯科特,
觀察 2(補集不保存模型)使其沒有效果,補集確實保存了模型。
問候,
馬可
回覆:神經網路調優嗨斯科特,
問題:該插件是否可以選擇產生從輸入即時學習(增量學習)的神經網絡,即不是靜態神經網路?
問候,
馬可