高斯模型預測方程式不太準確。<meta http-equiv="Content-Type" content="text/html; charset=UTF-8" />大家好,
我使用高斯過程模型來擬合數百個電腦模擬資料點。 電腦模擬是一個確定性系統,因此如果使用相同的輸入,響應永遠不會改變。 我使用空間填充快速靈活填充設計來產生表格。 有 7 個不同的因素,其中 3 個是分類輸入的,其他 4 個是連續的。問題是,無論我的訓練設計有多大,當針對另外幾百次運行的驗證集進行測試時,產生的預測方程式都不是很準確。 用於擬合的訓練集誤差小於1%,但驗證集誤差可高達4.5%。 我希望避免最多 1-1.5% 的誤差。
我還嘗試使用具有響應曲面模型效果的擬合模型,在多次交叉因子後,實際上與預測圖變成近乎完美的 45 度角,但預測方程式也不是很準確。 高斯模型被認為是電腦模擬資料的最佳選擇。
有誰知道高斯模型有什麼限制? 我的 1-1.5% 誤差是不是太不切實際了? 驗證資料集的產生方式相同,快速且靈活填充。 驗證資料中沒有什麼異常之處。 許多誤差為 4% 的點的因子值與誤差小於 1% 的其他數據點非常相似。 我認為透過平滑擬合(高斯模型所做的),該方程式可以很好地預測一切。
另外,不確定它有多重要,但我正在使用標準 JMP 的版本 12。 JMP Pro中的高斯模型更強大嗎? 是否有其他統計分析軟體包可以比 JMP 更好地處理高斯建模?
感謝您的任何幫助,我很感激!
回覆:高斯模型預測方程式不太準確。感謝您的回答,bilw@JMP。
我一直在查看幫助部分中的書籍,但相關函數的描述非常簡短。
我認為,無論使用什麼相關結構,高斯過程模型總是完美地插值設計點。 顯然,高斯相關結構不是這種情況,但我在幫助部分書籍中找不到對此的明確解釋... 我將研究其他來源來澄清這一點。
感謝您的幫忙!
回覆:高斯模型預測方程式不太準確。克林,
我建議您參閱“幫助”下的書籍部分,以及對高斯和三次之間差異的更清晰解釋。以下是我在那裡發現的一些東西。
注意:由於起始點不同,估計的參數可能會有所不同
最小化例程、相關類型的選擇以及區塊金參數的包含。
相關類型 選擇模型的相關結構。 該平台適合空間
數據的相關模型,其中兩個之間的響應的相關性
隨著自變數的值變得更遙遠,觀測值會減少。
高斯將兩點之間的相關性限制為始終非零,無論
點之間的距離。
三次允許距離足夠遠的點之間的相關性為零
分開。此方法是三次樣條的推廣。
華泰
回覆:高斯模型預測方程式不太準確。大家好,
我有一個與這篇文章相關的問題。 我正在建立拉丁超立方體設計並擬合高斯過程。 當比較高斯和三次相關結構,並將設計點的預測值與每個點的模擬值進行比較時,這些值對於三次插值函數是完全相同的,但對於高斯插值函數則不然。 這是透過 bllw@jmp 帖子中的偏見來解釋的嗎? 還是這是任何捨入誤差造成的? 理論上,兩種相關函數都應該有完美的插值,還是我在這一點上錯了?
任何幫助將不勝感激!
回覆:高斯模型預測方程式不太準確。補充 Ian 的回复,雖然每個點都完全符合高斯過程,但仍然可能存在一些看起來很像隨機變化的偏差。透過查看實際的折刀預測圖,您可以了解數據中存在多少偏差。在圖的左下角和右上角之間畫一條線。數據越緊密地圍繞該線,數據的偏差就越低。
神經網路 (NN) 在為電腦實驗建立代理模型時也非常有用。使用 Tan H 激活函數查看多個隱藏節點層級。請注意,如果您在運行模型時沒有設定隨機種子,那麼每次運行相同的模型時,您都會得到不同的結果。請參閱下面連結中的隨機種子重設插件。
隨機種子重置
回覆:高斯模型預測方程式不太準確。(可能我不會告訴你任何你還不知道的事情)。
我會看看布拉德的精彩演講:
https://community.jmp.com/videos/1277
按照設計,高斯過程(GP)“對資料進行插值”,因此預測值將始終與因子空間中存在運行的每個點處的模擬或計算(“測量”)值一致。 因此,焦點從使用驗證來避免過度擬合(即在「訊號」和「雜訊」之間取得適當的平衡)轉移到GP 的能力(或其他方式...)在您需要的點進行合理插值。沒有運轉。
在此基礎上,我預期訓練集的誤差(接近)為零,而驗證集的誤差會更大,甚至可能更大。 我還認為 GP 只會適合連續因素,所以我不確定你如何處理分類因素。