高斯模型預測方程不是很準確。<meta http-equiv="Content-Type" content="text/html; charset=UTF-8" />大家好,
我正在使用高斯過程模型來擬合數百個計算機模擬數據點。 計算機模擬是一個確定性系統,因此如果使用相同的輸入,響應永遠不會改變。 我使用空間填充 Fast Flexible Filling 設計來生成表格。 有 7 個不同的因素,其中 3 個是分類輸入的,另外 4 個是連續的。問題是無論我進行多大的訓練設計,在針對另外幾百次運行的驗證集進行測試時,生成的預測方程都不是很準確。 用於擬合的訓練集誤差小於 1%,但驗證集誤差可高達 4.5%。 我希望最多能避免 1-1.5% 的誤差。
我也嘗試過使用具有響應面模型效果的擬合模型,並且在多次交叉因素後,實際與預測圖變成接近完美的 45 度角,但預測方程也不是很準確。 高斯模型應該是計算機模擬數據的最佳選擇。
有誰知道高斯模型有什麼局限性? 我的 1-1.5% 誤差是不是太不現實了? 同理生成驗證數據集,快速靈活填充。 驗證數據中沒有什麼異常突出的地方。 許多誤差為 4% 的點的因子值與誤差小於 1% 的其他數據點非常相似。 我認為通過平滑擬合,這就是高斯模型所做的,方程可以很好地預測一切。
另外,不確定它有多重要,但我使用的是標準 JMP 的第 12 版。 JMP Pro 中的高斯模型是否更強大? 是否有其他統計分析軟件包可以比 JMP 更好地處理高斯建模?
感謝您的幫助,我很感激!
Re: 高斯模型預測方程不是很準確。感謝 billw@JMP 的回答。
我一直在查看幫助部分的書籍,但相關函數的描述非常簡短。
我認為,無論使用什麼相關結構,高斯過程模型總是完美地插值設計點。 顯然這不是高斯相關結構的情況,但我在幫助部分的書中找不到對此的明確解釋...... 我將調查其他來源以澄清這一點。
感謝您的幫助!
Re: 高斯模型預測方程不是很準確。克林,
我建議您參考幫助下的書籍部分,以及對高斯和三次方之間差異的更清楚的解釋。以下是我在那裡發現的一些東西。
注:估計的參數可能因起點不同而不同
最小化例程、相關類型的選擇以及塊參數的包含。
關聯類型 選擇模型的關聯結構。 該平台適合空間
數據的相關模型,其中兩個響應之間的相關性
隨著自變量的值變得更遠,觀察結果減少。
高斯限制兩點之間的相關性始終為非零,無論
點之間的距離。
對於足夠遠的點,三次允許兩點之間的相關性為零
分開。該方法是三次樣條的推廣。
HTH
Re: 高斯模型預測方程不是很準確。大家好,
我有一個與這篇文章相關的問題。 我正在設置拉丁超立方體設計並擬合高斯過程。 當比較高斯和三次相關結構,並將設計點的預測值與每個點的模擬值進行比較時,這些值對於三次插值函數完全相同,但對於高斯函數則不同。 這可以用 bllw@jmp 帖子中的偏差來解釋嗎? 或者這是由於任何舍入錯誤造成的? 理論上,兩種類型的相關函數都應該有完美的插值,或者我錯了?
任何幫助將不勝感激!
Re: 高斯模型預測方程不是很準確。補充一下Ian的回复,雖然每個點都完全符合高斯過程,但可能仍然存在一些看起來很像隨機變化的偏差。通過查看折刀預測圖的實際情況,您可以了解數據中存在多少偏差。在圖的左下角和右上角之間畫一條線。您的數據越靠近這條線,數據的偏差就越小。
在為計算機實驗構建代理模型時,神經網絡 (NN) 也非常有用。使用 Tan H 激活函數查看多個隱藏節點級別。請注意,如果您在運行模型時未設置隨機種子,則每次運行同一模型時都會得到不同的結果。在下面的鏈接中查看隨機種子重置插件。
隨機種子重置
Re: 高斯模型預測方程不是很準確。(可能我不會告訴你任何你還不知道的事情)。
我會看看 Brad 的精彩演講:
https://community.jmp.com/videos/1277
按照設計,高斯過程 (GP)“對數據進行插值”,因此預測值將始終與因子空間中存在遊程的每個點處的模擬或計算(“測量”)值一致。 因此,重點從使用驗證來避免過度擬合(這是關於在“信號”和“噪聲”之間獲得正確的平衡)轉移到 GP 的能力(或其他......)合理地插值在你沒有運行。
在此基礎上,我希望訓練集的誤差(幾乎)為零,而驗證集的誤差更大,可能更大。 我還認為 GP 只會適合連續因素,所以我不確定你是如何處理分類因素的。