高斯過程警告資訊：似然估計演算法未收斂尊敬的JMP專家們：
我最近進行了一項空間填充實驗，採用拉丁超立方設計，進行了 700 次試驗。然後我使用高斯過程擬合數據。 「實際值與預測值比較圖」看起來非常漂亮，大部分資料點都完美地落在 45 度線上。但是，我收到了一條警告訊息：
警告：似然估計演算法未收斂。
請查收附件中的高斯過程模型報告。
我四處查找過，但找不到任何關於此警告資訊的文檔/討論。
請問您能否給我一些指導？
-是什麼原因導致此訊息出現？
這訊息是什麼意思？
我還能相信這個結果嗎？如果不行，我該如何修正模型？
謝謝。
此致，
年
進階統計建模內容組織數據探索與視覺化實驗設計回复：高斯過程的警告消息：似然估計算法未收斂去除氣隙2怎麼樣？ 之後，-2Loglikelihood 變化多少，預測變化多少？
模型擬合方法是最大似然。 這是一種嘗試在表面上找到最大值的優化技術。 理想情況下，估計值是表面到達頂部的位置。 當您看到此警告消息時，通常意味著算法不確定它是否到達頂部。 不一定意味著它沒有。 在這裡，我懷疑它到達了頂部，但不確定，因為氣隙 2 對模型的貢獻很小。
回复：高斯過程的警告消息：似然估計算法未收斂非常感謝您的及時回复。 您能否詳細說明一下模型擬合方法？
我的 DOE 中有 700 種治療方法。 這是否意味著，對於每次處理，算法都試圖在表面上找到最大值？
你指的這個表面是什麼？
謝謝你。
回复：高斯過程的警告消息：似然估計算法未收斂在你的情況下，每一種治療都是一種觀察。 您所有的 700 次治療形成一個數據。 GP 模型建立在觀察給定參數的數據的概率的定義之上。 該概率是未知參數的函數。 這個函數稱為似然函數。 該函數可以可視化為參數定義的坐標系上的表面。 所以只有一個表面。 最大似然法將嘗試識別該表面上的最高位置。
這是我認為可以訪問且嚴格的材料的鏈接：最大似然估計您可以跳過示例 1-1。
GP模型的定義可以在這裡找到：高斯過程平台的統計詳細信息粗略地說，GP 模型假設數據來自多元正態分佈。 利用這些信息，定義了似然函數。
回复：高斯過程的警告消息：似然估計算法未收斂感謝彭您提供的非常翔實的回答！
如果您不介意，您能否還解釋一下預測公式和折刀預測值之間的區別？
為什麼實際預測圖繪製實際值與折刀預測值而不是預測公式預測的值？
另外，不使用nugget，預測公式的預測值與實際模擬數據完全一致？ 這是如何運作的？
GP 預測的預測方差分佈（因子設計 DOE 中“評估設計”選項卡中的那個）是什麼樣的？ 是隨機的嗎？
有什麼方法可以驗證 GP 模型嗎？ 我通常會運行幾百個額外的點，並在原始數據集（預測值 - 模擬值）和驗證數據集（預測值 - 模擬值）之間的殘差進行測試和不等方差測試。 這種方法對 GP 模型仍然有效嗎？
謝謝你。
回复：高斯過程的警告消息：似然估計算法未收斂預測（沒有塊金擬合，使用所有數據）應該等於相應的觀察。 這就是GP模型的本質。 如果您繪製實際值與此類預測值，您會得到一條直線，這不會讓您深入了解模型在新數據上的性能。 折刀 (折刀重採樣) 預測通過忽略該觀察來預測每個觀察。 Jackknife GP 模型將完美地擬合所有剩餘的觀察結果，除了遺漏的那個。 這種方法可以讓我們深入了解模型在新數據上的表現。 因此，它們是不同的。
沒有金塊，我們又回到了香草 GP 模型。 我不確定您所說的“這是如何工作的”是什麼意思。 使用 nugget，您可能需要研究這種技術：嶺回歸正如我所提到的，該模型假設一個多元正態分佈，任務是找出協方差結構，如果沒有像嶺技術這樣的技巧，這有時會很有挑戰性。
我不熟悉 DOE 平台中的應用程序。 如果您可以詳細說明，例如獲取您感興趣的特定報告的步驟，也許我可以提供進一步的幫助。 您可能想看看其他社區成員是否可以回答。 如果您暫時沒有看到任何答案，請考慮針對該特定問題打開一個單獨的線程。
我不確定是否要驗證 GP 模型。 但我們當然可以評估它在新數據上的表現。 一種方法是查看您的新觀察結果是否在其預測區間內。 為此，請保存預測和方差公式，然後將新數據附加到表格底部。 公式將評估以產生預測和方差。 有了觀察，它的預測，它的預測方差，剩下的就是 z 檢驗練習。 而且我不確定在這種情況下等方差是否相關。
回复：高斯過程的警告消息：似然估計算法未收斂非常感謝您提供了非常豐富的回复。
關於模型驗證，我還有一些問題。
我在回復中附加了 JMP 文件，其中包含原始數據集（前 700 個點）和驗證數據集（最後 300 個點）。
我通常會計算兩個數據集的預測值與實際模擬結果之間的差異，並在測試中查看兩個數據集的差異是否具有相同的均值。 對於這個特定的數據集，t 檢驗告訴我兩個數據集的差異在統計上沒有差異。
但是，當我嘗試使用兩個數據集的預測方差公式測試方差時，它告訴我方差的平均值在統計上是不同的。
哪種方法對驗證模型的預測能力是正確的？
謝謝你。
回复：高斯過程的警告消息：似然估計算法未收斂我沒有詳細說明我的方法的步驟。 這裡我用你的數據來說明。
首先創建一個新列
這是預測的標準誤差。
現在創建另一個列，我稱之為“6sigma”。 這是一個指標列，用於查看差值的絕對值是否在 6-sigma 以內。 Yes 表示 1，no 表示 0。 對於訓練行，分配缺失。 確保列類型是分類的。
現在取消排除驗證行。 並在其上運行分發。
我看到大約 95% 是的。 這告訴我模型做得很好。
回复：高斯過程的警告消息：似然估計算法未收斂非常感謝您進一步闡述您的方法。 那太棒了。
我不太明白如何解釋 JMP 中的 if 函數，請您解釋一下嗎？ 是“。”在等式第一行的 -> 之後？ 這意味著什麼？
如何將“缺失”分配給訓練行？
你說 95% 告訴你模型做得很好。 這種判斷的標準是什麼？
您能否在回復中附上帶有模型評估的文件？
謝謝你。
回复：高斯過程的警告消息：似然估計算法未收斂您可以在此處找到有關 IF 函數的語法：如果. 或者，如果您準備迎接學習 JMP 腳本語言的挑戰，您可以從這裡開始：腳本指南.
我展示的 If 語句可以理解為：如果行號小於等於 700，則分配缺失值，否則根據差值的絕對值是否小於 3 個標準誤，分配 1 或 0。
換句話說，該公式計算預測誤差是否在 6 個標準誤差之內，或稱其為 6 sigma。
我所說的模型做得很好是主觀的。 但我要解釋一下我的意思。 如果預測誤差具有正態分佈，則 6 sigma 包含分佈的中間部分，該部分包含超過 99% 的概率。 我們希望看到預測錯誤以超過 99% 的機率落入這個桶中。 然後我們說模型正在完成它的工作。
現在對於這個特定的數據，驗證集是大約 300 個觀察值，我們看到大約 95% 屬於這個桶。 壞消息？ 不必要。 我之前關於 99% 機會的陳述是假設有更多的驗證數據可以測試，我們希望看到 99% 以上的機會。 對於僅 300 次觀察，其中 95% 是主觀判斷。 如果我看到 80%、70%、60%，我會越來越懷疑。
我按要求附上文件。
