錯過真正的效果很糟糕,但識別虛假效果可能更糟Robert Anderson JMP 資深系統工程師
科學家和工程師需要能夠為其製程或產品找到最佳模型,並正確識別哪些因素真正重要,哪些因素不重要。通常,最令人擔憂的是錯過重要或關鍵的因素。然而,一個更隱密、可能更嚴重的問題是,統計建模方法經常識別出統計顯著但並非真正活躍的因素。識別這些非真實效應會導致寶貴的科學和工程資源被浪費在進一步研究這些虛假效應上。識別出有缺陷的模型和非真實效應可能需要耗費大量的時間和資源。 JMP Pro 中的保留驗證方法提供了一種強大的方法,即使在資料集相對較小的情況下也能抑制這種模型過度擬合問題。本文將使用模擬資料集,展示檢測非真實效應問題發生的頻率和容易程度,以及保留驗證如何有效抑制這個問題。然而,保留驗證並非靈丹妙藥,本文也將展示一些其效果不佳的例子。