有時空虛是有意義的。如果貸款申請人將他的債務和工資領域留空,難道你不認為空虛是有意義的嗎?如果求職者將以前的工作空白留空,難道你不認為空虛是有意義的嗎?如果一個政治候選人為最後被定罪的重罪填寫了一個空白字段的表格,那麼空虛就有希望提供積極的信息。缺失的值也是值 - 它們在我們的統計方法中更難適應。你不能對它們進行算術來找到手段。但你仍然可以用實際的方式使用它們。
一些數據集充滿了缺失值。如果缺少任何X,標準方法必須放棄整個觀察。如果您使用大量變量建模並且缺少一個或另一個變量,則最終可能無法估計數據。此外,即使您最終得到足夠的數據,只要使得缺失值的機制與響應相關,那麼該部分數據可能是數據的偏差樣本。結果有偏見。
解決問題的一種方法是歸罪 - 您估計缺失值,或者在某些情況下,您提供缺失值的分佈,從而生成答案分佈。估算是一個豐富的統計領域,有大量文獻。某些類型的插補很容易 - 比如通過從所有不丟失的X變量中預測它們來估計缺失值。其他類型很難,並涉及到為什麼價值觀缺失的機制。
但是假設我們只是數據挖掘者 - 我們只是想要一些簡單的東西投入大型預測模型來恢復我們原本不得不拋棄的所有觀察結果。
另外,假設缺失的值是提供信息的。當你研究數據來預測貸款是否糟糕以及貸款申請人是否留下他的收入或他目前的債務缺失時,我們可能更好地假設申請人因為某種原因而在這裡迴避。離開現場失踪的行為是對申請人貸款風險的強有力線索。
我們不會嘗試預測丟失的字段,而是為其編碼。如果該字段是分類的,我們只將缺失視為另一類。如果該領域是連續的,我們必須做其他事情。對於該變量,我們在設計矩陣中為每個連續回歸量X創建兩列:
X連續= if(IsMissing(x),x,xbar)X缺失= IsMissing(x)
第一列只是X,除非缺少X,在這種情況下我們用X的平均值代替。第二列是缺失的指標。
這些設計列中的每一個都具有為其估算的參數。第一列將是所有非缺失X的估計值。第二個是如果缺少X,預測Y必須改變多少,其中變化是從平均X預測的Y來測量的。
這種缺失值編碼長期以來一直被用作實用方法。在 JMP ,它是在JMP 10中引入新的神經平台。現在用 JMP 11 ,我們正在為大多數其他Fit Model平台推出它。
在過去,我們支持數據挖掘主要適用於神經和分區平台,這些平台缺少價值處理。當數據中存在許多缺失值時,常規建模平台會受到影響。現在我們有一個選項“信息缺失”,它指定在連續協變量缺失值時使用缺失值編碼系統,並且還使用缺失值級別進行分類缺失。
示例目錄有一個名為Equity的數據集,它是一個具有大量缺失值的標準預測建模示例。例如,列DEBTINC缺少22%的值。
在沒有信息缺失的情況下,後勤擬合僅使用了5,960個觀測值中的3,364個。但是,對於Informative Missing,所有數據都適合。如果沒有Informative Missing,則Rsquare為.23,但在Informative Missing中,Rsquare為.45。我們正在進行更多的觀察,並且更適合。
請注意,在報告中,許多連續回歸量器都有兩個參數:例如,MORTDUE或Mean if Missing,MORTDUE Is Missing。如果指標“Is Missing”中的參數估計值不重要,那麼使用平均值的估算就可以了。但是如果值很重要,那麼缺失值與平均值相比有所不同。


你可以先做很多努力,然後讓公式列回歸。使用JMP 11,您只需單擊一個名為“Informative Missing”的菜單項。
現在,Fit Model平台已準備好加入傳統的預測平台,以製作預測模型。順便說一句,Informative Missing在Fit Model平台中 JMP 11 對於大多數適合的人物。
注意: 這是一部分大統計 John Sall撰寫的一系列博客文章。讀完他的全部內容大統計帖子 。
親愛的馬丁,
我再次檢查了Bands Data.jmp文件,並使用兩列公式將缺失的連續變量轉換為列記錄數據的平均值,並添加了0/1的Indicator列以指定Is Missing / Non Igresss缺少數據,並重新使用2個新列運行回歸,並將原始數據的回歸與缺失值進行比較。
與JMP Pro相比,它仍然是一種冗長的方式,但至少它對我有用。
最好的祝福,
大衛
嗨大衛,
您提到的示例文件尚未附加。但是,公式應該可以解決,現在您需要將新列添加到回歸而不是原始列。如果缺失證明是有用的,那麼指標欄應該是重要的。在較新的JMP版本的信息缺失選項中,輸出將以一種方式生成,即重要變量將顯示為“Col 1或意思是否缺失”或Col 1缺失“正如您在John的屏幕截圖或最終中看到的那樣報告。
希望有所幫助,
馬丁
嗨馬丁,
在JMP7中,我使用ColMean(x)創建具有列均值(x)值的連續X:
IfMissing(X)=> ColMean(X);
=> X
和X缺失= IsMissing(x)
費力,但它可以揭示缺失數據值對樂隊的影響?(Y)
大衛
嗨大衛,
正如John在中間部分所描述的那樣,您可以為每個變量創建新的公式列。您只需為連續變量添加兩個新公式列(右鍵單擊新列並選擇公式):
X連續= if(IsMissing(x),xbar,x)
第二列只是指標:
X缺失= IsMissing(x)
請注意,我相信約翰的博客的公式是一個錯誤,因為他有x作為缺失的結果,否則xbar。我認為這應該像我上面的公式一樣改變,因為你想在缺少變量的情況下添加列均值。順便說一句。您可以通過任何您認為合適的插補公式更改列平均值,因為並非總是意味著最佳插補(但這本身就是一個單獨的主題)。
現在您有兩列,您可以將這兩個列而不是凌亂的原始列添加到回歸中作為因子。
因為這可能是一個非常大的努力,如果你有很多預測因子,從JMP 11這個選項包括在內。
是否有任何特定原因導致您無法將許可證更新為較新的JMP版本(當前的JMP 13.1)?已添加更多內容,有助於模擬您可能想要查看的混亂數據。
問候,
馬丁
很有幫助。
我想了解Informative Missing是如何工作的,但我受限於將JMP7 / 8作為我的許可軟件。
我正在嘗試使用JMP7來運行Bands_Data.jmp的Robert Anderson Partition模型來複製該方法。
在處理保險數據回歸和製造變量時,這將非常有用,其中許多缺失的數據值阻礙了逐步回歸。
大衛阿什林
0783 400 6111