缺少標稱數據你好。 我正在做一個班級項目,我需要根據住房數據集的許多預測變量來預測價格。 我已經清理了所有數字行,消除了異常值,現在我的問題涉及兩列:parking_options 和洗衣房選項。 在這兩列中,大約有 218,000 個行缺失值。 我的問題是如何處理丟失的名義資料。 它是資料集的很大一部分(共 384,000 個),我不想完全刪除這些行。 我知道有時數據會被故意留空,但我認為這不是我的情況。 有一些大型住宅在洗衣選項和停車選項中具有空值,因此我認為我不應該假設這些空值意味著沒有停車位和沒有洗衣房。
數據探索和視覺化視窗回覆:缺少標稱數據我認為你有兩個基本選擇。 第一個是採用/呼叫 JMP 中的「資訊缺失」功能。 以下是 JMP 文件中功能說明的連結: JMP 資訊缺失。 但這意味著您認為或至少願意假設在觀察缺失的事實中存在一些「資訊」。 比方說,出於隱私問題或其他一些原因,人們不願意對某些事情做出回應,這在缺失的觀察結果中很常見。 本質上,JMP 將「缺失」視為名目預測變數的附加水準。 第二種選擇是硬著頭皮,只使用具有預測變數所有值的觀測值。 您仍有大約 166,000 個觀察值需要處理。 最後,我會嘗試這兩種途徑並比較每種途徑的實際結論。 如果幾乎沒有實際結論表明不同,那麼「缺失」不會影響最終決定。
回覆:缺少標稱數據使用時資訊缺失,這是否意味著所有行遺失的數據屬於同一個“組” - 從以下角度來看資訊:資訊遺失的「原因」總是相同的?
即不是:
- 失蹤是因為其中一半既沒有洗衣房也沒有停車場,並且不想說,而其中一半是超級富豪,有 5 個停車場和 3 個洗衣店,但不想說。
回覆:缺少標稱數據有點兒。 即使在第二種情況下,也有一個共同點,無論出於何種原因都不願意回應。 這就是為什麼使用資訊缺失是一種信仰的飛躍。 以及為什麼我建議在有或沒有資訊缺失的情況下擬合模型,以查看每次分析之間的實際結論是否不同。
回覆:缺少標稱數據作為教授這些東西的人,除了 P_Bartell 的合理建議之外,我還有一些評論。無論是否有資訊缺失,您都應該嘗試。同樣,您應該以圖形方式研究具有缺失數據的房屋與具有有關您嘗試預測的因變量(大概是價格?)的完整數據的房屋的比較情況。換句話說,如果缺少洗衣選項的房屋的價格表現與具有這些選項的房屋相似(表現意味著與平方英尺等因素的關係),那麼也許這些選項並不那麼重要,你可以像P_Bartell 那樣「咬緊牙關」說。然而,硬著頭皮可能意味著忽略該變量,而不是忽略缺失資料的觀察結果。洗衣選項可能不那麼重要,而且該變數缺失的原因可能是隨機的(這就是「資訊缺失」將調查的內容,但我會透過額外的圖形調查來補充它。
我注意到的另一件事是你的評論“消除了異常值”。我意識到有些人教導人們這樣做,有些文本甚至指導人們這樣做。我不。我認為擺脫數據是個壞習慣。除非異常值看起來是錯誤,否則它們是您資料的一部分,我認為您不應該在沒有進一步理由的情況下刪除它們。使用相對於異常值不變的量測(例如中位數而不是平均值,您可以使用分位數迴歸來研究平均值)比消除異常值要好得多。
回覆:缺少標稱數據從歷史上看,所有偉大的發現都是從異常值開始的。 結果出乎意料。 丟掉它們意味著你無法發現新的東西。 該模型可以解釋這些異常結果。
回覆:缺少標稱數據優秀積分添加者@dale_lehman關於異常值。
並添加到評論中@馬克貝利,在存在異常值的情況下,您可以選擇受異常值影響較小的模型,例如基於樹的方法(提升樹、決策樹、隨機森林等)或向線性模型添加正則化(例如 LASSO 回歸)。
您也可以使用不同的參數或替代解決方案,例如稱重以減少異常值對模型的影響。