我用了 JMP 探索最近的 FAA 無人駕駛飛機數據集 ,受到每週數據可視化挑戰的啟發 52Vis 。該數據集包含“無人駕駛飛機的報告”( UAS 來自飛行員,公民和執法部門的目擊。“我決定專注於探索時間數據。我將描述我如何準備時間數據,注意到其中的一些質量問題並相應地對其進行分類。幸運的是,JMP可以輕鬆地進行可視化數據清理。
準備數據
數據在兩個單獨的Excel文件中提供,JMP的Excel導入UI使用默認設置導入它們沒有問題。但是,列名有點混亂,甚至沒有相互匹配。


我清理了列名以匹配然後使用 CONCATENATE 在下面表菜單將一個數據表附加到另一個。 CONCATENATE 甚至處理了不同順序的列。

發現質量問題
我開始玩數據並註意到時間字段的一些質量問題。我創建了一個新列,從中提取時間約會時間列並為其製作直方圖。我打電話給它時間表因為我將在一天之後計算一個不同的時間。

最引人注目的特徵是午夜的飆升。事實證明,有很多次報導正好是凌晨12點,顯然是一個缺失的價值代碼。第二個特徵是中午較小但顯著下降。可能,一些正午時間AM / PM部分被錯誤編碼,並且在午夜時段(除了缺失值時間之外)報告了一些正午時間。
雖然分佈情況看起來不錯,但它似乎比預期的更加偏向晚上。如果只有一些方法來質量檢查時間值......
提取GMT
事實上,有一種方法可以質量檢查時間值!該報告列包含描述事件的自由文本,通常包括24小時GMT的報告時間(注意Z後綴)。

因此,讓我們提取GMT時間並與表格中的時間進行比較。我將根據正則表達式創建一個新的公式列,以在報告文本中提取“時間:”和“Z”之間的數字。

另一個將其轉換為JMP時間值(秒數)。

調用新的時間列提取時間Z. ,我們可以將它與散點圖中的表格時間進行比較,以揭示一些有趣的模式。

我添加了兩條對角線參考線。橙色對應於EST,靠近它的對角線簇是其他美國時區。灰色對角線是表格中的時間與GMT相同的位置。很多那些!奇怪的是,其中很少發生在下午1點(1300Z)之前,這對於美國的GMT瞄準時間似乎是合理的,但對於當地時間則不然。
分類時間
在這一點上,我們可以將時間視為三類:
失踪 - 自由文本中沒有GMT時間相同 - 格林威治標準時間與“當地”時間相同抵消 - 格林尼治標準時間偏離當地時間,通常對美國來說是合理的我添加了幾列來計算該分類,然後為每個類別繪製直方圖。

現在我們可以看到相同類別如何將當地時間扭曲到晚上。偏移類別在白天有更高的預期峰值,並且與GMT時間缺失的時間匹配良好。由於編碼問題,後者都受到12:00 AM尖峰和12:00 PM下降的影響。目前尚不清楚為什麼相同類別的分佈基本均勻。它可能是兩個偏移正態分佈的組合,一個用於東海岸,一個用於西海岸。
結論
通過考慮提取的GMT時間,我們可以過濾掉可疑時間值,以進行進一步的基於時間的分析。 也就是說,我們對從GMT抵消的當地時代更加信任。由於那些錯過GMT時間的人有類似的分佈,我們可以使用那些有相似信心的人。
52Vis的挑戰是針對腳本解決方案,幸運的是JMP提供了兩種類型的接口:交互式和腳本式。雖然我最初的探索使用了交互式界面,但我在JMP腳本語言(JSL)中創建了一個腳本,用於重現我所有步驟的挑戰。如果你有興趣,你可以看到JSL 這篇文章的早期版本在GitHub上。
還有幾件事......
即使只有幾列數據,還有更多需要探索的內容。你可以使用地理編碼器插件將城市/州轉換為經度和緯度以進行製圖。
您是否注意到我展示的報告文字中的高度數據?大量報告都有高度數據,有時還有無人機外觀或大小的信息。