文件打開/導入速度你好
我們正在創建一個數據傳遞系統。最終的數據收集將被推送到JMP進行分析。但是,我們發現打開文件所花費的時間因文件類型而異。理想情況下,我們希望導入hdf5文件,但根據我們的分析,導入速度極高。隨附的圖表演示了導入速度。顯然,我們承認JMP文件是最快的,但是無法創建JMP文件(JMP中除外),因此對於我們當前的基礎結構而言,這不是一種選擇。

回复:文件打開/導入的速度感謝您的帖子。
- 您是否正在尋求有關選擇文件格式的建議,還是要求改善HDF導入性能?
- 您對系統寫出的數據具有絕對控制權,還是選擇有限?
- 以上所有比較都將文件讀入JMP嗎?
- 我在閱讀/解釋傳說時遇到麻煩。您能解釋一下您比較過的各種格式嗎?
- 您指示了對HDF的偏好。HDF格式為您帶來什麼好處?
- 您可以提供任何樣本HDF文件供我們在此處進行比較性能測試嗎?
回复:文件打開/導入的速度哇,我們反應慢。 我與Kevin一起完成了這個項目,但我沒有意識到他曾在這裡請教。
我們確實可以控制輸出格式。 在JMP中打開文件時,我們既需要有效的文件大小(為了提高文件傳輸效率)又要提高速度。 我們看到的唯一的開源壓縮格式是HDF5,但是JMP HDF5的導入似乎非常有限。 我們僅找到一種創建HDF5文件的方法,JMP可以將其直接導入到數據表中(大多數HDF5文件結構觸發“嚮導”),但是這種格式的導入速度很慢。 使用Python JMP界面打開並不會給我們帶來任何好處,因為它似乎仍保存為CSV,然後將該文件導入JMP。
所以...我很樂意幫助其中之一工作(或更多!):
謝謝,
鮑勃
回复:文件打開/導入的速度我意識到我還有一個想法,我以為你不會做,但我應該提一下...
使用Python代碼將Pandas DataFrame直接導出到壓縮的JMP文件。
回复:文件打開/導入的速度已經三週了...我應該提交一份支持票嗎?