Python 里面 np.savetxt()和 pickle 本地化时，两个性能对比怎么样

[DongDongXie]

如题，数据量比较大，想把一个 ndarray 保存到本地，这两种方法和直接 write 到本地性能相比怎么样，我试了下 savetxt()有点慢，请问大家有什么比较好的方法吗

[glasslion]

试试 Apache Arrow(Apache Parquet Format)

[xpresslink]

cPickle 了解一下

[DongDongXie]

@xpresslink 以前用过这个，据说比 pickle 快

[deepreader]

massage pack 了解一下

[wwqgtxx]

明明就有正宗的 np.save
https://docs.scipy.org/doc/numpy/reference/generated/numpy.save.html
非要用其他的序列化方法干嘛

[wwqgtxx]

其实还有一些蹊跷意淫的办法，比如你先 pickle 保存 ndarray 的 dtype size shape 三个属性，然后用 memcpy 直接保存 ndarray 的 data，那是一个 memoryview 对象，你可以用 mmap 或者直接 file.write 保存进文件，读的时候用 np.frombuffer 或者 np.fromstring 读进来后 reshape 一下就好了（ frombuffer 的话最后需要 copy 一下，否则当原 buffer 对象失效之后会出问题，当然如果你原 buffer 对象是从 mmap 获得的话那也没事，而且后续对该 ndarray 的修改还能用过 mmap.flush 写回硬盘）