Waymo open dataset 数据集下载后,如何解压

2022-11-17 09:20:20 +08:00
 yiyi1010

waymo 数据集下载下来是 tar files ,在不同的文件夹中,请问有人知道什么方式解压最方便吗? 是需要进入不同文件夹,执行 ls *.tar.gz | xargs -n1 tar xzvf 请问有人用过这个数据集吗? OpenPCDET 和 MMLab, 对于解压方式,是不是也应该不也一样?

1055 次点击
所在节点    3D
4 条回复
FACEB00K
2022-11-17 20:19:18 +08:00
waymo 数据集不都是 tfrecord 的形式吗,我只用 gsutil 下载过单独的几个文件
yiyi1010
2022-11-18 11:44:22 +08:00
@FACEB00K 谢谢你哈。对,就 gsutil 下载下来的是 tar files , 你这里是用什么解压的,解压之后应该就是 tf 文件, 你是分别在 training ,testing ,validation 每个文件夹里面 执行 ls *.tar.gz | xargs -n1 tar xzvf ,进行解压吗
FACEB00K
2022-11-18 20:45:01 +08:00
@yiyi1010 我用的 Colab 跑的 tutorial code ,数据直接下载在了 Google Drive 里面,`gsutil -m cp -r
"gs://waymo_open_dataset_motion_v_1_1_0/uncompressed" . ` 这个命令下载下来直接就是原来的结构,不需要解压。
anyway ,其实随便怎么解压,最后和原来的目录结构一样就可以了,目录结构不深,随便怎么搞,最后 mv 移动一下就行
By the way ,你数据集下载之后一共多大😭😭😭
yiyi1010
2022-11-20 09:03:43 +08:00
@FACEB00K 是的,蛮大的,我全部下载了( testing ,training ,validation ,domain adaptation 四个文件夹),大概 1.8T ,但是你就是说手动进行处理成 OpenPCDET 需要的样式

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/895832

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX