自建大数据平台,发现迁移数据好慢。

2017-11-16 14:47:45 +08:00
 findbrick

之前一直在阿里云上使用,最近在做数据迁移,工作倒是还算顺利,就是数据太大,拉取好慢。 不知道大家都是怎么迁移的,目前我们是使用阿里云 oss 做中转,然后下载到自建集群上。

3926 次点击
所在节点    程序员
12 条回复
gouchaoer
2017-11-16 14:59:04 +08:00
经验就是一股脑把数据复制到 hdfs 里面,然后导入 spark/hive 最快,都是阿里云内网迁移的话速度应该很快
gouchaoer
2017-11-16 15:00:30 +08:00
我写了一个从数据库迁移到 hive 得,如果是集群迁移到集群得话直接复制 hdfs 比较快吧
gouchaoer
2017-11-16 15:00:37 +08:00
lilongn1
2017-11-16 15:34:46 +08:00
阿里云做大数据不是进去容易出来难吗
findbrick
2017-11-16 15:53:33 +08:00
@gouchaoer 自建机群 不是阿里云的 是自己的机房
@lilongn1 再难也得出来啊
likuku
2017-11-16 16:24:02 +08:00
问问阿里云是否支持自己寄送硬盘到 IDC,让阿里云直接帮把数据导出到自己硬盘上带走的服务(类似 aws snowball)
icemanpro
2017-11-16 17:05:32 +08:00
@likuku 云市场有这服务。
icemanpro
2017-11-16 17:06:09 +08:00
@likuku 看错了,有导入的。
findbrick
2017-11-16 20:02:26 +08:00
@likuku 亚马逊可以上门对拷 开大货车 哈哈
WeberXie
2017-11-16 20:12:33 +08:00
带着硬盘直接去机房拷贝吧
findbrick
2017-11-16 21:26:19 +08:00
@WeberXie 几个 T 的数据不至于上门啊
4KMOMhIkocgLELMt
2017-11-16 21:45:16 +08:00
@findbrick 家里 100M 电信宽带每秒下载 12M,一天也能下 1T 咋…

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/406931

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX