大佬们,有 2T 数据需要在多台服务器之间共享

2019-11-06 11:46:24 +08:00
 jakezh

目前在做一个小玩意儿,有一个下载器每天下载 1T 数据到硬盘里面. 需要保留两天的数据, 一共 2T, 这些数据要共享给另外 10 台服务器。 以前一直在用 aws EFS(NFSv4)做的, 在每台服务器上 mount

但是前两天发现 EFS 读取大文件的时候特别慢 各位大佬有什么解决方案吗

mount -t nfs4 -o nfsvers=4.2,rsize=1048576,wsize=1048576,hard,timeo=600,retrans=2

用的参数如上,是我参数选的不对吗

2354 次点击
所在节点    问与答
21 条回复
jakezh
2019-11-06 11:51:02 +08:00
为了暂时解决,开了另外 3 台服务器,做了一个分布式网络硬盘
成本稍微有点贵啊, 需要用到 3*2T 的硬盘 加三台服务器, 一个月快$1000 了
一月少一台 iPhone。。。。不开心
greatdancing
2019-11-06 11:53:47 +08:00
小一个级别用的 btsync
jakezh
2019-11-06 11:57:25 +08:00
@greatdancing #2
不能用 sync 类的。。。10 台服务器每台上加一个 2T 硬盘贵死了
jakezh
2019-11-06 11:57:54 +08:00
等一下 我好像算错了,EFS 的价格是 EBS 的三倍,实际上我只多付了三台服务器的钱
chinuno
2019-11-06 12:03:58 +08:00
ipfs ?
icekingcy
2019-11-06 12:06:28 +08:00
歪楼 问个 内网 高速共享文件的方案 NAS 似乎速度并不高啊 上不了 500MB/S
binux
2019-11-06 12:11:08 +08:00
EFS 默认是 burst 模式,会根据你使用的容量生成 credit。速度慢应该是你的 burst credit 用完了。
greatdancing
2019-11-06 12:13:04 +08:00
@jakezh 你的共享指的是?
jakezh
2019-11-06 12:13:32 +08:00
@binux #7
感谢大佬,我去查一下 log
jakezh
2019-11-06 12:18:24 +08:00
@greatdancing #8
其实只需要公用读,不需要公用写
lynnX
2019-11-06 12:38:36 +08:00
https://juicefs.com/ 这个应该可以解决你的问题
johnniang
2019-11-06 12:41:29 +08:00
https://min.io/ 不知道这个是否可行
snw
2019-11-06 17:33:40 +08:00
@greatdancing
BTSync 之类的双向实时同步不靠谱的,被坑过。
greatdancing
2019-11-06 17:40:00 +08:00
@snw 请问现在的解决方案是?
openbsd
2019-11-06 17:54:00 +08:00
10 台都要写还是只读 ?
NFS 问题不大啊,试试只读挂载 ?
openbsd
2019-11-06 17:57:18 +08:00
.....我好像偏题了.......[狗头保命]
ungrown
2019-11-06 18:44:13 +08:00
@icekingcy 存在瓶颈的地方很多的,软件本身,系统调度,硬件方面 CPU、网卡、硬盘,这些都有可能造成瓶颈,多个瓶颈一起来,速度就被掐死了。
flynaj
2019-11-06 18:50:38 +08:00
syncthing 同步一下 。
yuyuko
2019-11-07 19:02:29 +08:00
10 台,每台吞吐多少?到底是多慢讲一下啊
jakezh
2019-11-07 21:17:01 +08:00
@yuyuko #19
每天每台平均读 1.5T 左右吧

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/616800

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX