4M 以上一条记录,使用什么数据库好?

2015-07-03 14:03:03 +08:00
 lianghui
请教大家一个数据库问题

现在遇到一些关于数据库的问题:

1.单条记录大小在4m以上
2.每秒需要插入100条记录左右
3.单机的话硬盘几个月就被写满
4.需要较高的查询速度(能支持SQL原语查询最好了)

有什么好的数据库解决方案吗?
3788 次点击
所在节点    程序员
23 条回复
whahuzhihao
2015-07-03 14:12:21 +08:00
1秒钟写400M数据? 关注下,等待大神解答
fredcc
2015-07-03 14:14:32 +08:00
好奇怎么大的数据为啥要进数据库
sobigfish
2015-07-03 14:22:31 +08:00
就是 不能把需要查询的放入数据,不需要的放入fs然后index么?
loading
2015-07-03 14:32:18 +08:00
一楼真相!
写到文件系统都压力不小吧…
9hills
2015-07-03 14:35:51 +08:00
按照你这个写入速度,1个月写1PB。不止是单机打满吧。现在有好几PB的单机?
lianghui
2015-07-03 14:44:46 +08:00
@whahuzhihao @9hills 看附言
felixzhu
2015-07-03 15:04:31 +08:00
DFS
Ashitaka4
2015-07-03 15:58:17 +08:00
oracle+lob字段表
mhycy
2015-07-03 16:01:07 +08:00
4M一条应该不是文本数据来的吧?用文件吧。。。
wy315700
2015-07-03 16:05:47 +08:00
mongodb GridFS也可以试试看
kaneg
2015-07-03 17:44:58 +08:00
如果这个4M的数据是不变的,比如是照片之类的,放在文件系统应该是最好的。如果要从文件系统把文件读出来再存到数据库,单单网络带宽和IO压力就是一笔不小的开支。
zhicheng
2015-07-03 17:48:50 +08:00
S3
xufang
2015-07-03 17:50:45 +08:00
weedfs
loryyang
2015-07-03 18:03:49 +08:00
算了一下,一天34T数据,和我这边处理的数据量差不多,我们这里可是用了一整套的解决方案来搞定的,我不明白,你们的数据量如此之高,之前是怎么做的?
解决方案是慢慢进化的,如果刚上就这个量级,而你还需要来v2咨询解决方案,那我建议还是招一个有经验的人协助下吧,这绝对不是一个简单的问题。
比如你如何保证数据不重不丢,如何实施多副本冗余,如何进行挖掘,如何应对网络延时,对数据积压采取什么解决方案,如何节省存储和计算资源
更不用说基础软件的维护了,如果用hbase,那么hadoop集群的搭建和维护(这个集群肯定有一定规模了),是否具备足够的hadoop和hbase实战经验,据我了解,hadoop的集群参数设置也是很有学问的
openroc
2015-07-03 18:04:42 +08:00
关键是,数据要不要索引,查询
idblife
2015-07-03 18:07:16 +08:00
1秒400M???
idblife
2015-07-03 18:09:36 +08:00
目前什么存储能达到1秒400M的写入,求指教。
lhbc
2015-07-03 18:18:30 +08:00
假如存一年数据,4*100*60*24*365/1024/1024 = 200T
这么大的数据,要分布式加多份存储,所以预算1PB的硬盘容量
单是存储就是几百万的成本,还不算开发、运维、运营、带宽的成本,一年总要千万的投入吧,为什么会来这里问……
fredcc
2015-07-03 18:20:40 +08:00
@idblife 10Gb级别的存储达到400M写入无压力,SSD+近线配置就可以,关键是这么大数据量的储存和使用。
9hills
2015-07-03 18:22:22 +08:00
每分钟400M的话,用HBase是可以的。

200T的话,现在的存储机器是3*12T,10台机器怎么够了,几十万而已

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/203058

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX