日志用什么做存储会比较好?

2011-09-26 21:33:33 +08:00
 ayanamist
一个应用系统的日志采用什么作为存储引擎比较好?
纯文本的方式无论是阅读还是查找都很不方便。
使用MySQL数据库等又怕性能影响……
7791 次点击
所在节点    问与答
24 条回复
ayanamist
2011-09-27 14:47:15 +08:00
@summic 只要不吃那么多内存,占用硬盘的话logrotate还是可以接受的。
@ratazzi 我记得MongoDB是通过把数据加载到内存里来提高访问速度的?内存里不光是索引。请指正。
ratazzi
2011-09-27 16:29:59 +08:00
@ayanamist
内存里当然不光是索引,我简单测试了下
i3 2G ubuntu x86_64
一千万数据插入 7 分钟左右,最快的一次 3 分钟,内存最高只占到 14%,并且写入过程及写入完成以后都会有变化,不过 cpu 占用有点高,不知道是不是我用 wubi 装的原因
如果你有想存数据库的想法的话,还是自己测下比较准确
按照以前的使用来看 1.6.3 以前确实是有多少内存就使用多少,但是 1.8 以后不会
ayanamist
2011-09-27 16:34:19 +08:00
@ratazzi 原来后来变化了,我是1.6的时候在Gentoo下测试的,当时的内存占用把我着实吓坏了……thx,会进一步做可行性分析~
ayanamist
2014-10-19 04:51:36 +08:00
现在在阿里做内部的日志系统,回头看这个帖子,真是有些感慨。
高写低读可以用HBase,多行的问题可以用正则匹配贪婪模式。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/18644

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX