关于字段个数、类型不确定的数据处理,何种方式处理比较合适。需要做数据筛选和排序等

2015-08-18 22:26:50 +08:00
 sgissb1
我们后台有个日志服务,我们通过不规范的 json 格式作为容器保存日志数据。
然后日志数据存在文件里面,这些日志数据要做成可视化的。

现在问题来了,这个日志服务我们改动最多,尤其是字段往往会新增,而且新增还很多。

目前我们用 shell 做正则(后续用统一的 json 库来处理),将日志匹配出来然后在入库。

现在发现很麻烦,尤其是入库这里,一出现字段新增就要手动增加表字段,加不好还会带来性能问题。最后还要分表、分库什么的。

目前有没有什么比较灵活的方式来支撑我们频繁增、删、改字段并达到数据可视化(数据筛选和排序等)。通过页面做可视化。
1294 次点击
所在节点    问与答
3 条回复
9hills
2015-08-18 23:12:52 +08:00
mongodb,不过要想提高性能还得做些功课
sgissb1
2015-08-19 08:38:19 +08:00
@9hills nongodb 不是和 mysql 一样是关系数据库吗?难道是松散结构的?
sgissb1
2015-08-19 08:38:44 +08:00
@9hills 看错了,是非关系数据库

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/214145

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX