V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
sgissb1
V2EX  ›  问与答

关于字段个数、类型不确定的数据处理,何种方式处理比较合适。需要做数据筛选和排序等

  •  
  •   sgissb1 · 2015-08-18 22:26:50 +08:00 · 1330 次点击
    这是一个创建于 3387 天前的主题,其中的信息可能已经有所发展或是发生改变。
    我们后台有个日志服务,我们通过不规范的 json 格式作为容器保存日志数据。
    然后日志数据存在文件里面,这些日志数据要做成可视化的。

    现在问题来了,这个日志服务我们改动最多,尤其是字段往往会新增,而且新增还很多。

    目前我们用 shell 做正则(后续用统一的 json 库来处理),将日志匹配出来然后在入库。

    现在发现很麻烦,尤其是入库这里,一出现字段新增就要手动增加表字段,加不好还会带来性能问题。最后还要分表、分库什么的。

    目前有没有什么比较灵活的方式来支撑我们频繁增、删、改字段并达到数据可视化(数据筛选和排序等)。通过页面做可视化。
    3 条回复    2015-08-19 08:38:44 +08:00
    9hills
        1
    9hills  
       2015-08-18 23:12:52 +08:00 via iPad
    mongodb,不过要想提高性能还得做些功课
    sgissb1
        2
    sgissb1  
    OP
       2015-08-19 08:38:19 +08:00
    @9hills nongodb 不是和 mysql 一样是关系数据库吗?难道是松散结构的?
    sgissb1
        3
    sgissb1  
    OP
       2015-08-19 08:38:44 +08:00
    @9hills 看错了,是非关系数据库
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1294 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 18:02 · PVG 02:02 · LAX 10:02 · JFK 13:02
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.