V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
iamecho
V2EX  ›  Apple

一个开源的集日志和事件流数据收集,过滤,传输及响应的轻量级数据采集系统, Logcool

  •  
  •   iamecho · 2016-09-08 21:19:28 +08:00 · 3279 次点击
    这是一个创建于 3000 天前的主题,其中的信息可能已经有所发展或是发生改变。

    Logcool 是一个开源的集日志和事件流数据收集,过滤,传输及响应的轻量级数据采集系统。 https://github.com/wgliang/logcool

    Logcool 的设计灵感来自 Heka 和 Logstash ,它的实现受到了 gogstash 的启发。重要的是它的目标在于解决前面系统的一些弊端,例如系统庞大或者不能容易的在业务环境中部署,在这方面 gogsyash 实现的已经非常好了,不过我不看好的是依赖过多非标准库,在结构上也不够简单清晰。这是为什么我将 gogstash 重构并重新设计一些逻辑的原因。

    由于很难完全满足不同场景下的需求,这个库更多的是提供基础插件,例如数据的加密和解密,数据的压缩和解压缩,数据格式的转换,支持文件,命令行或者其他系统的输出格式,支持 redis , influxDB 和 MySQL 数据库等等。重要的是,你可以根据自己的需要轻易的开发符合自己需求的插件,并轻松的使用它。

    已经完成和未来会增加的插件:

    file 数据来源是文件,例如日志文件

    stdin 从控制台获取数据,这个调试和示例会用到

    http 从网络获取数据,支持 post , get 等

    collectd 监控系统性能数据,例如 CPU ,内存,网络,硬盘等等

    zeus 简单的打标签过滤器

    metrics 打点计数器,可用于告警和 dashboard 生成

    grok 正则过滤数据,支持多模式匹配

    aes 加密

    zip 压缩

    json json 格式化

    stdout 标准输出到控制台

    redis 将数据打入 redis 数据库

    influxdb 数据导入 influxdb ,这个对于时序数据很有用

    email 通过 email 发送消息,比如告警和服务异常通知

    exec 发送消息执行命令或脚本

    mysql 将数据写入 mysql

    pg 将数据写入 pg

    3 条回复    2016-09-09 08:41:11 +08:00
    tairan2006
        1
    tairan2006  
       2016-09-09 00:42:04 +08:00 via Android
    发错节点了吧… Heka 废弃了以后一直找替代品, mark 一下回头参考
    SevenJ
        2
    SevenJ  
       2016-09-09 07:53:26 +08:00
    @tairan2006, 你可以看下 filebeat
    fwrq41251
        3
    fwrq41251  
       2016-09-09 08:41:11 +08:00 via Android
    道理我都懂,为什么是 apple 节点
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1443 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 25ms · UTC 17:18 · PVG 01:18 · LAX 09:18 · JFK 12:18
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.