[调查]关于服务端的 log 的疑问

2014-03-03 01:58:18 +08:00
 humiaozuzu
大家能不能分享一下自己的公司怎么做的?
- 比如手游公司,运营人员要能在web中看到用户充值的记录?(某个用户充值后发现钱没有到账,他会去找运营人员)
- 比如运营想知道最热的商品有哪些,你们是用log做的吗?还是在数据库中添加一些项来记录,还是专门用的数据库记录?

大家还可以从下面的方向分享下自己公司的方案,无论是small还是large的scale

## what to log

1. nginx/webapp/database 等系统的
2. 业务和运营相关的日志类似,支付相关的操作/安全相关的操作/用户数据分析的log


## where to log

- 到文件
- 到数据库系统中
- 到日志聚合系统中去

## visualization

- 老板想看看今天用户量
- 运维想看看今天的 4xx log有没有人攻击系统
- 后端想看看 5xx log 修 bug
- 运营人员想在 web 后台中看到昨天最热的xxx,然后放进推荐的栏目

我们目前用到的(很简单)
- 5xx log app会丢到 sentry 里面
- 4xx 跑 cronjob
- google analytics 上面看业务数据
3194 次点击
所在节点    问与答
9 条回复
binux
2014-03-03 02:15:01 +08:00
记录到文件,收集起来统计,记录到另一个数据库
humiaozuzu
2014-03-03 02:25:34 +08:00
@binux 就是说,douban目前是在dpark离线计算来分析业务日志

另外,其他的问题方便告知否?
- 日志搜集工具是
- 记录到另一个数据库后可视化用的是什么
- 监控,报警,监控数据可视化用的是什么
- 你们有每月/周生成数据报表的需求吗?用的是什么工具
- 豆瓣读书中涉及到了资金交易,这些log是如何处理的呢?
misaka
2014-03-03 02:28:48 +08:00
lembacon
2014-03-03 02:53:56 +08:00
@humiaozuzu

- 服务端日志搜集是用 scribe;
- 数据可视化 MicroStrategy;
- 监控 Graphite;
- dpark;
- scribe + dpark。
humiaozuzu
2014-03-03 03:24:43 +08:00
@lembacon
- 报警用的Seyren?
- 资金交易方面的log dpark计算后也是和其他数据放一个数据库,一样的用MicroStrategy做可视化?
lembacon
2014-03-03 03:28:51 +08:00
@humiaozuzu

- 报警目前还是用到 Nagios。
- 资金具体并不是很清楚,帮你 cc @iwinux
happy123
2014-03-03 08:02:16 +08:00
业务log进数据库
服务端,监控用logstash+elasticsearch

后面elasticsearch我胡说的,我一直觉得这是个好东西,但似乎用的人不多。
humiaozuzu
2014-03-03 09:08:36 +08:00
@happy123 业务 log 为什么不丢进 elasticsearch 呢?
binux
2014-03-03 10:56:55 +08:00
@binux 我厂貌似大都是自己写的

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/102589

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX