请问 V2er, 类似于 cnzz 这种大流量的统计工具, 大概的系统构架是什么样的呢? 有相关的开源项目吗?

[deben]

接了个小项目, 做一系列网站的流量统计, 流量比较大(相对单一网站), 全部加起来每天千万 PV 差不多, 那么整个系统的构架大概应该是什么样呢?

或者哪位同学用过或者了解过有关的开源项目吗?

PS: 由于某些特殊原因, 无法使用目前市面上的公用统计服务.

[zrj766]

piwik

[deben]

@zrj766 piwik 如果是多用户多站点支持, 貌似 piwik 改起来有点儿工作量, 不过看看 piwik 的源码来学习的确是非常好的思路.

[jugelizi]

自己做广告平台吗

piwik 还是不错的 随便改过一点
你还需要 Hadoop

[deben]

@jugelizi 请问, 千万 PV, 就需要 Hadoop 了吗? 我的想法比较简单, 用 Nginx 分发到几个服务器能解决问题吗? 另外, 这个级别的数据存储用 MySQL 就不行了吧, 需要上 noSQL 的数据库了吧?

[lecher]

日千万 PV ，第一个问题在写入量上面，但是算下来就是峰值一秒顶多就是一千的日志， MySQL 绝对可以扛得住，至于接收日志的 Web 处理如果单台的性能不行，分几台服务器可以扛得住。用 NoSQL 撑写入量在数据管理上更容易做分布式。
其次是分析计算，这个重计算的事情，看业务有多复杂了，如果计算模型很复杂用 spark 、 Hadoop 这类的计算框架来节省开发成本也不错。如果不是很复杂就是简单的统计汇总可以不用那么重型的计算框架，自己写。

[deben]

@lecher 非常感谢, 受益匪浅!