celery 如何预防 redis 出现单点故障

2017-05-26 20:47:59 +08:00
 resolvewang

我使用 redis 作为 celery 的 broker 和 backend,但是出现了这么一个问题,当 redis 挂掉之后,celery worker 节点就无法工作了,我在网上也查过 redis 的高可用方案,比如 redis sentinel,但是这种方式好像很难和 celery 结合起来。

大家有不有啥比较好的方法,求告知

3755 次点击
所在节点    问与答
5 条回复
bingxx
2017-05-27 10:28:15 +08:00
不知道 celery 是否支持 redis cluster。支持的话,可靠性会高很多。
julyclyde
2017-05-27 17:52:46 +08:00
别想太多
根本犯不上
resolvewang
2017-05-30 10:14:14 +08:00
@bingxx redis cluster 目前 celery 官方没有支持,ask 在 issue2852 说了( https://github.com/celery/celery/issues/2852)。所以比较困惑
resolvewang
2017-05-30 10:16:08 +08:00
@julyclyde 此话怎讲啊?我前段时间运行一个 celery 写的分布式爬虫,结果我的 redis 服务器挂了,所有抓取节点就相当于挂掉了。请问有啥方法能提高它的可用性吗?
julyclyde
2017-06-01 22:30:13 +08:00
@resolvewang redis 足够简单,以至于很难挂了
redis cluster 很烂,近几年还是别费劲了

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/364091

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX