有关 分布式任务处理 Celery 的小问题

2017-07-19 23:13:38 +08:00
 NoBeeBee
最近一直在捯饬分布式任务处理的问题,在探索的路途中感觉发现了一个宝---celery。 感觉好牛逼的一个分布式任务处理的开源框架。但仔细找了找相关资料,除了国外官网的资料,目测国内百度上面搜了搜也都是一些入门的小栗子,完全没有体现出 celery 的正常实力水平。

难道各位大神没有用过 celery 吗?
还是我太 low 了,已经没人玩 celery 了。。。

难道各位不用 分布式任务处理吗,还请各位给小弟指点迷津
4822 次点击
所在节点    Python
29 条回复
Anlim
2017-07-19 23:21:12 +08:00
django + celery 使用中,但是 celery 有时候会莫名其妙的暂停。。。所以在坑中。
chengxiao
2017-07-19 23:23:08 +08:00
我也是,要用做个消息队列,但是国内教程很少,很笼统
NoBeeBee
2017-07-19 23:47:41 +08:00
看来还有有同一个战壕的战友, 我找到国内某位先驱写的 国外官网翻译,不管是版本较低( 3.1.7 ),而且只翻译了最基本一点儿,后面都没有翻译。
最近常时不时查看国外官网,每次都要用绊脚的英语去 yy 官网用意,快累到死。
真想接着这位大神的脚步一起把这玩意都翻译完,以造福大众。但感觉他那个站好像不更了,指路中----》
http://docs.jinkan.org/docs/celery/
就是上面这个站,好想找他一起接着撸 代码
NoBeeBee
2017-07-19 23:48:36 +08:00
@Anlim 你是怎么个停法
NoBeeBee
2017-07-19 23:51:17 +08:00
@chengxiao 看来你也找了有一阵子真实案例了吧。有没有什么成效
misaka19000
2017-07-20 03:39:38 +08:00
官方文档差不多够用了吧
cszeus
2017-07-20 07:54:23 +08:00
有个 http://python-rq.org/ 似乎更轻量一点。
JasperYanky
2017-07-20 09:42:47 +08:00
我不会用 celery 不会用 rq 所以用了 huey https://github.com/coleifer/huey
NoBeeBee
2017-07-20 09:44:00 +08:00
@misaka19000 够用是够用,但对于英语战斗力较低的同学来说(譬如本人),还是有些望而却步。
NoBeeBee
2017-07-20 09:47:07 +08:00
@JasperYanky
@cszeus 等我把 celery 这个坑趟平了,再去试试哦
JasperYanky
2017-07-20 09:50:45 +08:00
@NoBeeBee celery 确实强大,我之前也用过, django 配合 celery 有个库,但是我一直搞不定特定任务进特定队列的功能,爬了好多文 官方文档也看了 就是解决不了。后来发现,我好像不需要这么强大的东西,直接用了最简单的异步框架,目前很完美
JasperYanky
2017-07-20 09:51:31 +08:00
@chengxiao 试试 huey 相当好用
FiveDDD
2017-07-20 09:51:43 +08:00
我是一直看文档做的,我感觉文档很详细了啊
NoBeeBee
2017-07-20 09:55:14 +08:00
@FiveDDD 国外官网吗?
yongzhong
2017-07-20 09:56:05 +08:00
python 项目基本 celery 标配啊,国内资料少那也是没办法的事,费尽心思写一篇 celery 的博客可能还不如一个 spring mvc 集成教程阅读来的多(非黑)
stackoverflow+官方文档基本就能解决一切了
NoBeeBee
2017-07-20 09:57:32 +08:00
@JasperYanky 我前两天刚试了试 router 功能, 貌似可以跑通。要不要和你分享一下
ylcc
2017-07-20 09:57:37 +08:00
我觉得长期是应该提升英文水平,短期可以看看董伟明的博客不知道有没有帮助 https://zhuanlan.zhihu.com/p/22304455
reAsOn
2017-07-20 10:02:16 +08:00
一直在用 celery,不过用的 redis 的 backend 没有遇到过啥坑,很稳定
ultimate010
2017-07-20 10:36:12 +08:00
分布式爬虫项目,对于 redis broker,耗时任务会出现卡死,简单粗暴重启解决。
NoBeeBee
2017-07-20 12:45:15 +08:00
@reAsOn 我用的 Rabbitmq ,感觉 这个 Rabiitmq 在别的地方没怎么见过,可能是我太孤陋寡闻了吧……

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/376540

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX