如果修改了 storm 的 spout 和 bolt 代码,就 kill 掉作业,重新提交吧。那么 kill 作业的时候如何做 cleanup 的工作呢?

2014-06-12 14:05:32 +08:00
 codingpp
我的作业是这样的:
spout收集日志->bolt汇总日志并每隔1秒钟插入数据库
每条日志都需要处理不能丢
kill task的时候spout的会先置为失效,这时候就没有消息推送到bolt中了。然后再停止掉
bolt中没有数据推送过来,所以就不会再触发process方法了
那么这1秒钟内数据将没法插入到数据库里了
storm里的cleanup方法貌似只能工作在本地模式下,那么我想要在分布式模式下kill作业的时候做下cleanup的处理该如何做呢?
7316 次点击
所在节点   Storm
5 条回复
codingpp
2014-06-12 14:09:44 +08:00
v2ex的大神们有用storm的吗
halfelf
2014-06-12 15:15:21 +08:00
写好spout,ack失败时将日志扔回去。
这种事情不是kafka配合storm最擅长么。
codingpp
2014-06-12 15:22:36 +08:00
@halfelf
主要是为了减轻数据库的压力,我的bolt会汇总1秒钟内的日志,然后再插入数据库
这时候每天消息一经ack成功了。。。
但是我更新了代码,停止作业,我没有来及提交数据库的日志就没法处理了
halfelf
2014-06-13 11:23:40 +08:00
明白了,在prepared bolt里做缓存了。写个hook,覆盖BaseTaskHook的cleanup方法
scol007
2014-08-01 09:48:48 +08:00
@halfelf @codingpp 小弟也遇到了这个问题,不知道两位大神怎么解决的 麻烦教下

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/117103

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX