大佬们帮我看看这个异步任务怎么设计

2020-01-17 11:04:20 +08:00
 noobma

nodejs 项目,用 pm2 管理,有一个用户通过 http 接口上传图片合成视频的功能,我本来打算把合成视频的代码直接放在项目中当 service 异步执行,但是后来一想,如果正在合成视频的时候,应用重启,那这个任务的状态就丢了啊。

现在想的是,把这个合成视频的代码弄到一个单独的文件中,当脚本执行,这个脚本自己往数据库中写状态。

请各位大佬指点下这种场景比较通用的做法是什么,谢谢🙏

7080 次点击
所在节点    Node.js
12 条回复
shoaly
2020-01-17 11:10:55 +08:00
能支持 2 个点就稳妥了:
1 要标记好处理和未处理, 这样就能断点续传, 坏了还能接着整
2 要支持重入, 也就是就算把 1 点中的所有标记重置为未处理, 系统可以重新跑一遍, 但是也不会有额外的副作用
noobma
2020-01-17 11:28:01 +08:00
@shoaly 感谢大佬的提醒,断点续传这个没考虑,要加进去,像你 2 中说的,感觉像这种 `while(job = jobs.shift()) run(job)` “系统”了
shoaly
2020-01-17 11:44:12 +08:00
嗯.... while(true) 这种循坏 还不够, 可以升级成
go woker(job_channel)
go woker(job_channel)
go woker(job_channel)
go woker(job_channel)

waitgroup.Wait()
noobma
2020-01-17 12:22:07 +08:00
@shoaly 看来还是单独弄个合成视频的应用部署比较靠谱😂
wangyzj
2020-01-17 12:52:05 +08:00
脚本执行没错
主要是看你的状态传递是什么需求,是否可以延迟获取状态
noobma
2020-01-17 13:57:42 +08:00
@wangyzj 就是传递进度,还有最后成功、失败这些,状态传递给前端通过 websocket 或者轮询几下
ksice
2020-01-17 14:48:47 +08:00
你这个合成视频就是一个任务,你把任务存到数据库,然后服务启动的时候轮询这些任务,将未完成的任务继续跑不就行么,我理解的不知道对不对
flyingfz
2020-01-17 15:38:21 +08:00
问下哈, 处理视频合成 的任务, 一般都比比较 耗费内存吧 , 你的这个任务会不会 超出内存限制然后被杀掉 ?
noobma
2020-01-17 18:03:53 +08:00
@ksice 大佬说的对啊,感觉这种方式要简单些,高👍
noobma
2020-01-17 18:11:12 +08:00
@flyingfz 多谢提醒,我需要去摸索摸索,不过 ffmpeg 应该有限制资源使用的参数😂
wzwwzw
2020-01-17 18:23:35 +08:00
写一个新的服务,扫描数据库,或者队列找没有完成的任务,或者新的任务,失败了在重试,完成之后标记下状态。
http 接收到任务之后就写到数据库,或者队列里面。
noobma
2020-01-17 18:26:44 +08:00
@wzwwzw 就这样搞了

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/638659

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX