PM2 部署项目,内存满了重启,项目内定时任务被中断的问题

142 天前
 Dnlyao

想请教一下,这种怎么避免定时任务被中断。现在限制 512MB ,4 个进程,然后只在第一个进程跑定时任务。是使用 node-schedule 跑的。现在问题是不稳定,一个月有一两天会被打断,比如 2 点 0 分 0 秒的任务,刚进去任务,内存满载重启,重启后,定时任务不会继续。定时任务时汇总数据的。

目前想到的 一,就是定时任务开启时,先数据库插入记录,如果状态未改变的,重启后,跑方法继续运行。现在怕的是插入数据库的时候被中断,导致还是不会继续任务。

先不打算设置大一点的限制内存,因为服务器 4g ,有 docker 在上面跑着。

1829 次点击
所在节点    Node.js
15 条回复
creazyrabbit
142 天前
在某个时间段多次检查状态呢
Dnlyao
142 天前
@creazyrabbit 那这个检查的也靠定时器来运作吗?如果少数应该可以,但是这个 sass 系统,生成报表记录有点多,也怕影响系统白天的使用。现在生成报表的全是挤在凌晨的时间。
securityCoding
142 天前
做个重试策略,redis 写个 key
Dnlyao
142 天前
@securityCoding 谢谢,我查一下这个怎么弄
crysislinux
142 天前
机器不会重启就用 crontab ,机器也不可靠就用外部的 cron 服务区去 call 你的服务。
coolcoffee
142 天前
机器应该不止 512MB 吧,这种情况适合用 MQ 消息队列来完成。

比如定时任务产生消息到 RabbitMQ ,这个基本上是毫秒级别的不会被打断。然后有对应消费者开始处理任务,关掉自动 ack ,只有任务成功或者失败才去确认。这样消费者哪怕被杀死,下次重启还会拿到没有 ack 的消息继续跑。
Dnlyao
142 天前
@crysislinux 但是机器的 crontab 或者外部 cron 执行了,项目重启了,不是会一样结果吗?定时任务执行了,但是项目重启了被中断,中断后不会继续执行。
Dnlyao
142 天前
@coolcoffee 机器 4g ,pm2 分配每个进程限制内存 512MB ,开启了 4 个进程,负载均衡,定时器只在一个进程内运行。
catinsides
142 天前
pm2 里的程序只用来分配任务,费内存的任务换到 child_process 执行
要不直接把 node-schedule 换成 bull
Dnlyao
142 天前
@catinsides 谢谢,我去看一下相关内容
fengYH8080
142 天前
3 楼的做法最简单了,在数据一致性的情况下,任务执行往 redis 写个 key ,完成 del 一下,进程 0 启动那里加个查询,拿到 redis 里的 key 执行对应的定时任务就可以了
crysislinux
142 天前
@Dnlyao 如果你的期望是恢复任务,那启动的时候检查有没有没完成的任务好了。
whp1473
142 天前
重试呀,恢复后检查状态重试
guiling
141 天前
1 任务开启数据库记录个标识,服务启动先检查是否有任务被中断,接着跑
2 写个接口,重启后手动触发
msg7086
141 天前
如果加内存的成本比一个工程师的时间价值高,也可以考虑加 swap 。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1062845

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX