这是一个创建于 1130 天前的主题,其中的信息可能已经有所发展或是发生改变。
最近在做一个爬虫系统,本地的爬虫端我我做的,包含了几款 app 的登录爬取操作,后台是后端兄弟用 springboot 做的,现在在进行对接,他那边下发任务通过 redis 消息通道,我这边要上报心跳和任务爬取状态,要支持并发。 想问下,我这边客户端怎么做并发操作,就是定时节点心跳上报同时开站爬虫、任务采集状态上报。 难道用进程和线程吗? python 这边有没有比较好的异步处理方案或者工具
|
|
1
Livid 2021-10-24 03:24:06 +08:00 via iPhone
|