scrapy 运行 24h 后速度变慢

2016-04-09 00:44:23 +08:00
 feather12315

DigitalOcean $5/mon 配置。 scrapy 运行在 docker 容器中。

DOWNLOAD_DELAY = 1
LOG_LEVEL = 'INFO'

使用 cookie ,每次传入的 cookie 总是同一个。抓取微博的各种数据。

这里是使用的代码

scrapy 连续运行 24H 后(很准时),速度总会变为原来的 1/2 。

假如是内存不够的话,第一次设置 DELAY=2 , 24h 后速度变为原来 1/2 ;第二次设置 DELAY=1 , 24h 后速度变为原来 1/2 。第三次运行中又开了一个 uwsgi 容器,速度也是 24h 后变为原来的 1/2 。这也太准时了吧!

假如是 cookies 的原因,设置 24h 后重新登录,速度还是会在 24h 后变为原来的 1/2 。

这是为啥呢?求老司机帮助

1347 次点击
所在节点    问与答
0 条回复

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/269702

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX