Python aiohttp 异步 需要同时请求同域名下 8000 个 URL(对方网站无并发限制)把结果拼接返回,要求总耗时最短, 8000 个同时发还是先发 1000 个,不等待结果,间隔 0.1 秒再发下一批快?

129 天前
 drymonfidelia
爬虫,所有同行爬的都比我们快,不知道为什么
别人 1 秒更新,我们上了 10 台服务器还是慢别人 3 秒
2433 次点击
所在节点    程序员
43 条回复
drymonfidelia
128 天前
@lesismal 任务随机下发到一个节点,在同一个 aiohttp session 里面发,每个 URL 拿到结果马上发同 URL 的下一个请求,没有关注是 http 1.x 还是 2.0
有订阅机制,但是订阅延迟不止 3 秒,用不了
laminux29
128 天前
笑死了,

不方便告诉你们到底是什么网站;

不方便告诉你们到底怎么去爬;

反正你们一定要浪费你们的时间,去不断地猜测,直到解决我的问题;

什么 NTR 问题。
drymonfidelia
128 天前
@laminux29 全告诉了 是你自己不翻回帖

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1017387

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX