求教,公司要重新做爬虫架构

2019-10-22 20:21:10 +08:00
 yixiugegegege

最近时间比较充裕,准备重新做一下公司的爬虫架构

目前的爬虫基本是个人写个人的,一个项目一个大文件,从采集,解析到入库,

各个服务器都有单独部署,(爬虫服务器阿里云的 18 台).

然后自己对重构或者优化爬虫的架构没有什么经验,

所以想请教一下 v 友,公司的爬虫架构

目的:便于爬虫管理,还有新项目开展

5163 次点击
所在节点    Python
22 条回复
aydd2004
2019-10-23 22:04:15 +08:00
说真的 你们说的这么吓人

我爬点小电影会不会去喝茶
ddup
2020-04-03 12:54:21 +08:00
同推荐 c# 的 https://github.com/dotnetcore/DotnetSpider

这是一个专为移动设备优化的页面（即为了让你能够在 Google 搜索结果里秒开这个页面），如果你希望参与 V2EX 社区的讨论，你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/611873

V2EX 是创意工作者们的社区，是一个分享自己正在做的有趣事物、交流想法，可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX