爬虫工程师这个岗位是否对新手很不友好

2018-10-17 17:24:10 +08:00
 CharlieBrown

一开始以为爬虫很容易到天花板,干了几个月后,发现一入爬虫深似海。 要懂网络协议、懂 JS、懂 APP 反编译, 本来以为网站 Selenium 能对付了,但现在能识别的网站也渐渐增多, 反编译都衍生出另一个岗位了:逆向工程师。

由于是小公司,也没人讨论、请教,一切都得靠自己搜索、看书、买教程。 一年工作经验不到的人,爬的可能是三五年以上的网站、APP,有种一个人单挑一群人的感觉。

一个网站,能否爬下取决于网站难度, 不像自己从 0 写系统,一步步自己走上去 写完爬虫还担心网站会不会突然升级、爬虫会不会突然不走

现在对前路有点儿迷茫了,有没有人能指点迷津

12706 次点击
所在节点    Python
44 条回复
muzico425
2018-10-23 09:38:32 +08:00
我有个 python 微信群,爬虫居多不过 100 人了,所以有想加的加我微信:italocxa,备注 v2ex
Cprocc
2018-10-31 18:58:39 +08:00
萌新学习中,每天看着爬虫和 django 发呆,不知怎么深入。基础知识都学过,但不知道怎么用,还有一年毕业,焦虑
Harlaus
2018-11-14 16:12:46 +08:00
@Shyden2018 别做,如果你有兴趣,可以做 django/flask web+有爬虫需求的岗位,但是爬虫不要职业做,因为这个需求太窄了,很多时候还爬不了
roberts
2019-03-14 13:58:25 +08:00
@PulpFunction app 大多不走 http https 自己封装协议

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/498538

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX