Python 爬虫

2017-10-07 11:34:30 +08:00
 TechF1x

爬取 zealer 的的图可以,但爬 Apple 官网的图失败?是被反爬了,需要进行伪装? 1 import urllib2 2 req = urllib2.urlopen('https://www.apple.com/cn/iphone-x/') 3 buf = req.read() 4 5 import re 6 listurl = re.findall(r'https:.+.jpg',buf) 7 print listurl 8 9 10 i = 0 11 for url in listurl: 12 f = open(str(i)+'.jpg',"wb") 13 req = urllib2.urlopen(url) 14 buf = req.read() 15 f.write(buf) 16 i = i+1 ~

1735 次点击
所在节点    问与答
5 条回复
coderluan
2017-10-07 11:48:45 +08:00
需要进行伪装,先加 header 和 cookie,不行再上代理试试
crab
2017-10-07 11:49:39 +08:00
Apple 官网应该没反爬虫,只是 http 请求协议头严格些。
windfarer
2017-10-07 11:52:22 +08:00
记得加 referer
TechF1x
2017-10-07 11:56:00 +08:00
@coderluan ok,谢谢,试试
TechF1x
2017-10-07 11:56:32 +08:00
@windfarer 好的

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/395750

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX