scrapy 设置 cookie 有的时候会失效是怎么回事?

2021-06-01 16:55:20 +08:00
 ZoeYn

我有一个 cookie 池,以集合的形式存在 redis 里。在爬虫的过程中,每一次请求 url 都会从 redis 里拿 cookie 并且带上它访问。大多数是可以设置成功的,但是中间会出现设置失败的情况。找来找去都找不到是啥原因。 附上我设置 cookie 的方式: settings.py

COOKIES_ENABLED = True

spider.py

cookies2 = json.loads(self.red.srandmember('red_cookies', 1)[0])
yield scrapy.Request(url=url, cookies=cookies2, meta=metas, callback=self.parse)

求解,有没有遇到类似情况的前辈啊,实在是困扰我很久啦!

1302 次点击
所在节点    Python
1 条回复
ZoeYn
2021-06-07 09:05:24 +08:00
有没有人哇..........

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/780658

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX