scrapy 问题请教!

2018-06-22 15:19:22 +08:00
 xnile

要爬的网站的评论是由服务端直接一次生成正文内容和评论,非 ajax 调接口获取。这种情况 scrapy 怎样能做到评论即能分页抓取还能和正文内容关联起来。想到的办法是写两个 spider 分别抓取正文和评论,然后再通过程序,根据贴子 id 关联起来。有没有办法一个 spider 直接搞定,item['content'],item['content'],请教下大家!

1769 次点击
所在节点    Python
4 条回复
ioiogoo
2018-06-22 15:51:37 +08:00
可以通过 scrapy 的 meta 将信息传递给下一个 callback 处理函数,相当于是多个导航分类下多篇文章,多个评论,网上搜下,很多例子
xnile
2018-06-22 16:13:11 +08:00
@ioiogoo 好的,我试试,谢谢!
congeec
2018-06-23 00:37:25 +08:00
def parse_article(self, response):
____item = Item()
____yield scrapy.Request(url, meta={'item': item}, callback=self.parse_reviews)

def parse_reviews(self, response):
____item = response.meta['item'] # here be the magic
xnile
2018-06-24 09:35:39 +08:00
@congeec 好的,谢谢

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/465049

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX