Python 中的 scrapy 中的 mongodb 去重与下载

2018-09-29 16:48:08 +08:00
 Ewig

def process_item(self, item, spider): url = item['file_url'] name = item['name']

    result = self.post.aggregate(
        [
            {"$group": {"_id": {"url": url, "name": name}}}
        ]
    )
    if result:
        pass
    else:

        self.post.insert({"url": url, "name": name})
        return item

def file_path(self, request, response=None, info=None):
    return request.meta.get('filename', '')

现在情况是这样,我想去组合键去重,然后没有的话就入数据库,然后下载,但是这个是框架里面的下载,我现在想在插入数据库后 直接下载,这个怎么调动那个 下载函数呢?

def get_media_requests(self, item, info):
    file_url = item['file_url']
    meta = {'filename': item['name']}
    yield Request(url=file_url, meta=meta)
1151 次点击
所在节点    Python
0 条回复

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/493909

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX