什么值得买网站的定时检测爬虫

2016-12-22 15:01:31 +08:00
 SheldonZheng

https://github.com/SheldonZheng/SMZDM_Monitor

昨天写的一个什么值得买网站的监测爬虫;可以实现检测指定关键字,如果出现关键字匹配的内容发送邮件到指定邮箱。

代码写的很烂 第一次用 python 写东西 轻喷

Usage 里写的不太详细 改改文件开头的那一堆东西就可以用了

如图所示

9903 次点击
所在节点    Python
31 条回复
riaqn
2016-12-22 15:05:31 +08:00
不用这么麻烦。 smzdm 自己提供 rss feed 的,你用 rss2email 加上过滤器就行了。
SheldonZheng
2016-12-22 15:06:49 +08:00
@riaqn 没想到 rss 还能干这事。谢谢了
UnisandK
2016-12-22 15:09:59 +08:00
之前我也写过一个,出现关键词自动给自己发短信
不过兄弟我得告诉你个悲壮的事。。张大妈客户端有这个功能了。。
SheldonZheng
2016-12-22 15:10:29 +08:00
@UnisandK 你说那个关注么。。那个玩意经常刷不出来
UnisandK
2016-12-22 15:21:18 +08:00
@SheldonZheng = =我这儿没啊,挺好用的,之前电动牙刷关注了给我推了个接近历低的活动。。
morefreeze
2016-12-22 17:12:05 +08:00
@UnisandK 好像自从上次改版后关注特别难用,只能关注特定商品或者特定商城,不如原来的分类关注好了,我一般只关注买书方面,但关注中亚会推别的商品,好难用
morefreeze
2016-12-22 17:14:02 +08:00
哦哦 原来还是有的 只是让我强行关注了一波中亚啥的
ytmsdy
2016-12-22 17:16:24 +08:00
开始写爬虫之前要关注两个事情,网站是不是有 API ,以及是否有 RSS 订阅!
SheldonZheng
2016-12-22 18:03:05 +08:00
@ytmsdy 这个就是用的网站的 API 拿到的直接是 JSON 数据
changdy
2016-12-22 19:22:32 +08:00
兄弟 加油,我最近也想做一个.. 张大妈自带的推送简直太垃圾了,甚至说废品。
楼上有说 rss 订阅的,其实远远不够符合需求,有些时候我们要的并不是某一个特定商品,而是某一类商品,然后在从中挑选比较热门的,怎么评判。没有大数据的时候只能依靠 评论数 以及点赞的比例。
ps... api 在哪,我怎么没找到?
daiv
2016-12-22 19:30:54 +08:00
等便宜 所花费的时间和精力 都可以赚回来了吧。

划不来
SheldonZheng
2016-12-22 20:31:31 +08:00
@changdy 看一眼代码 抓到的包里有一个获取当前最新的 20 条信息的 API ,不算是官方提供的 API ,但是确实可以直接拿来用
SheldonZheng
2016-12-22 20:32:01 +08:00
@daiv 是的 这个只是玩票性质的 刚需的商品肯定等不了……
dhlwing
2016-12-22 21:02:10 +08:00
http://www.zhiribao.com 可以 app 微信 邮件推送,值得买的评论都可以在那里看,还要自己写啥?
daiv
2016-12-22 21:12:25 +08:00
@dhlwing 采集的?


@SheldonZheng 有没有这样一个网站, 购物指导性质的,例如买个台灯,直接推荐 5 个最好的,并且分析优缺点
dhlwing
2016-12-22 21:39:23 +08:00
@daiv 是的
daiv
2016-12-22 22:00:39 +08:00
@dhlwing 评论好像没采到吧。 采这个 流量如何
dhlwing
2016-12-22 22:07:43 +08:00
@daiv 十分钟后才开始采集当前内容的评论,你去翻之前的内容。 V2EX 回复了一段点发送空白了
yilin101
2016-12-22 22:10:31 +08:00
色魔张大妈 app 支持 添加关键字 推送
changdy
2016-12-22 22:18:28 +08:00
@SheldonZheng 等我手下的先忙完了... 再管这个 233 到时候如果找不到接口了,估计还要有劳楼主。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/329426

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX