抓取某团网美食店铺信息

2019-05-03 12:36:10 +08:00
 Northxw

  某团网的美食店铺信息主要通过接口获取,而接口最重要的参数就是 _token,其主要是通过对接口相应参数的二进制加密和 Base64 编码处理后得到,做一次 base64 解码、二进制解压即可清楚其中的加密原理( sign 参数相同)。所以,只需要伪装_token 参数,携带请求接口就可以拿到数据。

  另外,为提高爬取效率,实现了多进程,裸 IP 多进程访问会返回验证页,测试可用真机 IP。

  项目已提交 github, 欢迎提交 issue,pull requests 等。地址: https://github.com/Northxw/Meituan

PS:断断续续写了好几天,比较佛系,如有冗余之处或不足之处还请见谅。

2828 次点击
所在节点    Python
8 条回复
BaiLinfeng
2019-05-03 21:08:43 +08:00
怎么使用的没看懂这个求具体使用教程
Northxw
2019-05-03 22:29:53 +08:00
@BaiLinfeng clone 到本地,进入根目录,命令行先运行 common.py, 再运行 meituan.py 就可以了。前提是:先在 mysql 里建立表格。
BaiLinfeng
2019-05-03 23:32:32 +08:00
@Northxw 哦好吧,这个还玩不了 6
djgreat
2019-05-07 09:43:52 +08:00
已经 star 一会测试下,回馈
Northxw
2019-05-07 14:25:07 +08:00
@djgreat 回馈???
ealltor
2019-05-10 01:36:47 +08:00
美团的字体加密是不变的吗?
Northxw
2019-05-10 07:30:10 +08:00
@ealltor 这里用的是接口数据,只需要搞定_token 参数即可。你说的是哪个页面?
ealltor
2019-05-11 21:57:22 +08:00
@Northxw 忘了说,我指的是店铺的评论被加密了

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/560676

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX