推荐学习书目
Learn Python the Hard Way
Python Sites
PyPI - Python Package Index
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
yongsan01
V2EX  ›  Python

关于网页版闲鱼(爬虫相关)

  •  
  •   yongsan01 · Jul 18, 2019 via iPhone · 10226 views
    This topic created in 2499 days ago, the information mentioned may be changed or developed.

    访问网页版闲鱼,遇到一些问题

    比如搜索关键字“手机”:

    https://s.2.taobao.com/list/?_input_charset=utf8&q=%E6%89%8B%E6%9C%BA

    1.进去以后发现 点任何跳转链接的按钮(点击按价格排序、按价格范围搜索)都会自动跳到这里:

    https://www.taobao.com/markets/bx/deny_pc

    显示内容

    亲,访问被拒绝
    
    可能因为:
    
    请检查是否使用了代理软件或 VPN 哦~
    

    问题是没用代理,所以有点困惑,是我的 IP 被限制了吗?

    2.下拉到底部加载更多时,一直在转“加载中,请稍候”

    抓了一下包,发现发出加载请求后得到的 json 是空的

    https://s.2.taobao.com/list/waterfall/waterfall.htm?wp=2&_ksTS=1563442743757_129&callback=jsonp130&stype=1&st_trust=1&q=%CA%D6%BB%FA&ist=1

    响应:

    jsonp130({
        "numFound": 0,	
        "currPage": 0,	
        "totalPage": 0,	
        "ershouCount": 0,	
        "idleCount": 0,	
        "ershou":[		],
        "idle":[		]
    })
    

    是我的方式哪里错了吗?

    13 replies    2019-08-12 11:28:46 +08:00
    Hansah
        1
    Hansah  
       Jul 18, 2019 via Android
    URL 不对,自己构造就行了
    JmmBite
        2
    JmmBite  
       Jul 18, 2019
    app 抓包。
    HuberyPang
        3
    HuberyPang  
       Jul 18, 2019
    网页版没找到搜索入口呀 这个要抓 app 端吧
    yongsan01
        4
    yongsan01  
    OP
       Jul 18, 2019
    @HuberyPang 直接在地址栏传的参数
    yongsan01
        5
    yongsan01  
    OP
       Jul 18, 2019
    @JmmBite 好吧 闲鱼现在只能抓 app 端了吗
    spark
        6
    spark  
       Jul 19, 2019
    闲鱼很早就把网页搜索入口给关了啊
    mawerss1
        7
    mawerss1  
       Jul 19, 2019
    http://www.xianyusoso.com/ 代码一看便知
    mingyangliang
        8
    mingyangliang  
       Jul 22, 2019
    兄弟,问题解决了吗?
    我现在也遇到了这样的问题
    llll
        9
    llll  
       Jul 24, 2019
    @mawerss1 该网站已挂
    joson1205
        10
    joson1205  
       Jul 30, 2019
    抓包看下就知道,也可以用代理重新请求看下返回是不是一样的
    win7pro
        11
    win7pro  
       Aug 5, 2019
    我看黑碟软件的闲鱼监控助手,他的日志内会有“生成 token ”这样一条,每查一次关键字会生成 token 一次,不知道走的什么接口。
    sczan1101
        12
    sczan1101  
       Aug 11, 2019
    这个月一号彻底把网页搜索关了
    iamdaguduizhang
        13
    iamdaguduizhang  
       Aug 12, 2019
    网页搜索看来是没有了,我尝试了 App,抓包发现有加密参数,那就只能逆向了吗?可有老哥有其他的办法
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   3016 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 60ms · UTC 14:32 · PVG 22:32 · LAX 07:32 · JFK 10:32
    ♥ Do have faith in what you're doing.