V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
Waihinchan
V2EX  ›  问与答

有人试过批量爬某个元素的时候爬不下来但是单独爬的时候却可以爬的情况嘛

  •  
  •   Waihinchan · 2020-04-23 07:30:35 +08:00 · 1129 次点击
    这是一个创建于 1676 天前的主题,其中的信息可能已经有所发展或是发生改变。

    想爬点东西 具体啥不太好说 但是发现在单个 url 下可以爬 做了一个 urllist 之后批量爬就爬不下来 也没有报错 就是一直卡在那没反应 有啥好的办法吗 是我的操作问题还是网站对这个元素做了一些什么防护手段呢

    3 条回复    2020-04-23 09:14:58 +08:00
    Waihinchan
        1
    Waihinchan  
    OP
       2020-04-23 07:36:25 +08:00
    补充一下。。如果切手机的 useragent 的话是可以爬下来的 所以应该是有办法 但是好奇为什么会存在这种情况呢。所以是不是网站设置了一些保护机制呢
    jugelizi
        2
    jugelizi  
       2020-04-23 08:12:25 +08:00 via iPhone
    访问超频率了吧 还有可能是进了蜜罐
    Waihinchan
        3
    Waihinchan  
    OP
       2020-04-23 09:14:58 +08:00 via Android
    @jugelizi 只有那一个元素不行 比如我爬其他的标题或者一些尺寸之类的信息都可以批量爬的 而且我设置了间隔 …所以就很迷 而且没有报错…
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2763 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 23ms · UTC 09:56 · PVG 17:56 · LAX 01:56 · JFK 04:56
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.