V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
coyove
V2EX  ›  问与答

google 的爬虫是否会自动记录 cookie?

  •  
  •   coyove · 2017-04-19 15:39:57 +08:00 · 1174 次点击
    这是一个创建于 2779 天前的主题,其中的信息可能已经有所发展或是发生改变。
    做了一个熊猫站的镜像站,入口有一个询问是否 18 岁的页面,选项记录在 cookie 里防止该页面重复显示

    两个月前 google url 提交,到现在搜小站的名字,前十页全是无关结果(名字本身很偏门,并不是常见词汇)

    直接搜域名才返回了一个结果,就是那个 18 岁询问页面,所以我在想 google 的爬虫是不是卡在了这里了。。。按理说 google 技术不至于如此。。。

    最近才意识到这个问题,已经试着把爬虫的 UA 白名单,看看会不会正常
    1 条回复    2017-04-19 16:01:14 +08:00
    nullen
        1
    nullen  
       2017-04-19 16:01:14 +08:00
    会。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5560 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 30ms · UTC 06:50 · PVG 14:50 · LAX 22:50 · JFK 01:50
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.