V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
SIFT2009
V2EX  ›  问与答

爬虫怎么动态解析不同网站的 html 结构呢

  •  
  •   SIFT2009 · 2017-08-12 10:37:15 +08:00 · 2974 次点击
    这是一个创建于 2662 天前的主题,其中的信息可能已经有所发展或是发生改变。
    需要从不同的网站爬取数据,现在的做法不同的网站需要单独去写个解析类,想问一下 v 友,有可以动态解析的方法嘛。
    3 条回复    2017-08-14 12:56:29 +08:00
    insoxin
        1
    insoxin  
       2017-08-12 11:09:04 +08:00 via Android
    没有万能的规则
    zeq
        2
    zeq  
       2017-08-12 12:14:37 +08:00 via iPhone
    这看是抓去什么内容了

    如果是文章的话,可以一些文章正文提取的包来做。

    如果是不同结构的,或者需要更详细的内容,可以考虑一下 data highlighter。Google 的站长工具里面就有这样一个工具,帮助站长优化搜索结果,它需要人工标记若干个页面内的数据,然后 Google 能够根据你标记的数据解析出相同类型的页面

    作为参考 @binux 在他的博客里分享了一种 data highlighter 的思路
    NaughtyMonkey
        3
    NaughtyMonkey  
       2017-08-14 12:56:29 +08:00
    肯定是不同的网站写不同的规则。不然你想上天不成
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   6130 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 06:14 · PVG 14:14 · LAX 22:14 · JFK 01:14
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.