求助:百度文库抓取问题

2017-10-19 11:38:03 +08:00
 tikazyq

最近抓取百度文库时遇到问题。试图用 casperjs 来抓取百度文库文章,对方采用了分页,要获取全部文章内容,必须爬完每一个分页。

最先处理分页的方式是直接在 URL 中加入页面后缀,例如 https://wk.baidu.com/view/f75735e5a8956bec0875e353#6,代表第 6 页,以此类推。但尝试过后发现不行,服务器有时返回第 1 页内容。

现在尝试模拟点击来获取分页,but。。。问题又来了,chrome console 中利用 jquery,或在 casperjs 中 click “下一页”、“继续阅读”等元素都不能生效,但是,其他元素例如左上方的“百度文库”可以却可以 click 生效。我怀疑是不是百度文库采用了什么方法来防止模拟点击,所以点击不能生效。

文章地址: https://wk.baidu.com/view/f75735e5a8956bec0875e353

请各位大大们指点指点!

4103 次点击
所在节点    Node.js
5 条回复
knva
2017-10-19 11:49:09 +08:00
没用过 casperjs
但是
console 中输入
$('.fc2e').click()
可以加载啊
tikazyq
2017-10-19 11:56:29 +08:00
@knva 是移动端的页面,界面不一样的
memkey
2017-10-19 12:18:33 +08:00
Input.dispatchMouseEvent
tikazyq
2017-10-19 15:34:26 +08:00
@memkey 具体在页面中该如何操作呢?
memkey
2017-10-19 19:37:14 +08:00

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/398877

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX