刚看到另一个帖子
https://www.v2ex.com/t/217643
突然有此问(我直接把在该帖评论下的内容复制过来,免得再打一遍。)
====================
看完描述 第一反应 就想到了应该是用了 refer 判断的方式。
不知道楼主是否有研究过 屏蔽 360 云盾之类的检测的想法?
我之前观察了一下,只要用 360 浏览器访问过,
接着就会看到至少 2 个 IP 的来访,而且 UserAgent 跟普通用户无异,
不像 spider 的 UserAgent 。所以无法通过判断 UserAgent 的方式屏蔽。
可有什么好的方法屏蔽它的抓取、检测?
我之前想到的方式是,默认访问时 弹出一个确认框,让用户手动点提交,然后生成 cookie 或 session ,接下来以它作为凭证。但还未去实践过。看到此帖,抛出来探讨一下。