请问大佬们,有没有什么办法可以屏蔽 facebook 的爬虫爬取我网站的内容,感谢

2023-05-24 21:29:27 +08:00
 CCKurokawa

下面是我在 cloudflare 的数据截图。

1371 次点击
所在节点    程序员
3 条回复
oceana
2023-05-24 21:36:21 +08:00
应该配置一下 robot.txt 就好了吧
Yourshell
2023-05-24 21:50:36 +08:00
gam2046
2023-05-25 10:30:19 +08:00
都已经上 cf 了,WAF 里可以直接配置的,拒绝自动化程序。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/942694

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX