爬虫某网站最近禁止了国外 IP,想请问下有什么好的办法

2020-08-10 10:49:46 +08:00
 livc

我在 vultr 上有个 VPS 专门爬虫一个网站保存成文件,然后提供 web 访问服务。最近发现这个网站的一个接口把境外 IP 都 ban 了,使用国内 IP 访问就没问题。

目前我的思路是:买一个国内的服务器,专门用来爬虫,爬完保存下来的文件 scp 到 vultr 服务器上。

这样就是增加了国内服务器的成本,国内服务器又比较贵,不知道大佬有没有更好的解决方案?

或者买个树莓派?

7059 次点击
所在节点    程序员
40 条回复
biu7
2020-08-10 10:51:09 +08:00
买点代理不行么
CriseLYJ
2020-08-10 11:13:13 +08:00
楼上正解
hugee
2020-08-10 11:15:12 +08:00
原来就是你小子在爬我的站
livc
2020-08-10 11:17:49 +08:00
@biu7 #1 代理好像更贵吧?有推荐的站吗
lxk11153
2020-08-10 11:21:33 +08:00
原来就是你小子在爬我的站
biu7
2020-08-10 11:23:21 +08:00
@livc #4 国内代理一般两类,一种直接卖给你短时( 3-5min )有效的 ip,比如几块钱 1000 个之类的,一种是直接转发你的请求,按请求数算钱。可以看下讯代理、阿布云之类的(非广告)
em70
2020-08-10 11:25:35 +08:00
告诉你一个诀窍啊,阿里云有一种抢占式 ECS,才几毛钱一个小时,因为有百分之几的几率会被释放,不适合做长期服务,却是爬虫的天然选择,随用随买,不用就释放
livc
2020-08-10 11:27:37 +08:00
@biu7 #6 明白了,谢谢
livc
2020-08-10 11:28:14 +08:00
@em70 #7 我这个是需要每天爬的,得长期用呢
em70
2020-08-10 11:30:05 +08:00
刚帮你看了下,乌兰察布机房最便宜,才 8 分钱一个小时,北京 1 毛 3
em70
2020-08-10 11:30:43 +08:00
@livc 才 3%的释放几率,多买几台
linuxvalue
2020-08-10 11:32:21 +08:00
代理 ip
heiheidewo
2020-08-10 11:32:22 +08:00
原来就是你小子在爬我的站
Soar360
2020-08-10 11:39:33 +08:00
原来就是你小子在爬我的站
nightwitch
2020-08-10 11:39:43 +08:00
#7 楼的方案不是挺好的。
每天定时开个阿里云竞价实例,然后爬完释放就可以了
可以参考以下的
https://github.com/rockswang/alispot
murmur
2020-08-10 11:43:07 +08:00
你现在买了境内机房,下次他把各大云的 ip 也禁了
121121121
2020-08-10 11:54:29 +08:00
代理服务器
ipoh
2020-08-10 12:20:38 +08:00
你需要淘宝"ADSL VPS" 每几分钟自动重播一次
封 ip 也不怕
natsji
2020-08-10 13:02:29 +08:00
你用辣鸡阿里清凉云的香港或者新加坡服务器,IP 地址会被很多 ip 库识别成大陆的。
locoz
2020-08-10 13:25:49 +08:00
你就不能直接买代理或者在爬的时候开点国内云服务器做代理服务器吗…

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/696994

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX