Scylla——开源免费的优秀代理 IP 池:自动验证、JSON API、基于 React 的 Web UI、Docker 支持

2018-05-27 07:05:54 +08:00
 WildCat

GitHub:https://github.com/imWildCat/scylla

中文文档:https://scylla.wildcat.io/zh/latest/

自己是一个爬虫爱好者,有时候爬虫写的太过强大了被目标网站封了(笑)。所以就萌生了用代理 IP 的想法。很可惜很多开源代理 IP 池都是没有持续维护的,代码也比较奇怪。于是自己就写了一个。特性大概有:

欢迎在贴中留下您的邮箱,我可以发送你 demo 地址(暂时不打算公开发布)。如果您想留邮箱,请注意:

附:几个截图 demo

截图 1: Web UI (代理 IP 列表)

截图 2: Web UI (代理 IP 的地理分布)

12124 次点击
所在节点    分享创造
93 条回复
Baboonowen
2018-05-27 08:02:00 +08:00
打破惨案
flyxl
2018-05-27 08:02:28 +08:00
赞楼主,求 demo
0312birdzhang
2018-05-27 08:06:43 +08:00
先赞一个
artandlol
2018-05-27 08:18:05 +08:00
YXJ0YW5kbG9sI2dtYWlsLmNvbQ==
golmic
2018-05-27 08:30:47 +08:00
i [at] lujq.me

想知道 IP 的验证策略。因为我觉得 IP 代理池的核心就是这个。只有策略出色才能突出
binux
2018-05-27 08:30:57 +08:00
我一直觉得最好用的代理 IP 池接口就是 forward proxy。
forward proxy 对应用透明地自动 rotate,抓取的同时天然地自动验证。
B1ock
2018-05-27 08:58:07 +08:00
bWFza3NzQHByb3Rvbm1haWwuY29t
感谢
o00o
2018-05-27 09:06:43 +08:00
IHJvbW90Y0BnbWFpbC5jb20g
谢谢
panyanyany
2018-05-27 09:26:03 +08:00
NTY4Mzk3NDQwQHFxLmNvbQ==

请问楼主这些 ip 是从哪里来的呢,全网扫描还是?
panyanyany
2018-05-27 09:27:35 +08:00
@panyanyany #9 不好意思,原来还有个 providers 文件夹,现在知道是扫公开的代理了
ThirdFlame
2018-05-27 09:34:56 +08:00
ZmFuZGVsYWppQGdtYWlsLmNvbQ==
airyland
2018-05-27 09:38:46 +08:00
赞,docker 无痛安装成功
zqjilove
2018-05-27 09:40:32 +08:00
API 接口支持国家输出就好了
131
2018-05-27 09:44:20 +08:00
YmxvZ0Btb2UuaW0=

谢谢!
cyn
2018-05-27 09:48:00 +08:00
Y3lubGl0dGxlW2F0XTEyNi5jb20=
支持,感谢!
dex2jar
2018-05-27 09:53:26 +08:00
ODA3NjYwMDcxQHFxLmNvbQ==
谢谢楼主。看起来挺好的,前段时间刚买了 5 块的 ip
gclm
2018-05-27 09:53:51 +08:00
gclm159[at]gmail.com
支持,感谢
Sixzeroo
2018-05-27 09:56:47 +08:00
c2l4emVyb282MEBnbWFpbC5jb20=
感谢楼主
airyland
2018-05-27 09:57:21 +08:00
报个问题,开始接口报 500,过一会正常,运行一段时间后 stats 500,proxy 列表为空。
ccbikai
2018-05-27 10:21:35 +08:00
chi#miantiao.me 谢谢楼主,自己也在爬各个代理网站的 IP,支持 https 的很少

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/458054

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX