V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
爱意满满的作品展示区。
WildCat

Scylla——开源免费的代理 IP 池,更新到 1.1 版本:更好的验证策略、更简单的使用方式、改进的 Web UI

  •  5
     
  •   WildCat · May 31, 2018 · 16055 views
    This topic created in 2889 days ago, the information mentioned may be changed or developed.

    banner

    image image image image

    GitHub: https://github.com/imWildCat/scylla

    几天前发布了 Scylla,感谢大家的帮助,一度冲到 GitHub Trending 前五的位置。

    欢迎在贴中留下您的邮箱,我可以发送你 1.1 版本的 demo 地址(暂时不打算公开发布)。如果您想留邮箱,请注意:

    • 可以使用 base64 编码
    • 在您的回复的第一行或者最后一行写(含有邮箱的那一行请不要写其他东西
    • 也可以用 [at] 或者 # 替代 @

    根据大家的在原帖里的建议,这几天又添加了如下功能(仅选重要的展示):

    1. 改进的 Web UI

    2. HTTP 正向代理服务器

    查看文档:https://scylla.wildcat.io/zh/stable/#http

    3. 验证策略

    查看文档:https://scylla.wildcat.io/zh/stable/#id9

    Supplement 1  ·  May 31, 2018
    已知一个小问题,将在 1.1.2 版本修复( 15 分钟内)
    Supplement 2  ·  May 31, 2018

    最新版的 Docker build 有点问题,如果运行后没有任何 IP,请先用 1.0 版本:

    docker run -d -p 8899:8899 -v /var/www/scylla:/var/www/scylla --name scylla wildcat/scylla:1.0
    

    十分抱歉

    Supplement 3  ·  Jun 1, 2018
    Docker 问题已经完全修复,非常抱歉!
    170 replies    2018-09-23 09:54:35 +08:00
    1  2  
    LeungJZ
        1
    LeungJZ  
       May 31, 2018 via iPhone   ❤️ 1
    前排资瓷。
    wjm2038
        2
    wjm2038  
       May 31, 2018 via Android
    wjm2038#gmail.com
    支持一下
    CodeDrift
        3
    CodeDrift  
       May 31, 2018
    MzA5ODcxMjcxQHFxLmNvbQ==
    支持一下 谢谢啦
    moack
        4
    moack  
       May 31, 2018
    dHNoZW5nQG1vYWNrLm5ldA==


    谢啦
    imyip
        5
    imyip  
       May 31, 2018
    docker 部署失败了?自动退出?
    moming87
        6
    moming87  
       May 31, 2018 via Android
    MzMxNTUxQEdtYWlsLmNvbQ==
    体验一下
    WildCat
        7
    WildCat  
    OP
       May 31, 2018
    @imyip 已知一个小问题,将在 1.1.2 版本修复( 15 分钟内)
    wwek
        8
    wwek  
       May 31, 2018
    @imyip 和你一样
    1507265844
        9
    1507265844  
       May 31, 2018 via Android
    d3dlaXl1YW5kaW5nQGdtYWlsLmNvbQ==
    了解一下
    WildCat
        10
    WildCat  
    OP
       May 31, 2018
    @wwek 在修复,docker build 太慢了。。。
    finely
        11
    finely  
       May 31, 2018
    MjQzNzUwNzgyQHFxLmNvbQ==
    支持楼主
    raychar
        12
    raychar  
       May 31, 2018
    cmF5Y2hhckBhbGl5dW4uY29t
    支持楼主
    WildCat
        13
    WildCat  
    OP
       May 31, 2018
    @wwek
    @imyip

    已修复!
    leonnadesico
        14
    leonnadesico  
       May 31, 2018 via Android
    d2FuZ2p1bjQyNDIxMUAxMjYuY29t
    oIMOo
        15
    oIMOo  
       May 31, 2018
    Ym93ZW5hY2hhdCNnbWFpbC5jb20=
    WildCat
        16
    WildCat  
    OP
       May 31, 2018   ❤️ 1
    @wwek
    @imyip

    似乎还有点小问题,我找下原因。pyppeteer 这个库太坑 b 了
    Backlitz
        17
    Backlitz  
       May 31, 2018 via Android
    enl3OTcxMkBnbWFpbC5jb20=
    感谢楼主
    veau
        18
    veau  
       May 31, 2018
    veau#foxmail.com

    感谢楼主
    bSty
        19
    bSty  
       May 31, 2018
    dXRlbWl0ZmtAZ21haWwuY29t
    支持一下 感谢
    fzudust
        20
    fzudust  
       May 31, 2018 via Android
    zjz02936341#163.com
    支持
    fzudust
        21
    fzudust  
       May 31, 2018 via Android
    zjz02936314#163.com
    刚刚邮箱打错了
    maooyer
        22
    maooyer  
       May 31, 2018
    bWFvbWFvaGFja0BnbWFpbC5jb20=
    支持支持
    xxhjkl
        23
    xxhjkl  
       May 31, 2018
    eHhoamtsMUBnbWFpbC5jb20=
    前排支持,求发
    rails3
        24
    rails3  
       May 31, 2018
    MTM0NzIwMEAxNjMuY29t
    1024bytes
        25
    1024bytes  
       May 31, 2018
    aXB2NC5rZXZpbkBnbWFpbC5jb20=

    感谢楼主
    Finch
        27
    Finch  
       May 31, 2018 via iPhone
    wingoo
        28
    wingoo  
       May 31, 2018
    d2luZ29nb29AZ21haWwuY29t

    感谢
    whoami9894
        29
    whoami9894  
       May 31, 2018 via Android
    d2hvYW1pOTg5NEBnbWFpbC5jb20=

    感谢
    sgq1128
        30
    sgq1128  
       May 31, 2018 via Android
    ODEzODIyNzQ0QHFxLmNvbQ==
    好人一生平安
    crayhuang
        31
    crayhuang  
       May 31, 2018
    cray.huang [at] gmail
    daiqiangbudainiu
        32
    daiqiangbudainiu  
       Jun 1, 2018
    mac 不支持吗?
    WildCat
        33
    WildCat  
    OP
       Jun 1, 2018
    @warcraft1236 支持,Python 3.6.5 在 Mac 上有个 bug,具体看 issues。我就是在 Mac 上开发的
    WildCat
        34
    WildCat  
    OP
       Jun 1, 2018
    @crayhuang 你这个回复真的是气死我了:

    1. 先是研究过滤空格
    2. 然后发现智障 AI 还是不识别你这个回复是邮箱地址
    3. debug 办个小时发现你没写 .com
    ahbing
        35
    ahbing  
       Jun 1, 2018 via Android
    givemearainbowlife#gmail.com
    vipdomain
        36
    vipdomain  
       Jun 1, 2018
    v2 用户名 @vip.qq.com
    thx
    WildCat
        37
    WildCat  
    OP
       Jun 1, 2018   ❤️ 1
    @vipdomain 你这让我程序怎么爬你邮箱啊?天呢我一个一个手工爬么
    crayhuang
        38
    crayhuang  
       Jun 1, 2018 via iPhone
    @WildCat 😂 我错了! 😅 不是故意的
    daiqiangbudainiu
        39
    daiqiangbudainiu  
       Jun 1, 2018
    @WildCat 可是我 pip install 了之后,启动不起来
    daiqiangbudainiu
        40
    daiqiangbudainiu  
       Jun 1, 2018
    @WildCat
    报错 log 如下

    2018-06-01 - 02:17:02 DEBUG: create new db connection
    Traceback (most recent call last):
    File "/usr/local/bin/scylla", line 11, in <module>
    sys.exit(app_main())
    File "/usr/local/lib/python3.6/site-packages/scylla/cli.py", line 84, in app_main
    sys.exit(main(sys.argv[1:]))
    File "/usr/local/lib/python3.6/site-packages/scylla/cli.py", line 48, in main
    from scylla.proxy import start_forward_proxy_server_non_blocking
    File "/usr/local/lib/python3.6/site-packages/scylla/proxy/__init__.py", line 1, in <module>
    from .server import start_forward_proxy_server_non_blocking, start_forward_proxy_server
    File "/usr/local/lib/python3.6/site-packages/scylla/proxy/server.py", line 14, in <module>
    httpclient.AsyncHTTPClient.configure("tornado.curl_httpclient.CurlAsyncHTTPClient")
    File "/usr/local/lib/python3.6/site-packages/tornado/httpclient.py", line 302, in configure
    super(AsyncHTTPClient, cls).configure(impl, **kwargs)
    File "/usr/local/lib/python3.6/site-packages/tornado/util.py", line 354, in configure
    impl = import_object(impl)
    File "/usr/local/lib/python3.6/site-packages/tornado/util.py", line 181, in import_object
    obj = __import__('.'.join(parts[:-1]), None, None, [parts[-1]], 0)
    File "/usr/local/lib/python3.6/site-packages/tornado/curl_httpclient.py", line 23, in <module>
    import pycurl # type: ignore
    ImportError: pycurl: libcurl link-time ssl backend (openssl) is different from compile-time ssl backend (none/other)
    WildCat
        41
    WildCat  
    OP
       Jun 1, 2018
    @warcraft1236 你电脑没装 lib-curl-dev,你自己 Google 去吧,不同系统不一样
    HFX3389
        42
    HFX3389  
       Jun 1, 2018
    Y2NjcGNjcEBxcS5jb20=
    感谢楼主
    xiaofengchen
        43
    xiaofengchen  
       Jun 1, 2018 via Android
    eGllX2NhbmdAb3V0bG9vay5jb20
    支持~
    safilar
        44
    safilar  
       Jun 1, 2018
    dTUyMDc1NDFAZ21haWwuY29t
    HuaBeau
        45
    HuaBeau  
       Jun 1, 2018
    NDI5NDYwMTY1QHFxLmNvbQ==

    支持楼主
    80868075
        46
    80868075  
       Jun 1, 2018 via Android
    后排支持楼主
    MzE1NDk4MTYxOUBxcS5jb20=
    safilar
        47
    safilar  
       Jun 1, 2018
    @Scylla 部署好多久会有 IP 进来啊
    safilar
        48
    safilar  
       Jun 1, 2018
    @WildCat 部署好多久会有 IP 进来啊
    fuckshiter
        49
    fuckshiter  
       Jun 1, 2018
    MzMyODk5MTVAcXEuY29t

    非常感谢,支持楼主的
    isin
        50
    isin  
       Jun 1, 2018
    aVFpZmVuZ0BIb3RtYWlsLmNvbQ==
    islee
        51
    islee  
       Jun 1, 2018
    c2xlZS5yZXBhbGNlQGdtYWlsLmNvbQo=
    gcod
        52
    gcod  
       Jun 1, 2018
    emh1Y2VAdnYxMjM0LmNu
    chi1st
        53
    chi1st  
       Jun 1, 2018
    支持支持
    eXVjaDEyMzBAcXEuY29t
    frozenthrone
        54
    frozenthrone  
       Jun 1, 2018
    bW9vbi56anVAZ21haWwuY29t

    thanks
    ch940621
        55
    ch940621  
       Jun 1, 2018
    Y2g5NDA2MjFAcXEuY29t
    资瓷一下
    ucmp0001
        56
    ucmp0001  
       Jun 1, 2018
    支持
    bXIuZnJpZW5kbHlAMTYzLmNvbQ==
    cedared
        57
    cedared  
       Jun 1, 2018
    MzQxNDUwNkBnbWFpbC5jb20=
    lingdong
        58
    lingdong  
       Jun 1, 2018
    bGluZ2Rvbmc3NTg2QGdtYWlsLmNvbQ==
    支持下
    woyao
        59
    woyao  
       Jun 1, 2018
    cndkc3FjOTg1NDBAY2hhY3VvLm5ldA==
    thx
    gmx1234
        60
    gmx1234  
       Jun 1, 2018
    Z214MTIzNEAxMjYuY29t
    支持 谢谢
    freemagico
        61
    freemagico  
       Jun 1, 2018
    dGdseTMwN0BnbWFpbC5jb20=

    赞美楼主
    shore507
        62
    shore507  
       Jun 1, 2018 via Android
    shorecw#gmail.com
    支持支持
    zhangchioulin
        63
    zhangchioulin  
       Jun 1, 2018
    Z21AY29yZWhlbGwuY29t

    蟹蟹
    gqlxj1987
        64
    gqlxj1987  
       Jun 1, 2018
    Z3FseGoxOTg3QGdtYWlsLmNvbQ==

    谢谢
    qshujun
        65
    qshujun  
       Jun 1, 2018 via Android
    cXNodWp1bkBnbWFpbC5jb20=
    多谢,辛苦啦
    hourann
        66
    hourann  
       Jun 1, 2018 via iPhone
    scylla,这个命名是取自越狱吗?
    azhi
        67
    azhi  
       Jun 1, 2018 via Android
    YWlrdXVlckBnbWFpbC5jb20=

    爬点小东西美滋滋
    yujizmq
        68
    yujizmq  
       Jun 1, 2018
    bWlrb3RvLnl1NTFAZ21haWwuY29t
    thx
    mutiple
        69
    mutiple  
       Jun 1, 2018
    emhhbmd4dWFucjExQDEyNi5jb20=
    蟹蟹
    vipwpcom
        70
    vipwpcom  
       Jun 1, 2018
    MjExNTE2MjEyQHFxLmNvbQ==
    支持 谢谢
    alwayshere
        71
    alwayshere  
       Jun 1, 2018
    请问你这个是爬取各大代理网站还是真正的爬取代理 ip 再来验证?
    SPACELAN
        72
    SPACELAN  
       Jun 1, 2018
    bHloYW1uQHFxLmNvbQ==

    谢谢
    yuluofanchen
        73
    yuluofanchen  
       Jun 1, 2018
    bHlubjEyOTk5QDE2My5jb20=

    谢谢~
    kingmo888
        74
    kingmo888  
       Jun 1, 2018
    bHpoLTM5MTZAMTYzLmNvbQ==
    感谢楼主,搭个车!
    Asugar
        75
    Asugar  
       Jun 1, 2018
    d2hvdG9AbXNuLmNvbQ== 谢谢
    Backlitz
        76
    Backlitz  
       Jun 1, 2018 via Android
    zyw9712#gmail.com

    不知道为什么一直没有收到,是不是之前格式错了?
    YY
        77
    YY  
       Jun 1, 2018
    djJleEBtYWlsaW5hdG9yLmNvbQ==

    谢谢
    Bisn
        78
    Bisn  
       Jun 1, 2018
    YmlzbkBxcS5jb20=
    Bisn
        79
    Bisn  
       Jun 1, 2018
    请问怎么和 Scrapy 集成?
    感谢!
    Bisn
        80
    Bisn  
       Jun 1, 2018
    http://api.ipify.org 这个网站估计有限制,经常不成功,返回的 ip 还是原先的
    http://ip.3322.net/ 换成这个网站没问题
    eastrd
        81
    eastrd  
       Jun 1, 2018
    ZTB0M3J4QGdtYWlsLmNvbQ==

    谢谢
    yolan
        82
    yolan  
       Jun 1, 2018
    dHJhc2gyNTgwQDE2My5jb20K
    3q
    taozywu
        83
    taozywu  
       Jun 1, 2018
    taozywu#qq.com
    咫尺一下
    huijian222
        84
    huijian222  
       Jun 1, 2018
    bGFpamluYmFuZzIwMDlAZ21haWwuY29tCg==
    3q
    zxy
        85
    zxy  
       Jun 1, 2018
    aXp4eUBsaXZlLmNvbQ==
    Sin
        86
    Sin  
       Jun 1, 2018
    c2lucnVlQGdtYWlsLmNvbQ==
    mmnnyycc
        87
    mmnnyycc  
       Jun 1, 2018
    MjYzMTMzODQ0MEBxcS5jb20=
    mosliu
        88
    mosliu  
       Jun 1, 2018
    bHgwMzE5QGdtYWlsLmNvbQ==
    谢谢楼主~~
    ilovebaicai
        89
    ilovebaicai  
       Jun 1, 2018
    Y2ZxdHhkMUBnbWFpbC5jb20=
    好人一生平安
    chinayb
        90
    chinayb  
       Jun 1, 2018
    Y24ueWJAZm94bWFpbC5jb20=
    Mrkon
        91
    Mrkon  
       Jun 1, 2018
    MTczMjkyNjE5QHFxLmNvbQ==
    谢谢
    Fechin
        92
    Fechin  
    PRO
       Jun 1, 2018
    bXIuZmVjaGluQGdtYWlsLmNvbQ==
    多谢
    demoxu
        93
    demoxu  
       Jun 1, 2018
    ZGVtb3h1MjAwOUBnbWFpbC5jb20=

    支持一下,多谢
    robinlovemaggie
        94
    robinlovemaggie  
       Jun 1, 2018
    cm9iaW4ud2hrQGdtYWlsLmNvbQ==
    正好需要写一个蕾丝工具,谢谢啦~~
    byron
        95
    byron  
       Jun 1, 2018
    Ynlyb25qaWFAZ21haWwuY29t

    吼啊。
    daiqiangbudainiu
        96
    daiqiangbudainiu  
       Jun 1, 2018
    @WildCat mac 还需要装这个吗?
    Caratpine
        97
    Caratpine  
       Jun 1, 2018
    做开源不易,支持一下。
    yyminmax
        98
    yyminmax  
       Jun 1, 2018
    bWlubWF4eXlAMTYzLmNvbQo=


    谢谢了~
    liujunsheng
        99
    liujunsheng  
       Jun 1, 2018
    YUBsaXVqdW5zaGVuZy5jb20=
    frankmdong
        100
    frankmdong  
       Jun 1, 2018
    c3VwZXJmcmFua2llNjIxQGdtYWlsLmNvbQ==
    感谢
    1  2  
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   3302 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 184ms · UTC 13:27 · PVG 21:27 · LAX 06:27 · JFK 09:27
    ♥ Do have faith in what you're doing.