docker 镜像无法使用了,用 golang 写了一个 docker、pip 的镜像代理

25 天前
 myml

国内的 docker 镜像源要 G 了,尝试用官方的 registry 做代理,发现 registry 虽然可以使用对象存储做后端,也会重定向到存储,但用的是异步存储,初次 pull 的时候还是直接给客户端发数据,这样下大文件的时候很容易中断,失败率很高。

我就用 golang 实现了一个镜像代理服务 https://github.com/myml/mirrorhub这个服务会先将文件上传到对象存储,然后再重定向对象存储的链接,客户端从对象存储下载文件速度快还不容易中断,相当于使用了云服务商的专线传输文件。

试过七牛的 Kudo 和 Cloudflare 的 R2 ,在我的俄罗斯节点和美国节点都能达到 60Mb/s 的上传速度(都是内存 512M,带宽 100M 的小鸡),客户端下载对象存储的文件 R2 能达到 80Mb/s ,Kudo 有 20Mb/s ,感觉七牛的速度有些不对劲,但是 R2 不限制流量速度又快,就没去排查了。

部署方法

docker run --network host ghcr.io/myml/mirrorhub:master -endpoint https://$ACCOUNT_ID.r2.cloudflarestorage.com -download_endpoint https://pub-xxxxxxxxxxx.r2.dev -region auto -bucket $BUCKET_NAME -access_key $ACCESS_KEY --secret_key $SECRET_KEY -mirrors :1234=>docker://registry-1.docker.io,:1235=>docker://ghcr.io,:1236=>docker://lscr.io,:1237=>pip://pypi.org

endpoint 、region 、bucket 、access_key 、secret_key 这些都是 S3 的主要配置,不再赘述

download_endpoint 是生成重定向链接用的,七牛的测试域名、R2 的 Public subdomain

mirrors 这个格式是“监听地址=>镜像地址”,现在实现了 docker 和 pip ,后续计划支持 npm 、debian 这些我常用的镜像支持

注意事项

因为是先上传到对象存储再重定向,大文件要等待一段时间(会没有进度条)。

pip 设置 index-url 的时候,顺便修改 timeout=6000 ,否则大文件会触发超时。

1171 次点击
所在节点    Docker
8 条回复
wcloudme
25 天前
还不如直接机器上挂个代理~
myml
24 天前
@wcloudme 不知是不是我的节点太拉了,用代理下载大文件时容易在中途降速卡死
MONGGO
24 天前
@myml 一般按带宽算不限流量的机器会有这种问题,要限速,不然网络满载就延迟暴增
Satansickle
24 天前
收藏了,这个能否装在局域网能科学的设备上做本地镜像代理?
wcloudme
23 天前
@myml 有的 IDC 的防火墙不行,流量大了会直接黑洞~~
myml
22 天前
@Satansickle 这种场景可以用官方的 registry 或者 nexsus ,他们也能实现代理缓存

这个软件比较适合放在网络条件不好的小鸡上,相当于借用云厂商的专线,文件不直传到你本地,局域网就不用担心网络问题。
myml
22 天前
@MONGGO 确实是按宽带不限流量的,还很便宜,我觉得是 gwf 限速的,因为用这个服务从节点上传到七牛、R2 时没看到有限速的情况。
zzl22100048
21 天前
快处理下 docker 镜像状态码转发,现在全是 200 ,默认的认证流程走不了

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1048282

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX