Golang 怎么做到真正的平滑无缝重启服务?

2020-10-16 12:42:19 +08:00
 DavidNineRoc

加入有 10 台从服务器做负载均衡, 更新 Golang 服务是不是,

  1. 把 X 服务器踢出 SLB
  2. 更新代码, build, run
  3. 把 X 服务器加入到 SLB
  4. 下一台服务器重复 1,2,3

对于PHP服务直接一键更新代码即可更新服务,除非安装扩展重启php-fpm


我看到有一个帖子说.

https://www.v2ex.com/t/714891#reply6

这几种方式, 不管你怎么平滑, 总会有那么一瞬间停止服务. 还是说我理解的和他们说的不一样?


有专业的人士说一下实际的更新方案吗?

2614 次点击
所在节点    问与答
7 条回复
cloverstd
2020-10-16 13:10:26 +08:00
为啥不是先 build 后,直接分发可执行文件呢

如果是 HTTP 层的,用 https://golang.org/pkg/net/http/#example_Server_Shutdown 去关闭服务,同时停止接受新的请求,等到正在处理的请求处理完,然后把这台机器踢出 SLB,然后发新的,新的起来了,再注册到 SLB 去

如果是 TCP 长连接的,只能用 fork,把 FD 传给新起来的进程
ETiV
2020-10-16 13:25:28 +08:00
可以学习下 nginx -s reload 的实现,或者干脆把专业的事情交给专业的 app 去干…

假设两个 service:p 、q,p 正在运行

1. 拉起 q
2. 为 q 做 readiness 状态检查
3. 检查无误,更新 nginx proxy_pass 的地址(从 p 监听转为 q 的监听)
4. 执行 nginx -s reload

——
如果你要自己做,参考 nginx 的话,就需要自己把网络监听层抽象出来(只转发而不做任何业务逻辑),重启(不是重启,而应是重载)的时候不重启这个监听端口的主进程,而是启动 q 服务(作为子进程)、做健康检查、都没问题后阻止向 p 服务转发新的请求;待 p 业务处理的请求完成后,销毁 p 服务的子进程。
DavidNineRoc
2020-10-16 15:04:22 +08:00
@cloverstd build 后, 在杀死老进程启动新进程这一瞬间服务停止
@ETiV 现在写的业务 golang 程序也是使用 nginx 反向代理访问的. 不过在更新 golang 程序会停止服务(只是一些统计服务,不影响). 想知道实际如果是 web 服务, 应该怎么做更新. 如我在 golang 只监听了 8080 端口, nginx 反向代理到 8080, 并配置好域名. 这时候怎么做到平滑更新.
jaylee4869
2020-10-16 15:20:24 +08:00
都用 Go 了那就容器+容器编排。Kubernetes 滚动更新: https://kubernetes.io/zh/docs/tutorials/kubernetes-basics/update/update-intro/
monsterxx03
2020-10-16 15:59:10 +08:00
不管是物理机还是 k8s 和你说的其实都差不多, 多一点细节

1. lb 那边先停止把新的 request 发送到要停止的 server, 等待一个 graceful timeout 时间让 server 把当前请求都处理完, 再把它下线, 在用户层面就不会有请求被打断, 除非是异常的慢连接.
3. lb 在把 server 加回去之前要先 health check 通过.

nginx 可以通过 lua 模块来实现.

说 docker 发个 singal 就能 graceful restart 的是在扯淡.

不依赖 lb, 在 golang 代码层面实现 graceful restart 也可以, 一般是和 nginx 一样通过 fork 子进程+ 复制 fd 实现的, 比如 https://github.com/cloudflare/tableflip

一般优先从 lb 层做, 这种原地更新的方式局限性太大了, 除非规模特别小,或业务特殊.
ETiV
2020-10-16 17:09:19 +08:00
@DavidNineRoc

问题就在于你新旧两个 golang 服务不要监听同一个端口,当旧的在监听 8080,新的就监听 8081

8081 健康检查通过后,修改 nginx 配置( sed -i 's/:8080/:8081/')、再 reload nginx

当下一个新版本来了之后,启动新服务,监听 8080 。再走一遍上面的逻辑就好了~

tick 、tock ; tick 、tock……
DavidNineRoc
2020-10-17 13:00:02 +08:00
@jaylee4869 用了容器部署, 不过是把 build 和 run 命令写在 docker-compose, 每次更新代码 restart 容器一下. 这个链接没看懂是多台服务器更新还是怎么的, 多台我知道可以踢下线更新好后自动拉上线. 单台服务器的话只能换端口换地址吗? 换的话就得改代码配置文件, 感觉不是一个好的方案.

@monsterxx03 现在就是通过 docker 发送信号,然后重启, 这样子肯定会停止服务一瞬间. 感觉这种应该用第三方应用来实现, 不然代码写这种不是很友好.
@ETiV 这个方案是不是每次更新都得换一个端口, 感觉 nginx 配置文件得改到死 >_<

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/715583

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX