服务如何做到平滑升级？

[twogoods]

例如一个服务两个实例，前面 nginx 负载均衡。

nginx 可以做到实时的健康监测吗？一旦一个服务 kill 不往这个服务上转发请求，不过这样好像还是有一个问题，我要升级必然要 kill 掉一个服务，kill 瞬间如果还有请求在这个实例里，那么这个请求就无法返回数据，这样用户感知到异常了。 所以最好的方式是要重启一个服务前，告诉负载均衡器不要转发请求到我这里，然后等一段时间等这个机器上所有请求都处理完，这个时候老的请求完毕，新的请求不过来，就可以更新重启。

nginx 下有这样的功能吗？ haproxy 下倒是有 agent check 可以实现这个功能。

[sagaxu]

计划性重启容易，重启前把主机从 upstream 里摘除，用 reload 是 client 感知不到的。重启后，再把它加入集群。

比较不好处理的是服务突然崩溃，这种情况，有两个选择，一是把错误反馈给 client，然后累计错误 xx 次的时候从集群摘除。另一个选择是自动 try next upstream，client 不能感知到，但是并非所有业务都能无状态。

累计 xx 次出错就自动摘除，也容易有坑，阈值设置的高了，要失败太多次才介入。设置的低了，容易产生血崩，尤其是某些 bug 导致服务出错，一不留神你群里机器就全被下架完了。

所以需要配合主动的健康检测，做好平衡和折衷选择。