关于远程执行（ansible 等工具）相关问题

[McreeWu]

背景： 服务器较多，3w 台左右（且 IP 等都是浮动的，在 2-5w 台），可能会存在同时更新或执行命令的情况，现在是使用 ansible 来管理，但是因为机器数量过多导致经常性同步延迟过大，或者有部分服务器无法联通动问题卡在某个任务上，且运维平台跑 ansible 内存会挤爆（ 16G ），不过这个不是大问题，如果方案可行易用，配置不是问题，可以直接上顶配服务器供给运维平台使用。

故： 现在想结合运维平台调研一个新的远程执行方案，需要能批量跑任务，或直接跑 bash 得到输出值，服务器上可以部署 agent 。

目前在看 saltstack ，问题点是在于我们服务器大多走公网进行维护，网络链路分布全球，没办法保证连接质量。

想知道各位公司都是用什么方案，或者什么工具呢？

[liuliancao]

要不考虑下 awx （ ansible 的 web 版本） 支持动态资产 支持定时任务 可以参考下我写的这个 https://blog.liuliancao.com/roams/ansible/#headline-12 搭建个 demo 试试吧 目前用 git 管理 awx project 了 用起来很 nice

[liuliancao]

@liuliancao https://blog.liuliancao.com/roams/2024-09-06-awx/ 之前的比较简单 我更新下之前整理的 感兴趣的可以看看～

[julyclyde]

16G 运行 ansible 会挤爆？？？

[plko345]

你们执行一次 fork 多大

[zizon]

现成的可能确实就是 stalstack 了,tls+retry.
规模大了某些节点失败处理这个感觉确实没什么很好的方案.

毕竟有些也不是能重入了,光 retry 解决不了问题.

[ETiV]

按网游思路做就行了
10 万同时在线，同时广播消息需要什么样的架构

[neoblackcap]

几万台，肯定是需要换 agent 的方案，ansible/ssh 这样的方案性能真的太差了，几千台都很卡很慢了。

[xinmans]

都几万台了，直接上 k8s 吧

[Alliot]

机器多可以试试 saltstack.

[lambdaq]

agent 好像也支持 agent 。

[McreeWu]

@julyclyde #23 会，之前有一次跑 2w 台，直接挤掉了其他服务，后面开了一台 128G 的裸金属来跑的。

[McreeWu]

@xinmans #28 就是业务上不了，不适用 k8s 方案，不然也没那么折磨

[9136347]

如果你不想有特别大的变化的话，例如给几万台都去安装 agent 。
你可以多跑几个执行机。比如，你一台 master ，10 台 worker 。相当于每一台 worker 管理几千台，可以有效的处理你遇到的问题。
如果还不行的话，我觉得你可以在你现在的服务器中，挑选一部分作为 worker ，比如拿 100 台出来，让他们通过 ansible 去更新其他服务器。
下面很多人说的 agent 其实也是个很好的方案，直接把要做的任务广播出去。

[julyclyde]

@McreeWu ansible 默认 batch 不是才 20 么？运行 20 个 ssh 都能爆内存？

[jorneyr]

4W 台机器不整一个有高手的运维团队不合理。

[0o0O0o0O0o]

赞同 #19 ，agent+p2p 是不挑环境也适合比较恶劣的网络的方案，botnet 用了都说好

[McreeWu]

@jorneyr #35 有一个高手，但是离职去大厂了😭

[julyclyde]

@McreeWu 哈哈哈哈……

[tianshiyeben]

你可以试试 wgcloud ，它支持批量指令下发，也支持计划任务执行，重要的是这一切都是交给每个主机的 agent 执行的
http://www.wgstart.com

[McreeWu]

@GeekGao #16 是一个方法，我尝试一下，感谢