付费求一个 go 项目程序优化方案，给系统提高并发

[LemonLeon]

这是一个开源的 chatgpt 接口转发系统，使用 Go 程序编写。

https://github.com/songquanpeng/one-api

在实际使用过程中，高并发已经达到极限，但是系统的资源利用率非常低。我需要一个工程师协助我，找出并发限制的瓶颈，加以优化。

背景参考：
centos 4h8g oneapi
实测并发量 2000 rpm 附近

提升系统性能可以有效增加并发量，另一个系统 6h8g 并发量可以达到 5000 rpm 。
但是高并发的时候，cpu 资源利用率并不高，不清楚限制的因素到底是什么。

-
大家的时间都很宝贵，我会为此付费。评论区留下你的联系方式

也欢迎各位佬在评论区提提建议！！

[guoguoyu]

可以试试我的方案，我从 8 9 月就开始处理这个问题了，经过几轮优化，现在 2h2g 都能有很高 QPS ，也帮过好多个人做了优化，看下优化效果： https://www.bilibili.com/video/BV1sj411W71m/