有没有反向代理 Azure OpenAI 的 Proxy 推荐？

[zealinux]

其实未来，单个 Azure OpenAI 的接口并发量不够，

是否可以有什么反向代理，类似 Nginx ，

可以后端可以指向多个 Azure OpenAI 的 endpoint ？ 然后对前端供统一的 AK/SK

[wind1986]

这请求不是无状态的么, 要么通过代码随机选一个
要么 nginx 配也可以, 直接修改 http 头

[Tink]

自建一个呗，几分钟 的事

[ysicing]

oneapi 不就可以么

[ydirel]

ohmygpt 了解一下