出于如下这几个考虑,我把我的 OpenAI 套壳应用从 OpenAI 直连换成了 Cloudflare AI Gateway:
- 每个 OpenAI API Key 能够对应一个 API Gateway ,不部署任何额外服务情况下也可以做到分开统计和限制;
- 更好的统计数据;
- 缓存和限流功能;
但发现 CF 的开支统计貌似有些问题,从 OpenAI 开发者面板上看昨天只支出了$2.41 ,在 CF 这边就变成了 6.21 ,两倍都有多。🤔
出于如下这几个考虑,我把我的 OpenAI 套壳应用从 OpenAI 直连换成了 Cloudflare AI Gateway:
但发现 CF 的开支统计貌似有些问题,从 OpenAI 开发者面板上看昨天只支出了$2.41 ,在 CF 这边就变成了 6.21 ,两倍都有多。🤔