聊聊 OpenAI API 检测机制,顺便分享下国内大模型 API 性能指标(TPS、TTFT、 Context 等)

180 天前
 MyGodot

OpenAI 的开发者数据隐私协议就是个笑话,这次封禁我怀疑是抽样检测了我的传输内容(利用 API 访问 OpenAI 服务时,大多数时候交互语言都是中文,就会被标记),而不是以往的 IP 检测。我一直安然无恙的海外住宅 ip 自建代理,去年 11 月份和今年 3 月份两波封禁都没事,这次都被警告了,开发者等级都 tier5 了。

长期来看,得做好放弃 OpenAI ,转战国内大模型的准备了,于是最近做了一个国内大模型 API 性能监控网站,自动实时更新的,支持查看每家模型的首 token 时延( TTFT ),每秒输出 token 数( TPS )、输入输出价格、支持的上下文长度等统计,并且点击模型名称可以一键抵达模型介绍页,支持对单一指标进行排序,可以对任意多个模型的性能进行比较。

更多内容,自行探索,网站直达 👉: https://llmbenchmark.liduos.com/

1568 次点击
所在节点    OpenAI
2 条回复
jwangbyus
179 天前
内容检测? OPENAI 有这么狗的吗?
会不会 one-api 之类的代理的访问有标记?
另外你可以用 Azure ,Azure 对国内不封禁。
sickick
179 天前
3 个账号在阿里云海外服务器上 api 使用 2 个 tier5 1 个新号 目前没有收到任何警告

请问楼主收到的警告是什么形式的呢(如果可以的话可以发一个截图看一下吗?),
有没有可能是“海外住宅 ip”这方面的问题呢?

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1052926

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX