给大伙说说我在使用 chatgpt api 遇到的坑供你们参考

2023-03-07 10:25:03 +08:00
 biguokang

1.新账号有并发量限制

如果你是新账号,你会发现你有 18 刀的免费余额,但是如果你没有绑定信用卡,那么 chatgpt api 的并发量控制在每分钟 20 次请求,所以一分钟内调用 chatgpt api 超过 20 次,你问它问题只会回答你 rate limit 、要你绑定信用卡之类的消息了。

如何解除 rate limit 限制???只能绑定信用卡,在绑定了信用卡的 48 小时内并发量会提升到每分钟 60 次,绑定了信用卡 48 小时后候则是每分钟 3500 次

2.他收费是把上下文的 token 都算上去的

chatgpt api 的收费标准0.002 美刀 /1000token,看起来很便宜是吧,你开发 chatgpt ai 的时候,如果请求参数没加上 parentMessageId 的参数,那他就不会有上下文功能,相当于是一问一答,那收费的确便宜。

如果你想实现上下文,请求的时候就必须把 parentMessageId 的参数加上去,然后你每次提问问题的时候,他都会把之前的上下文纪录都一起累积提交过去,这些也是要算钱的,导致你每一次问问题,越往后消耗的 token 量越恐怖,特别是喜欢让 chatgpt 生成 1000 字论文的那种。

而且上下文容量是有限制的,如果你聊天纪录过长,总 token 超过大概几万个的时候,open ai 只会回复你 token 太长的错误,要你清空 token 。

所以为了你的钱包着想,也为了用户体验,写后端的时候一定要做好清理上下文的工作。

3.不要用 dalle 图片生成

一般来说,openai 的官方 sdk ,其实本身也包含了 dalle api ,有些人可能就会想,要不顺便用用 dalle ,加一个生成图片的功能。

我就试过,发现他生成的图片不怎么样,效果没那么好,其次最要命的是,生成一张图片收费 0.02 美刀,也就是大概生成 10 张图片就要消耗掉你 1 块 rmb 左右。

最要命的是,因为我的 openai 绑定了信用卡,当时我用了 dalle ,发现他居然不扣我那 18 刀的免费余额,而是直接扣我信用卡的钱

所以千万不要用。

4.后端记得做 api 鉴权,不要太信任你的朋友圈

我自己弄着玩的,所以没做后端 api 鉴权,而我只是把我自己弄得 chatgpt 网站分享到了朋友圈和几个技术群,结果就有人扒我的后端 api 了,导致被滥用,几天下来发生了差不多 10 万次请求纪录,把我 18 刀免费余额刷光还刷了我 50 美刀的信用卡,然而我看我的网站的 google analyze 统计的访问量根本就没那么多人,很明显我的后端被人拿去用了,所以我立马加了鉴权 api 调用量立马下降不少。

不过你们倒是可以参考下我的情况来预估 chatgpt api 收费,接近 10 万次请求,花了接近 70 刀


心酸,倒也不是钱被刷了 50 刀心酸,而是我不喜欢被第三方白嫖,本来就是我自己做着玩免费的



至于开发模式,我建议不要折腾国内服务器加境外代理了,直接租一台美国的 vps 把,然后用 vscode remote 过去直接在云服务器上远程写代码





最后分享一下我的 chatgpt 网站把

https://chat.alpaca-bi.com

14498 次点击
所在节点    程序员
50 条回复
n0bady
2023-03-07 10:42:50 +08:00
网站很简约很好看
dobelee
2023-03-07 10:44:59 +08:00
很详尽。隔壁估计也是 api 被滥用了。😅
dobelee
2023-03-07 10:45:17 +08:00
对了中文 token 是按字算吗?
ninvfeng2020
2023-03-07 10:45:47 +08:00
这 UI 很有特色 👍
webdesigner
2023-03-07 10:49:28 +08:00
这是 github 上面那个开源项目呀。
biguokang
2023-03-07 10:51:08 +08:00
@webdesigner https://github.com/Chanzhaoyu/chatgpt-web ,不过原项目没 api 鉴权处理,所以用的时候小第三方心被盗用,或者你自己写一套 jwt 认证
biguokang
2023-03-07 10:51:37 +08:00
@dobelee 按字数算的,但是我不知道 1000token 对应多少汉字
tool2d
2023-03-07 10:56:39 +08:00
我没在 https://platform.openai.com/docs/api-reference/chat 上面,查到任何关于 parentMessageId 的参数?

难道这个是隐藏的吗?
biguokang
2023-03-07 11:00:37 +08:00
@tool2d 我用的 chatgpt nodejs 库,是 openai 库的二次封装
vsitebon
2023-03-07 11:02:57 +08:00
@biguokang 一个汉字大概 4 个 token
mr0joker
2023-03-07 11:05:42 +08:00
很不错的经验总结,感谢分享
songjiaxin2008
2023-03-07 11:09:20 +08:00
@tool2d 自己把上下文组装起来就是 prompt 了
Wincer
2023-03-07 11:11:12 +08:00
> 最要命的是,因为我的 openai 绑定了信用卡,当时我用了 dalle ,发现他居然不扣我那 18 刀的免费余额,而是直接扣我信用卡的钱。

是只有 dalle 的使用会这样扣费,还是说 chatgpt 的 api 使用也会优先扣信用卡的钱?
psyer
2023-03-07 11:14:03 +08:00
@biguokang API 的回答是不是比 npm 的好?
biguokang
2023-03-07 11:14:07 +08:00
@Wincer 只有 dalle 的使用会这样扣费,你还有 18 刀免费余额的话,chatgpt api 优先扣那 18 刀的免费余额。
tool2d
2023-03-07 11:15:11 +08:00
@songjiaxin2008 这都行吗?汗。

看来我要研究一下 nodejs 代码了,新版的 chat api 默认返回没有断句。但总觉得缺少上下文关联性啊。
biguokang
2023-03-07 11:15:37 +08:00
@psyer npm 是啥,只能说 chatgpt api 的速度非常块,而 openai 的官方网页端 chatgpt plus 貌似比 api 更智能。
flybluewolf
2023-03-07 11:20:38 +08:00
这不是坑吧,官方 API 文档里清清楚楚。
chaselen
2023-03-07 11:22:18 +08:00
我也用了画图的 api ,原来那个费用高,难怪
biguokang
2023-03-07 11:29:54 +08:00
@flybluewolf 我感觉大部分人看官方文档都是看 API REFERENCE 去调 api ,很少人去把 GUIDES 这种纯英文完全看完。

不过后面我也把 GUIDES 全看一遍了,比如速率限制那里就是在 GUIDES 翻出来,也算是总结吧。

但是 dalle 收费,我翻遍了文档都没看到他是怎么收费,我是看余额发现被坑了才知道 dalle 是那么收费的

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/921809

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX