尝试了 OpenAI 的的 API,但是每次回复都要等上很久,有什么办法优化吗

2023-03-08 13:06:18 +08:00
 thMaster

完全按照教程写的,但是每次都要等上二三十秒才会回复,有时还会报错,是我漏掉了什么吗,还是说这是正常现象

2607 次点击
所在节点    OpenAI
10 条回复
xiaoqi6pi112
2023-03-08 13:12:06 +08:00
我最近也发现这个问题了,不知道怎么解决,用套壳的感觉也慢
xiaoz
2023-03-08 13:25:39 +08:00
刚出来两天挺快的,最近明显感觉到变慢了,还偶尔报错。
Lentin
2023-03-08 13:26:37 +08:00
充钱
rossroma
2023-03-08 14:13:01 +08:00
从前两天开始明显变慢了,前几天都是秒回的
NiceFSH
2023-03-09 14:54:18 +08:00
NiceFSH
2023-03-09 14:54:54 +08:00
thMaster
2023-03-10 11:15:34 +08:00
解决了,使用流式传输就可以了,跟官方的 ChatGPT 一样,一个 token 一个 token 地显示

```Python
resp = ai.ChatCompletion.create(
model="gpt-3.5-turbo",
stream=True,
messages=messages
)
```
zhanlang
2023-03-10 14:42:52 +08:00
vx 搜索 "一起玩 ai", 直接体验 chatgpt plus
fengliu222
2023-03-16 11:46:14 +08:00
@thMaster 好像这几天流式传输也慢了很多。
Marko
2023-03-17 15:41:00 +08:00
有,用我们的小程序就不卡了:革新者

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/922210

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX