请教各位大佬,go-openai 返回的数据,怎么流式返回给 iOS 客户端使用
helloword001 · 2023-10-07 12:34:36 +08:00 · 899 次点击这是一个创建于 416 天前的主题，其中的信息可能已经有所发展或是发生改变。
用的库是 github.com/sashabaranov/go-openai,请问怎么流式的返给 iOS 客户端
package main
import (
"context"
"errors"
"fmt"
"io"
openai "github.com/sashabaranov/go-openai"
)
func main() {
c := openai.NewClient("your token")
ctx := context.Background()
req := openai.ChatCompletionRequest{
Model: openai.GPT3Dot5Turbo,
MaxTokens: 20,
Messages: []openai.ChatCompletionMessage{
{
Role: openai.ChatMessageRoleUser,
Content: "Lorem ipsum",
},
},
Stream: true,
}
stream, err := c.CreateChatCompletionStream(ctx, req)
if err != nil {
fmt.Printf("ChatCompletionStream error: %v\n", err)
return
}
defer stream.Close()
fmt.Printf("Stream response: ")
for {
response, err := stream.Recv()
if errors.Is(err, io.EOF) {
fmt.Println("\nStream finished")
return
}
if err != nil {
fmt.Printf("\nStream error: %v\n", err)
return
}
fmt.Printf(response.Choices[0].Delta.Content)
}
}
package main
import (
"context"
"errors"
"fmt"
"io"
openai "github.com/sashabaranov/go-openai"
)
func main() {
c := openai.NewClient("your token")
ctx := context.Background()
req := openai.ChatCompletionRequest{
Model: openai.GPT3Dot5Turbo,
MaxTokens: 20,
Messages: []openai.ChatCompletionMessage{
{
Role: openai.ChatMessageRoleUser,
Content: "Lorem ipsum",
},
},
Stream: true,
}
stream, err := c.CreateChatCompletionStream(ctx, req)
if err != nil {
fmt.Printf("ChatCompletionStream error: %v\n", err)
return
}
defer stream.Close()
fmt.Printf("Stream response: ")
for {
response, err := stream.Recv()
if errors.Is(err, io.EOF) {
fmt.Println("\nStream finished")
return
}
if err != nil {
fmt.Printf("\nStream error: %v\n", err)
return
}
fmt.Printf(response.Choices[0].Delta.Content)
}
}
 |
1
guonaihong 2023-10-07 13:42:16 +08:00
你启个 websocket 或者 grpc stream 服务端。客户端不停读就行。
|
 |
2
helloword001 OP w.Write([]byte(response.Choices[0].Delta.Content + "\n"))
这种形式可以吗 |
|
3
guonaihong 2023-10-07 13:47:48 +08:00
websocket 库可以玩下我写的，https://github.com/antlabs/quickws ，有使用上的问题帮你看看。
|
|
4
guonaihong 2023-10-07 13:52:01 +08:00
@helloword001 你想用 http chunked 模拟？具体代码网上找找例子，这个也看客户端的开发能力，搞得定也行，缺点只能模拟单向流，s->c 侧的。websocket 和 grpc stream 是全双工的，c->s ，s->c 都行。
|
 |
5
dddd1919 2023-10-07 14:14:41 +08:00
sse
|
|
6
helloword001 OP |
|
7
guonaihong 2023-10-07 15:41:59 +08:00
@helloword001 不能无缝转，要自己写代码。无论是 http chunked 模拟(也叫 sse)，还是 websocket 或者 grpc 都要写点代码。
|
|
8
helloword001 OP @guonaihong 好的，谢谢大佬
|
Select Language