写了在 Go 里计算 GPT3 token 的包

[WendellSun]

https://github.com/pandodao/tokenizer-go

最近在用 Go 做基于 OpenAI API 的应用，需要在请求前对 token 做检查，当请求太大时可以自动的缩减 (Chat completions) 或者分批次请求 (Embeddings)，github 没找到可以在 Go 里用的包，所以打算自己写一个。

从头实现的难度太大，取巧了一下，embed 了现成的 npm 包，然后通过 JavaScript 函数调用来获取结果，这样在 Go 里就跟原生包一样直接用了。得益于使用的 goja 库是纯 Go 实现的 JavaScript engine ，所以也不需要 CGO 那些，从 Benchmark 上看执行效率也不错。有类似需求的话可以直接使用。

[taowen]

https://bellard.org/ts_server/ fabrice bellard is all you need

[unco020511]

有一些免费或者按次数调用的自然语言处理接口,可以用来归纳总结,然后当 token 过长时(特别是连续对话),就可以先归纳总结,然后再发送给 gpt,这样既保证了对话的连续性,又不至于 token 爆炸

[Rehtt]

@unco020511 怎么进行归纳总结？

[WendellSun]

@taowen 这个不错唉，做的挺全面，谢谢推荐。

[unco020511]

@Rehtt "有一些免费或者按次数调用的自然语言处理接口"

[WendellSun]

@unco020511 这样优化也可以。

[hamsterbase]

你不如把 npm 代码发给 chatgpg ，让他帮你转 golang

[WendellSun]

@hamsterbase 单纯的函数应该可以，这种有上下文依赖的估计不好搞。

[xiaoz]

@unco020511 #5 ，发出来看看呢