想白嫖点大模型的 api

[wencan]

用来翻译几页文档。后面应该还会要。不是提供在线服务，就是电脑上手动执行脚本。

开源的小 size 模型，担心翻译质量。大 size 模型，机器也跑不起来。只能指望在线的了。

翻译质量好的模型，好像就是 Gemini 和 ChatGPT 。

试了 Gemini api ，说是限制每分钟 60 ，但实际限得很死。我每次请求前加了 sleep 10 ，请求两次，就报 RESOURCE_EXHAUSTED 。

OpenAI 的 api ，没记错的话，是一次性赠送多少 token 。只怕不够用。

准备试试百度免费的 api 。

不知道有没有什么好开源程序，包装各大模型的 web 页面，提供接口？

看大家有没有什么好的解决方案。

[ruidoBlanco]

deepinfra llama3 70b 可还行？

[wencan]

@ruidoBlanco 这货怎么白嫖？原版 llama3 对中文支持不太好吧？

[ruidoBlanco]

我记得注册就有一点点美刀，但是足够跑很多很多了。

中文支持的事情我从来没考虑过。

[issakchill]

百度 api 用 one api 转接 或者买点 deepseek 的

[morty2]

试试本人开发的，目前还没有正式上线，现在用白嫖的测试服务器(1g 内存)：wanxangtrans.com 。 可以不用登录免费使用，支持自定义 api key 。

[LittleYangYang]

Deepseek 和 Qwen 现在都挺便宜的，1M Token 也就一块钱作用，效果还行

[LittleYangYang]

@LittleYangYang 作用->左右

[kneo]

翻译已经是最简单的任务了。大模型要是连翻译都做不好就可以倒闭了。

[EmbraceQWQ]

自己搭的 https://chat1024.tthym.cn 每天 20 次左右，不过没有上传文件，不嫌弃可以试试

[Motorola3]

月之暗面 注册送十五块钱

[wencan]

@kneo 国内某知名大模型，把 Socket 翻译为套接口。你还不好说翻译错了。

[secsilm]

说大模型能做好翻译的，怕是没用过几次。

[secsilm]

@secsilm #12 严谨点：说大部分大模型都能做好翻译的，怕是没用过几次。

[SkywalkerJi]

@kneo 翻译实力差距很大的。而且已经有专攻翻译的大模型了。

[Azure99]

自荐一下，9B 的模型，适合跑在本地
https://github.com/Azure99/BlossomLM

在线 Demo
https://huggingface.co/spaces/Azure99/Blossom-9B-Demo

[noyidoit]

@kneo 你可以试下 llama ，用它进行英译中可以评价为完全不可用，但人家活得好好的

[kneo]

@noyidoit 本地小模型不用拿来说吧，根本上不了线，而且这是英语模型。

线上能用的大场模型，有翻译做的很差的吗？比如通义千问，百川，火星，甚至 deepseek ？

真心问，不是杠。我之前试过感觉都还行。不过我主要用 gpt3 ，国内模型确实用的不多。

[kneo]

@wencan 6 啊，我还真觉得比套接字翻译的好……

[Pteromyini]

@wencan #2 原版对中文确实不太友好

[InkStone]

如果量不大的话根本不需要考虑那么多……我天天用自己的 GPT3.5 token 跑沉浸式翻译，一个月的账单就十几块钱。这个开销跟免费也没啥区别了。