便宜的大模型 API 推荐？

[xinbaoCode]

听说阿里云的通义千问 API 收费了，看了下价格。

阿里云 ==> 0.12 元/1000tokens

我看了下，我最近 20 天就用了大概 1000 * 1000 tokens,还好在免费额度里，算了下账，都差点要 120 远了😭，还好目前是免费的🤣

果断弃用，xdm ，还有什么便宜的 API 调用不？目前我了解到的最低价格是

GPT4 ==> 0.024 元/1000 tokens

[jiurenmeng]

楼主说的 gpt4 0.024 是哪个

[sywsy]

gemini 免费，买个域名在 cloudflare 上转发下国内就能访问了

[leantli]

chatglm4 0.1 元/1k tokens, 国内的模型算中文 tokens 比国外的少, 要用的话建议就是英文 gpt4, 中文 chatglm4, 不追求回答质量的话那选择更是非常多了
等 claude-3-haiku api 放出来, 感觉可以考虑用这个, 看官网评测性能虽然弱于 gpt4, 但差距没有特别大, 而且看起来价格可能会很便宜

[xinbaoCode]

@jiurenmeng 这个 https://api.kksj.me/ ，之前他们在 V2EX 推荐过，感觉还不错我就购买了，不过只买了 10 块钱😂

[incubus]

@tiantangtianma https://github.com/xai-org/grok-1

[wensonsmith]

简单问题本地 ollama （ mistral/qwen-13b 这俩效果可以），M 芯片跑起来挺快

复杂问题 Kimi / ChatGPT 4

[kneo]

为什么挑便宜的？便宜的能好用？一百多还不够一小时工资吧。

[coinbase]

直接本地搭建一个 Qwen 7b 的，基本够用了应该，一张 4090 就可以跑

[xinmans]

@wensonsmith 需要 gpu ？还是 cpu 也可以？

[richarddingcn]

aws claude 3?

[luckykong]

@wensonsmith #26 qwen-13b 是哪个？ 是 14B 么？
想问一下你跑的哪个版本？速度怎么样？我用过一个，感觉有些慢，难道是我配置不行。。。。

[akatale]

与其找便宜的不如找效果最好的，要便宜有免费的那最便宜

[lekai63]

我目前也用的是国内的转发站 ，大体就是 0.8 元人民币 ==> 1 美元额度。
算下来就是楼上的 0.024/1k tokens 吧

不过目前也就个人用用，冲了 200 刀（ 160 人民币）。claude 3 的三个相关模型，gpt-4 的模型 看起来都能用。

[lekai63]

所以不知道并发情况。之前还纳闷这些转发站的上游渠道，那现在似乎优点明白了：
gpt-4 ---> Azure
claude ---> AWS

[SiWXie]

@lekai63 老哥用的那家的，推荐下，最近想试试

[lekai63]

@SiWXie 我去看了看，这家没 aff 啊，心好痛啊。

还好他家域名短，辛苦老哥看图片

👆 真·广告位出租 👆

[wensonsmith]

@xinmans
@luckykong

纯 CPU 就可以。M1 Pro, 16G 跑着挺快

对，14b 我说错了。

[Xiritianming]

together.ai 有 25 美刀额度免费

[kneo]

@wensonsmith 这些本地“小模型”只能跑点文科东西，反正对我来说基本上没法用。快倒是真快，刷刷刷好几屏我眼睛都跟不上。

[tiantangtianma]

@fredweili 谢谢