Sambanova AI 提供的免费免登入 llama3.1 405B，有 api

[t41372]

Sambanova AI ，一个搞 ai 芯片的公司，提供了 llama3.1 405B 的 demo 页面，无须付费，无须登入，我目前用的不多所以没发现有什么限制。就是隐私条款有说你发过去的数据都可以被他们自由使用，不过免费的要啥自行车...

https://sambanova.ai/

没过多久就有人逆向了网站，写了个支持 OpenAI API 格式的 api 服务器...

https://github.com/lingo34/sambanova-ai-proxy

[skyqiao]

这个不错，回头试试

[zhiyu1998]

Sambanova AI 快是真的快，回答却一言难尽

[lingo34]

有点意思。官方页面好象只能输出 800 多 token ，不知道那个 api server 能不能输出更多，等会去试试