together.ai 和 fireworks.ai 都第一时间推出了 Llama 3.1 405B
together 上名称叫 Meta-Llama-3.1-405B-Instruct-Turbo ,定价 5 刀/百万 Tokens
fireworks 上名字叫 llama-v3p1-405b-instruct ,定价 3 刀/百万 Tokens
我用 API 测试了,同样的参数,明显 together 的回答要更好些。有大佬知道原因吗? 是部署了不同的量化版本吗?
这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。
V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。
V2EX is a community of developers, designers and creative people.