为啥 together 和 fireworks 的 llama 3.1(405B)差别很大

67 天前
 yinmin

together.aifireworks.ai 都第一时间推出了 Llama 3.1 405B

together 上名称叫 Meta-Llama-3.1-405B-Instruct-Turbo ,定价 5 刀/百万 Tokens

fireworks 上名字叫 llama-v3p1-405b-instruct ,定价 3 刀/百万 Tokens

我用 API 测试了,同样的参数,明显 together 的回答要更好些。有大佬知道原因吗? 是部署了不同的量化版本吗?

724 次点击
所在节点    OpenAI
0 条回复

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1060071

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX