这是一个创建于 402 天前的主题，其中的信息可能已经有所发展或是发生改变。
 |
1
xtreme1 2024-07-26 11:23:40 +08:00  1
exo https://github.com/exo-explore/exo + 192G MacStudio x2
|
 |
2
yinmin 2024-07-26 14:48:51 +08:00
together 、fireworks 、openrouter 上都有已部署的 llama3.1 405B ，我用了感觉还不如 qwen2 72B ，根本没法和 gpt-4o 、claude 3.5 sonnet 比拼。
|
 |
4
antiblahblah 2024-08-02 11:31:14 +08:00
@xtreme1 这个配置跑起来什么速度？多少个 token/秒？
|
|
5
antiblahblah 2024-08-24 12:24:26 +08:00
@xtreme1 为什么要 x2 ？
|
Select Language