体验 llama3 系列的速度吧

[ProxyXAI]

https://free.proxyxai.com

[bearqq]

点之前：本来一脸不屑
点之后：卧槽？？？？？？？？？

[junan]

试了几次后和#1 一样的反应

[hooych]

速度确实嘎嘎快，GPT 是便秘，这个有种一泻千里的畅快感

[qinfengge]

G 了，一直请稍后再试

[xier9213]

速度确实快,就是太不稳定了

[zsxzy]

用什么 gpu 跑的, 我用笔记本的 3060 6G, 好慢 😆

[Goghho]

@zsxzy 这么快感觉就是 groq 吧

[hebwjb]

挂了

[djangovcps]

[fredweili]

8b 的本地跑，效果已经不错了

[nwg]

我擦 这么快

[itskingname]

用 groq ，速度可以达到 700Token/s ，已经没有必要使用 Stream 模式了。

[maolon]

是 groq 快不是 llama3 快吧...用其他方式 host 速度跟其他模型差不多

[param]

@hooych gpt 用最低配的 ada 一样很快

[lizhisty]

怎么挂了啊

[coolair]

请稍后再试!

[coderluan]

你们说的快不是瞬间就输出 “请稍后再试” 吧😀😀😀

[Chad0000]

没有背后的总算力就说快就是流氓，要我说我还能说我的 GPT4 上午使用时相当快，又聪明又快，比 3.5 还快。那明显是因为那时用量低，算力足啊。

[hooych]

@hebwjb
@djangovcps
@lizhisty
@coolair
@coderluan 左下角切换模型

[huzhizhao]

请稍后再试!