目前最快的模型, 微软 Phi-3

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

当一个程序员开始做量化交易

从手动复盘到写一个自己的策略回测工具，我把自己的思考和开发过程记录了下来，希望能对你有所启发。

Promoted by bmpidev2019

这是一个创建于 450 天前的主题，其中的信息可能已经有所发展或是发生改变。

在我的 3060 6G GPU , 基本能即时响应. 使用 ollama run phi3 即可体验, llama3 测试起来就没那么快

2 条回复 • 2024-04-26 23:25:39 +08:00

maymay5

2024-04-25 17:26:55 +08:00

3060 6G 最高可以跑 llama3 几 b 的呢？我有台闲置的 3060 笔记本想试试，谢谢！

xudong

2024-04-26 23:25:39 +08:00

@maymay5 8b 模型 5g 左右