开源的大模型看文档性能要求都挺高的 ，所以提供的是炼丹炉，还是练好的模型，难道运行起来就要那么高的性能吗？
treblex · lazyfury · 2023-11-08 12:25:34 +08:00 · 407 次点击这是一个创建于 381 天前的主题，其中的信息可能已经有所发展或是发生改变。
 |
1
treblex OP 好像也都需要 cuda ，没英伟达显卡
|
 |
2
me221 2023-11-08 13:25:34 +08:00
都是提供训练好的模型
|
|
3
me221 2023-11-08 13:30:11 +08:00  1
小参数模型用 3090 ，4090 也能跑推理，训练够呛
65B 之类的大参数模型就只能用 A100 这种专业卡了 |
Select Language