这是一个创建于 233 天前的主题，其中的信息可能已经有所发展或是发生改变。
二手的，跑本地 llm, 是不是只需要考虑显存大小而已？有推荐的吗？不晓得是否能跑 deepseek 14b
 |
1
neteroster 233 天前 via Android
半高刀卡限制太严格了，技嘉有张 4060 Low Profile ，不过 8G 跑 14B 还是太勉强了
|
 |
2
wnpllrzodiac 232 天前 via Android
4060 感觉到顶了
|
 |
3
hertzry 232 天前 via iPhone
SXM2 的 V100 16G 加 PCIe 转接卡。
|
 |
4
uion 232 天前
加一点点上 tesla t4
|
 |
5
20015jjw 232 天前 via iPhone
Ada?
|
Select Language