预算 8k–1w 左右,有没有 gpu 深度学习服务器 ubuntu 组装配置推荐呐

151 天前
 1140601003
用来深度学习训练,大模型调用,微调,玩玩 yolo 训练与部署
1208 次点击
所在节点    硬件
6 条回复
1140601003
151 天前
来个人顶贴呀!!
Fred0410
151 天前
不考虑用云吗? 我冲了 300 块钱玩了一个月了。。
telaviv
151 天前
能忍没有 bf16 的话,性价比最高的可能是 2080 Ti 22G ,单卡用 unsloth 可以调不少模型,ollama 推理 35B 模型可以 5-10 tokens/s ,双卡会更快些。
1140601003
151 天前
@Fred0410 云的不划算
1140601003
151 天前
@telaviv 我打算搞个 3090 ,搞个双系统来玩玩训练
telaviv
149 天前
@1140601003 可以的

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1052845

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX