这套垃圾配置训练模型可以吗

309 天前
 lordofmetis

第一次发帖,不知道是否发在合适的节点,如果发错了,还请见谅。

废话不多说,配置如下:

  1. 主板:超微 X9SRL-F ,两个 PCIE 3.0 ✖️ 16 槽,若干个 PCIE 3.0 ✖️ 8 槽;
  2. 显卡:英伟达 Tesla P40 ✖️ 2 + AMD GT650 亮机卡;
  3. CPU:至强 E5-2680V2 ;
  4. 内存:三星 DDR3 32G ✖️ 4 ;
  5. 硬盘:随便;
  6. 电源:挑个 1000W 以上的。

上面这样一套配置跑深度学习以及训练模型可以吗,有什么坑吗? 提前谢谢大家!

6616 次点击
所在节点    程序员
61 条回复
biglion666
308 天前
如果是个人用,这不得吵死。。。如果不是个人用,干嘛买个垃圾。。。
lordofmetis
308 天前
@gzlock 没错的,只是觉得 4090 用来跑图是不是有点性能过剩啦
lordofmetis
308 天前
@esile 好的,谢谢~
lordofmetis
308 天前
@echo1937 谢谢,我刚看了下,确实精粤和华南都有符合我要求的板子,即支持 DDR3 且有两个 PCIE x 16 的显卡插槽,不过还是想先试试看超微的那块老板子吧,一来价格更便宜,二来超微的口碑确实更好些而在精粤和华南的买家评论区也看到一些翻车的留言,三来超微这块坏了之后也可以再换其他的。
lordofmetis
308 天前
@biglion666 谢谢回复,如果不用机架式的机箱,噪音也会很大吗?
iorilu
308 天前
真没必要, 现在用 4060 16g 得做这个很合适, 价格也还行
lordofmetis
308 天前
@iorilu 谢谢回复,4060 我也在考虑,但是为什么 4060 已经很合适了方便展开说说吗?
iorilu
308 天前
@lordofmetis 首先, 这是性价比最高的 16g 卡, 其次都是新卡, 不存在洋垃圾矿卡等, 驱动都是新的, 肯定支持所有得框架

再说了, 真这玩意不够用, 说明你已经搞得不错, 换更好的卡也很合理阿
iorilu
308 天前
@iorilu 另外 transformers 也支持分布式训练, 真需要大显存 ,可以弄几块 4060ti, 当然了 , 我还没用过分布式, 但应该是可行的
mifly
308 天前
也在 4060 2080 魔改,3090 中犹豫
分享我的看到的推荐 4060ti16g 的理由是,内存大,价格合适,新架构,性能还行,一般 16g 内存不支持的,24g 也不支持,到时候租 gpu 用;

2080 魔改矿卡和看手艺,相对大
3090 矿卡,预算到 6000 了,好像也可以考虑最新的 4070ti super 了?
biglion666
308 天前
@lordofmetis p40 的问题是没有风扇,你要配风扇。 那就得起飞,你这散热上不去,显卡就跑不动

想要跑就得风扇狂飙,飞机起飞。你限制转速就两个结果,一跑不动,二显卡过热烧了

你如果有个单独的地下室什么的倒是可以。。。但是如果你有个单独的地下室,那么说明你有钱买 4090.。。。
iorilu
308 天前
其实大部分玩玩主要是想把流程跑起来

学习反正把参数改改, 显存小点反正也能跑起来

不会有人真指望自己拿点破机器能训练出好用得模型把

如果只是用别人模型, 拿更不需要太大显存
lordofmetis
308 天前
@iorilu 谢谢,您说的很有道理,我可能确实需要摆正心态,从 4060ti 开始入门可能也是个不错的选择。

@mifly 谢谢,您说的理由我认同。我觉得魔改 2080 不行的点在于大部分店只有一年质保,之后出问题了再去修的话也没啥性价比了; 3090 矿卡么,总觉得六千多买矿卡心里膈应。

@biglion666 谢谢,您的回复点醒我了,之前一直觉得噪音方面可能问题不大,现在想想大概想当然了。
jonty
308 天前
@lordofmetis #10 一般来说是主板带集显。。不是 CPU
stimw
308 天前
@lordofmetis #7 买之前可以先租卡吧。。租一阵子心里有数了,搞什么方向、自己需要多大显存也知道了。没必要急着买。
lordofmetis
308 天前
@jonty 谢谢,学习了
lordofmetis
308 天前
@stimw 谢谢回复,是的,之前其实就已经开始用 autodl 和 vast.ai 比划比划,但是机器有点难抢,所以想着要不要自己搞一台算了。
esile
307 天前
@echo1937 我去年买了 6 块已经有三块有问题了 厂家售后只包点亮 寄过去都是直接寄回
echo1937
307 天前
@esile #58 这么夸张吗,哪个牌子哪个型号的?
dayeye2006199
306 天前
感觉不如 10 刀一个月的 colab

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1009676

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX