还从未装过机,只有一台用了数年的笔记本,1066 的显卡完全不能胜任如今 ai 模型对显存的需求。于是决定攒一台深度学习工作站。学生党,家庭也一般,为了满足对本地调试模型的需求,弄个不太贵的台式也说的过去,那么为什么不捡一台高扩展性的工作站呢
既然是围绕深度学习的需求,首先考虑显卡的选择。划定选择范围:
我爬取了 techpowerup 的显卡数据库,获得了全部 NVIDIA 显卡型号和性能指标。通过浏览闲鱼,找出当前二手市场的底价。用综合性能(显存带宽,半精度,单精度,双精度性能,像素 /纹理渲染速度,显存大小)除以综合成本(价格,能效比),得出了每款显卡的性价比分数。最终得出结论:性价比最高的显卡是 3080ti 和 3060 12g 。但是由参考了 lambda 对显卡炼丹性能的测评后,决定选择 A4000 。在我的综合性价比表上它是排名最靠前的专业卡,仅次于 4080 ,并且 4200 左右的价格也正好符合我的预算。A4000 核心基本等同于降频版的 3070ti ,功耗减半的前提下并没有损失太多性能,同时还大幅拉高了显存频率。专业卡对多卡互联没有阉割,对于未来加卡很友好。
接下来考虑平台。出乎我意料地发现 Intel 居然没有服务器芯片组支持 pcie4.0 。既然要极致性价比,选择大船洋垃圾是必须的,所以果断看向 AMD 。发现了一款非常适合我的平台,技嘉 MZ32-AR0 ,1250 的价格,单路 EPYC 7002 ,DIMMx16 ,4 个 PCIe4.0x16 插槽,可扩展性无敌,并且也有原装的 4u 服务器。于是海鲜平台下单了准系统( 1700 元)
然后考虑 CPU 。这款主板为 7002 系列设计,可以兼容 7003 ,然而观察 7003 的价格,都相当高昂。7002 系列中,发现 7532 性价比最高,遂下单一块( 2000 元)
再买来一根内存,亮机卡,就是等待到货准备装机测试了
这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。
V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。
V2EX is a community of developers, designers and creative people.