3090 用于深度学习怎么样，要不要等 A6000

[Porphet]

实验室要买机架式服务器
预算在 14w 左右，估计也就一两台
想买 3090，顺便问一下 3090 支持 nvlink 吗，就是可以叠加显存的 3.0 版的 nvlink
还有有什么好的 2u 的机架服务器推荐吗，谢谢各位了

[aliceclark]

Ampere 架构的支持第三代 nvlink 的，-> https://www.nvidia.com/en-us/data-center/nvlink/
对显卡比较友好的 2u 的话以前摸过一台 supermicro 的，还有 AMAX，那个美腻的 DGX 好像就是他家做的。
如果不是显卡和服务器分开买，估计就要等 A6000 了，rtx 不让用在 data center 里。

[devlnt]

2U 的基本上都上不了 3090 吧。3090 是 3 槽+越肩的设计，像 R740 这种，就给每个 GPU 剩了两槽

[Porphet]

@aliceclark @devlnt 技嘉 RTX 3090 TURBO 24g 是双槽的，我问了一家做 supermicro 服务器的，能出方案，大约 10w

[aliceclark]

@Porphet 看了下技嘉的那个双槽，单个涡轮扇噪音肯定没得说，就怕寿命问题。
4 张卡以内的话塔式的也不错，可以全水冷，机架也有水冷的解决方案，就是高度怕是要到 3 甚至 4 了

[Porphet]

@aliceclark 我们有专门的服务器机房，恒温的那种，所以只能买机架，这两天就要采购了，就决定买它了。早买早享受，实在等不及了，现在实验进度很受影响