深度学习显卡选择（RTX A6000 和 RTX 3090）

[kerrspace]

最近看见美帝又要制裁 AI 芯片所以想着赶紧把要买的买了

RT ，小弟我本职工作和 AI 是无关的所以不存在用公司服务器这种说法了，就是想平时用来复现一下 CV,ML 的论文，水一水实验（潜台词是什么模型都可能碰到，不存在针对某一个特定领域 /模型的情况），顺带研究一下 ML,DL 的基础设施

现在有大概 3 万多的预算，也就是买：一张 RTX A6000 或者 两张 RTX 3090 （ 2 张比 A6000 还便宜 5000 ），

大家怎么看？如果是你们你们会怎么选？

[kerrspace]

@Morii 40 系等 CUDA etc 适配会等非常久的。。。不仅仅是等 40 系本身的时间。。。framework 更新的相对挺慢的 估计真的用上，各方面都稳定怎么也得一年半载的

[zznext]

3090ti 的 20g; cuda 数量多； N 卡对 tersorflow 处理更好。

[gam2046]

不考虑一些云的方案嘛，毕竟这种设备更新换代很快。个人采购，资产又比较重。而且使用频率未必会很高。

计算量未来必然是越来越大，现在亿级的计算规模是起步，过两年以后呢，也许是十亿、百亿才刚刚起步。

[Fantasia1993]

买 4080 吧~~还有几天而已

[AlexPUBLIC]

@kerrspace NLP 我 24 都够了，与其这样，你不如买三张 3090

[napsterwu]

个人用肯定买 gtx 吧

[napsterwu]

（说错了是 rtx ）

[nekoneko]

专业显卡可以选 TeslaT4 , 不知道过时了没有

[ysc3839]

@nekoneko 印象中 T4 性能很差的吧？好像连 RTX2080 都比不上。

[asdf12303116]

@ysc3839 #28 T4 性能很差的,2070 同核心, 还是个半高被动卡.这张卡只适合高密度推理环境部署

[h272377502]

@nekoneko t4 一般用于部署，训练还是不推荐吧

[icyalala]

如果要 3090 的话，在等几天呗，以太坊合并快要完成了

[longbye0]

选 3090ti ，单面显存。

早期 3090 有一些玩游戏都会烧显存的例子。

[radio777]

哪个显存大买哪个，深度学习对显存要求高，12G 的 3060 也可以的

[noahhhh]

40 系这个月就发布了

[newmlp]

又不禁售游戏卡，禁售的是专业计算卡

[jZEdn7k4]

和前面说的一样，不了解的话就跟着李沐选，错的概率很小，他是 MXNet 的作者，google scholar 引用都 1.3W 了，专门做 DL 框架和分布式计算的，这个论坛上比他对 DL+GPU 更专业的估计没有

[winglight2016]

不推荐在本地搭环境，除非还想打游戏。colab pro 我用过，哪怕低配都已经不错了，高配性能过剩。

实在想玩一下环境配置，阿里云上申请个 k8s ，两个节点一年一两万吧，但是推荐按需付费，因为我觉得这种东西，没有实际需求，三分钟热度一过也就不会再碰了。

[geekvcn]

不可能禁售民用卡，除非打算让英伟达股价腰斩，不建议现在接盘，马上 eth 合并，矿卡全抛售，千万级别的量，新卡一样便宜。

[laqow]

感觉 3090 ，A 系列带宽窄一些