搞 AI 的兄弟们都选的多大的内存？ 32 还是 64？

[lrigi]

（别都选个 8GB 然后远程

[shwnpol]

用 cpu 跑模型至少 64g ，32 太小了塞不下

[AOK123]

@lrigi #19
cuda 生态不是那么容易跳出去的，显存再高没有 cuda 还是跑不了

[Pteromyini]

@lrigi #14 你想的太多了，这个理论性能指的是推理性能，训练和推理完全不是一回事，M2MAX 反向性能打不打得过 3080 都不好说，更别提 V100 了

[AnsonUTF8]

搞深度学习的用 16 的就够了哈哈哈，因为肯定得用服务器的～

[winson030]

大家预判下一个在计算领域吊打英伟达企业会是谁，赶紧买股票

[lrigi]

@AnsonUTF8 你说的也有道理，现在用了快十年的 Mac 就是 16G ，总是要升级一点的嘛

[qzwmjv]

@lrigi 据说 50%，16GB

[LaurelHarmon]

没必要本地搞，服务器很香，已经习惯 ssh Linux pytorch cuda 生态了

[neopenx]

@lrigi M2Max 只是 FP32 的 FLOPS 接近 V100 而已。FP16 的硬件加速在 ANE 上，做不了训练而且峰值还不如 FP32 。

[lrigi]

@neopenx 确实，你说到重点了，这里是问题

[ShadowPower]

买 8G 内存，加内存的钱拿去买 NVIDIA 显卡

[6i3BMhWCpKaXhqQi]

一定要 64 ，32G 路过，太惨了

[6i3BMhWCpKaXhqQi]

@czfy Mac 优势挺大的，统一内存会解决一些显存不够的问题。

[ShadowPower]

关于“M2 Max 的 TFLOPs 是不是跟 V100 差不多”这一点，可以参考这个：
https://sebastianraschka.com/blog/2022/pytorch-m1-gpu.html
虽然是去年测的 M1 ，但 M2 和 M1 没有本质区别，只是晶体管规模比 M1 大了一点而已

其实连 3060 都赢不过，然后 3060 比 V100 差多了，差在显存带宽和 Tensor Core 上，可以各租一台 VPS 对比测试

[dlwlrm]

我是单独组了台 windows 远程跑 ai 的……mac gpu 和内存加的钱都能买两台 windows 机子了

[lrigi]

@ShadowPower 显卡肯定不缺啊😂各种都有

[lrigi]

@ShadowPower youtube 看了下 确实有差距😌和 4090 差距在十倍吧我笑死。V100 都是要淘汰的卡了，那苹果这个确实不太行，那感觉 64G 内存确实没啥用，甚至 max 都没必要上了

[mmdsun]

AI 买 Mac 你会后悔的，
建议选至少 16GB 显存的 N 卡的 Windows 电脑，WSL 2 乌班图性能可以跑满，或者不玩游戏直接装乌班图就行

[Aspector]

@murmur 应该不止一半，我的 32GB 能正常跑 INT4 的人 30B ，这个理论占用是 20GB 的。再往上就不行了

[Xie123]

我是新人，求问，手机的 V 社没办法发帖子吗？我用的谷歌