升级 m2 的内存稳定吗？

[waino]

最近想本地折腾下 llama3:70b ，发现 32g 不够用。

问问各位大佬：

1. 升级内存，是不是能解决？

2. 升级内存靠谱吗？比如找个维修店

3. 能的话现在什么行情？ 32=》 64=》 128

[icestraw]

是能解决

不靠谱，升不了

没有行情，也可以理解为比置换更贵

只能卖了再买

[deplives]

Apple silicon 怎么升级内存？连 cpu 一起换？

[InternetExplorer]

内存不是和 CPU 长在一起的么，要升级只能换个主板吧

[imnpc]

运行内存换不了的

[waino]

@deplives
@InternetExplorer 不知道呀，看有视频直接可以重焊内存颗粒上去

[lrigi]

不能跑不如买个 poe 之类的。等你真的能运行了 70b 可能会发现速度好慢，还不如运行 8b 的舒服

[wxw752]

那都是 inter 的老机型，才能换内存颗粒

[xcnick]

32G 内存本地可以跑 Qwen1.5-32B 模型，这个模型是 30B 规模下中文最优秀的模型之一

[xayoung]

m 系列升不了的。目前能升的唯一方法是 cpu 和内存一起换，这样成本就非常高了。退一万步来说，即使能单独升你也敢升？内存和 cpu 连在一起的，风险非常高。

[GeekGuru]

卖了再买最划算。。

[zhwq]

4bit 或 8bit 量化之后效果可能还不如 8G 的

[Phariel]

70B? 你想换多大的内存？ 128G 也不够吧 你除非要跑很重的 quantized 版本 你本地能跑个 13B 已经可以了

[crokily]

@xcnick 请问这个有什么测试的榜单吗，我一直很好奇 hugging face 上的中文化 llama3 和 qwen 哪个效果更好

[bzw875]

苹果 M2 芯片的内存是和 CPU 焊接在一起，个人理论上换不了，台积电有能力换

[xcnick]

@crokily 大模型的榜单仅作为参考，不能作为评判的唯一标准。对于中文任务来说，国产大模型比汉化 llama 有先天优势，训练数据集中中文的比重更大

[kuaner]

m2 max 无头骑士

[7lQM1uTy635LOmbu]

@waino #5 原理上可以换，有人成功过，但报废率太高，量产不了

[pelloz]

别折腾自己的小本子了，搞个服务器，或者工作站，甚至就简单配一个主机，内存随便你加，便宜得很

[waino]

@pelloz 攒个机大概多少预算，比如能运行 llama3:70b 这类大模型

[waino]

听劝不在现在机子上折腾了