升级 m2 的内存稳定吗？

[waino]

最近想本地折腾下 llama3:70b ，发现 32g 不够用。

问问各位大佬：

1. 升级内存，是不是能解决？

2. 升级内存靠谱吗？比如找个维修店

3. 能的话现在什么行情？ 32=》 64=》 128

[beginor]

64G 的 M1 Max 也要将显存调整到 56G 才勉强跑的起来 70b 参数的模型， 一秒钟大概一个 token ，还是老老实实跑 32b 左右的模型吧， 一秒钟 2~3 个 token ，自己玩一下还可以。

折腾 70b 以上的纯属虐待自己的 Mac 。

[jimrok]

M 芯片采用了统一内存，封装的方式是直接把内存芯片和处理器芯片在微孔上连接在一起，chiplet 方式，是不能升级的。

[dilidilid]

卖了再买，别折腾了。大模型为啥不用现成的商业服务非要本地呢，又不搞大模型开发，搞不懂你们

[crokily]

@xcnick 在文本编辑上试用了一下，确实在中文条件下 qwen 更好，汉化的 llama 在中英混杂的情况下，哪怕提示词是中文的，也很容易生成纯英的回答或者是纯中文的回答（例如要生成一句带中文解释的英文例句就不行）。而用 qwen 就能生成出正常的中英混杂文本，哪怕 prompt 是英文的也能正常生成中文回答。

[littlewing]

M 芯片不支持升级内存，集成在 SOC 里