请教大家台式机装机咨询

[jpkrhan]

想装一台可以搞一搞大模型的机器，求教什么配置比较好呢？ 需求是能跑得起来开源大模型， windows 下用 docker 跑 clickhouse 和 neo4j 这样的图数据库， 运行时候声音莫吵 预算 7000 吧，请教大家有什么好的配置单。

[dankai]

预算 7000 别想了，都不够一个 4080 的

[czfy]

预算 7000 就想本地跑大模型？就算不训练只用都不行吧
你是不是不清楚大模型为什么叫大模型

[jpkrhan]

清华的模型好像消费级显卡就可以？

[chesha1]

看你怎么定义大模型了，最入门的“大”模型，6B 7B 参数的那种，加上节约显存的技巧，大概也要 10G 显存了
可以搜一下能用什么级别的显卡，7000 预算估计不太够
但是传言，会有 4060ti 16gb 的版本，如果你预算没法加可以等等这个，这个应该是新卡里最便宜的大显存卡了

[documentzhangx66]

人工智障的能力，是依赖数据量，而不是模型。只有数据量足够大的时候，人工智障才会发生能力涌现。这就是为什么大厂训练一次人工智障的费用成本，高达百万甚至千万美元。

中小公司，买几台插满 A100 显卡的服务器，进行训练，没啥用。这也是为什么文心智障与 ChatGPT 的质量有隔代差异的原因。全球也就美国的顶级大厂才能正式开发，其他厂家的数据量太少，只能听个响。

至于楼主，7 千元人民币，还不如多买几个大厂人工智障的账号来的实际。

[SClP]

用 6400 块钱买个 4070ti 显卡，剩下的配件去闲鱼淘个 E3V5 套装

[OysterQAQ]

5500 买个二手 3090 ，1500 随便凑个配置

[Swimming]

这时候就得看 e3 神教

[lilei2023]

这预算有点不够吧

[jpkrhan]

原来这样啊，看起来还是很依赖硬件和数据量的。如果只是

[jpkrhan]

只是随便玩玩，可能配置都不够

[ryan4yin]

这个预算，建议租云 GPU

[Le95]

魔改 2080ti 22g 显卡 b 站 up 司波图有一期 4000 的 ai 主机 你的预算可以换换靠谱的配件 应该够。

[jpkrhan]

@Le95
@ryan4yin 感谢感谢