3 月 31 日， UC 伯克利联手 CMU、斯坦福、UCSD 和 MBZUAI，推出了 130 亿参数的开源模型 Vicuna，仅需 300 美元就能实现 ChatGPT 90%的性能。

[FirefoxChrome]

Vicuna 是通过在 ShareGPT 收集的用户共享对话上对 LLaMA 进行微调训练而来，训练成本近 300 美元。研究人员设计了 8 个问题类别，包括数学、写作、编码，对 Vicuna-13B 与其他四个模型进行了性能测试。测试过程使用 GPT-4 作为评判标准，结果显示 Vicuna-13B 在超过 90% 的情况下实现了与 ChatGPT 和 Bard 相匹敌的能力。同时，在在超过 90% 的情况下胜过了其他模型，如 LLaMA 和斯坦福的 Alpaca 。

今天，团队正式发布了 Vicuna 的权重——只需单个 GPU 就能跑

单个 GPU：Vicuna-13B 需要大约 28GB 的 GPU 显存。
多个 GPU：如果没有足够的显存，则可以使用模型并行来聚合同一台机器上多个 GPU 的显存。
仅用 CPU：如果想在 CPU 上运行，则需要大约 60GB 的内存。

全文： https://mp.weixin.qq.com/s/BG1dw3PeRysvq_UBgo6UFQ

[sbilly]

没感觉有这么好的效果

[RRRoger]

请问这个 300 美元是什么 电费吗 一个普通的显卡都不止 300 美元了吧