请教部署一个大模型的成本大概是多少呢？

[Roger1007380462]

背景： 想部署一个大概 10B 以下参数量的模型、对用户提供服务、QPS 预计 100 左右、平均耗时 500ms 左右，这种程度的服务情况下的成本是多少呢？

[Kaiyuan]

如果 Mac 能步处的话，128 内存 Mac mini 算是性价不相对较高的。毕竟内存能当显存用。

[israinbow]

一个用户保守一万, 起步价十万.

[xmumiffy]

有大模型能 500ms 返回么?
现在大模型处理时都是满载的,所以你这 QPS 100,500ms 那就意味着要部署 50 台设备.

[findex]

@xmumiffy 说说硬件配置吧

[mushuanl]

有 a100 之类的卡吗？搞上 5 个以上，然后上 vllm, 但是 10b 以下可用性太差，能满足功能要求吗？一般都是 13b 起步，如果 33b 发布那么更好建议是 33b

[Roger1007380462]

了解，看上去这成本有点高啊

[Roger1007380462]

@Kaiyuan mac 部署有什么可用的模型吗？

[Kaiyuan]

@Roger1007380462 https://www.bilibili.com/video/BV1fh4y1M7DX/ 这个视频有说

[Cola90]

别用 mac

[chinabrowser]

@Kaiyuan 这价格都能买好几张 3090 了，10B 量化 8bit 用 3090 应该完全没问题

[Roger1007380462]

@Kaiyuan 多谢多谢