公司计划使用 Stable Diffusion 实现 AI 生图功能,但发现云服务器的成本较高,一年下来至少一万。相比之下,个人 PC 的配置似乎更划算。
我的设想是:当服务器需要处理 AI 生成图片时,可以将计算任务转交给本地 PC ,生成完成后再将结果上传至服务器。想请教大家,这种方案是否可行
另外,如果使用 32G/64G 内存的 Mac 来处理 Stable Diffusion 生成任务,在生图性能上相比 PC 有优势吗?
感谢各位大佬的建议和指导!
1
xtreme1 84 天前
m 系列跑 sd 比较慢, 这玩意是计算密集不是 io 密集
|
2
flmn 84 天前
这种方案当然可行。用户提请求,云端将请求入库待处理; PC 连到云端,取出任务处理再回传。
|
3
huage 84 天前
考虑成本就自己建,买一台二手 GPU 服务器或者自己装一台都行,初始投入比较高
|
4
iyiluo 84 天前
还不如自建服务器
|
5
tsja OP @xtreme1 我是看到 M2 Max 的 Mac Studio 32G 内存 1.3w, 64G 的 2w, 同样价格 PC 显存也就 24G, 会不会因为 Mac 统一内存更大换来的出图效率高一些?
|
6
13240284671 84 天前
通过 frp 代理,可以实现
1.需要买一台中转服务器(10M 带宽的就行) 2.window 跑的话,需要几天重启一次 3.电费一天也要几块钱吧 最好是买一台服务器,找有公网 ip 的托管 |
9
tsja OP @13240284671 谢谢!
|
12
sunny352787 84 天前
不要用 mac 跑,仅仅是显存大没啥用,还是得 N 卡,搞个 4070 、4080 的机器,虽然显存看着不大,但出图速度很快,而且 cuda 跑 SD 资料很多,mac 碰到问题都不好查
|
13
tool2dx 84 天前
|
14
devilweime 84 天前
已经在本地畅玩了,重点是显卡,看公司舍不舍花钱了
|
15
codersun123 84 天前
4090 的服务器才 2 块钱 1 个小时,你按需使用,需要的时候把服务器开机,不需要的时候关机。自己写点脚本连入系统就好了
|
16
superkkk 84 天前 via iPhone
gpu.pro 这上面有 5 毛一小时的 3080 20g 显卡,但是我用起来感觉网速挺垃圾的。op 可以尝试新注册不同的平台薅羊毛,现在好多出租显卡的平台,薅羊毛能优惠不少钱
|
17
L13 84 天前
一年才一万,什么 GPU 云服务器能这么便宜
|
18
lessurliu 84 天前
之前自己实现过,我的方案是云端任务存到 redis 队列,本地监听队列然后执行生图任务。也可以搞消息队列,但国内云厂商 redis 很便宜,一个月只要几块钱,这样搞也不用代理啥的,比较稳定
|