V 友 有买物理服务器跑 AI 的吗？

[x18960]

看了大厂 GPU 计算的服务器太贵了。 就寻思自己买个矿卡托管到机房，后来发现麻烦至极。不知道 V 友有没有类似操作的

[opengps]

到了 GPU 这个级别了，放在家里不是更省吗？

[gaobh]

自己玩，买个主机配一台也行，商业化只能用云服务

[misaki321]

跟公司申请买了一台 4 卡 V100 ，将就用

[passall]

托管到机房要多少钱？

[NSAtools]

可以找小厂，比如 AutoDL

[gam2046]

你是一点没算电费、散热、维护成本呀，
用自己采购的物料成本去对比人家的物料+运营成本。

自己放家里，你要买专业卡的话，散热成本低不了，要不就是买游戏卡，应用范围和云厂商的专业卡比不了。
要是托管机房的话，万一哪天机器死了，你就要走各种审批手续，然后人肉到机房处理，这也是成本。

---

小规模应用，采买云厂家的服务已经是相对最便宜的了。
当应用规模需要 10 个以上专业卡的时候，且业务相对成型，自建才有性价比。

[asdgsdg98]

不如放自己家，成本也就占地

[fiht]

家里本来有一个 EPYC 的主机，今年 AI 比较火热加了一张 3090 显卡。

其实没问题的，家里极少停电，网路也很稳定，散热之类的也不用太考虑。

托管就大可不必了，托管一个是费用高，另外就是上架、下架、远程维护、换个硬盘等的，都是问题。

[x18960]

看到一个 国内机房托管带 2080TI 显卡的物理服务器
要 1K 一个月，感觉有点小贵。年付 1W 也不知道项目能不能挺这么久

[me1onsoda]

大概率会空载，不是云厂商那边按量使用

[me1onsoda]

@me1onsoda 不是->不如

[vopsoft]

@passall
世纪互联
一个 9A 机柜 5000/月

[chengxiao]

反正感觉国内的云又贵又不好用
直接跟老板申请了台 4090/13900k 换算成云 GPU 服务器基本上不到一年就回本了
然后我这两天天天拿来串流打 Cyberpunk 2077 ～

[vopsoft]

我们的托管费用

[chesha1]

别老看大厂的啊，gpu 云有不少廉价的
国内比如 autodl ，国外比如 vast.ai

vast.ai 上，一块 A100 一小时才要 1 美元，这已经很便宜了

[hui9000]

托管不算固定自残啊。还是买物理机自己搞，就算损耗卖 2 手也能处理出去。你托管钱花了就是花了；

[herozzm]

我托管了一台，安装了普通个人用的显卡，扯掉了风扇，1U 体积，一年 6000

[manasheep]

你看 B 站 林亦 LYi ，他应该一直都是自己跑着玩，最近用 M2 的 Mac 跑，因为可以有超大至多 192GB 的统一内存充当显存。

[cccclk]

自己弄可能会有不少烦心事,客户自己弄的天天温度降不下来,强制关机了

[tangtang369]

@x18960 肯定是 4090 和 A100 差不多的性能 除了不能加载超大模型 A100 的显存是 40G 4090 是 24GB