inorobot

@VersionD 之前挂了 8 块 U.2 ，待机 100 来 w

@VersionD 板 U 满载 80w ，这个是个低功耗的 EPYC ，U 满载 55w

@LanhuaMa
@unidotnet
ASRock Rack 永擎 EPYC3251D4I-2T ，8C16T ，4x DDR4 槽，双万兆电口（ Intel X550 ），24 lane PCIe 3.0 （ 1x PCIe 3.0 x16 ，1x OcuLink x4 ，1x M.2 PCIe x4 ），2x SATA ，带 IPMI

由于最近的 7K62 大船，组了个双路的家用服务器，8 根 64G 内存，4+1 个二手 1300 瓦的冗余电源，双路板子 ROME2D16-2T ，机箱风扇上了 6 把 9RA ，4 张单槽涡轮的 RTX 4060Ti 16G ，1 张涡轮的 RTX 4070Ti SUPER 16G ，为了散热上了个 4U 的 8 卡 GPU 机箱，还有一些硬盘，实际花了大概 5w 。
实现了跑串流、LLM 、编译等，满载功耗 1600w ，日常待机 300-400w ，冷启动到虚拟机加载好各种服务大概 2-3 分钟。后面准备再上两张 CX6 ，把 10G 的内网升到 100G ，交换机也得再换一个，目前看上的 QNAP 新出的那款 4*100G+8*25G 。
另一台是 7003 的 NAS ，日常 200w 待机，8 块 7.68T 的 U.2 SSD ，把消费 NAS 的存储和应用分开，Host 纯跑存储，Guest 跑一些偏向应用的虚拟机（ DSM 和 fnOS ），DSM 的文件同步、备份套件还是没方法替代。
组的过程一个体验就是买二手确实便宜，但是需要花时间找以及辨别矿的程度，直接梭哈全新省事也有保修省心省事，现在比较担心的是双路的机器的二手电源会不会 BOOM 。
另外就是功耗，说实话服务器的功耗确实还是太高，没啥比较好的平衡办法，什么都想集成还要求性能就得上服务器，一个 U 待机基本都能顶一台小主机方案了，而且性能其实日常过剩。

@sdd11 vllm 多卡推理 --tensor-parallel-size 配置成卡数

群晖的 Photos Mobile 开上后台刷新 不清掉 app 是可以自动备份的

最大容量 92%
循环计数 344
生产日期 2023 年 10 月
初次使用 2023 年 11 月
保护没啥用感觉，我每次充电还都带着散热器

我是整了 4 块 4060Ti 跑推理，64G ，如果上拆分能装 8 卡，能 128G ，基本各种模型都能跑了