[求助] 从云服务器到 DIY 全能主机:我的 All-In-One 进化之路

103 天前
 heisenyu

大家好!今天我想和大家聊聊我是如何一步步从云服务器用户变成打算自己 DIY 一个全能主机的。希望能听听大家的意见,特别是有经验的大佬们,你们的建议对我来说非常宝贵!!

起步阶段

最开始,我使用云服务器来部署日常任务。虽然第一年的价格相对划算,但续费时就是老用户不得进内了。所以,我就有了自己搭建一个的想法,然后整个内网穿透,多好。

于是,我决定购买一台简单的 Mini 主机(比如 N100 ),配置 32GB 内存和 2TB 硬盘,这配置不比云服务器香多了。

逐步深入

但是,我对大模型服务又很感兴趣,比如部署个服务跑跑 SD 画图和语音合成等。于是我找到了一款支持显卡的 Mini 主机,准备搭配 4070 Ti Super 显卡,这样既能满足游戏需求,又能支持模型运算,岂不是一举两得!

然后我就在网上都各种方案,经过这两天让我高强度冲浪,原来这种“既要又要”的需求就是 All In One

计划与配置

我的计划是使用 PVE 系统管理几个虚拟机,具体配置如下:

具体配置

需求分析

我的需求是,平时不玩游戏和模型的时候,希望主机能够低功耗、低噪音(毕竟得放在卧室里)。同时,我希望它能玩游戏、部署模型服务,NAS 功能则是附带的,并不是刚需。我的整体预算大概在 15K 左右。

讨论与建议

对于我这种需求,All-In-One 是否是一个好选择?如果使用直连显卡用于游戏和模型,一个显卡是否足够?希望各位大佬能给予一些指点,万分感谢!

此帖可有偿回复,欢迎各位大佬不吝赐教!

1706 次点击
所在节点    NAS
16 条回复
ztmzzz
103 天前
卧室和机械硬盘是冲突的
4070 跑大模型只能说想多了
dongzhuoyao
103 天前
这需求 15k 是不是太少了点
heisenyu
103 天前
@ztmzzz
感谢回复,4070tis ,16g 显存,对于普通的一些模型已经够用了吧,我自己使用,也不提供服务
abc0123xyz
103 天前
建议把路由独立出来,要不然就是 all in boom.

网络崩了,连搜索问题都搜不了
zbatman
103 天前
反正这一套让我用的话我会很别扭,All in one 也不是这么 All 的
15k 让我分配的话
500 买个好点的路由器,刷 OpenWrt
2.5K - 3K 淘个 7840HS 的小主机,带 16/32G 内存+1T nvme ,看看能不能挤出点再搞个大点的机械硬盘
剩下的 1 万多配台 4070 Ti super 的台式机

小主机上装 PVE ,可以做软路由+Linux (日常开发)+NAS ,平时一直开着,也不怎么耗电
台式机玩游戏+WSL 跑模型(不太清楚 WSL 能不能用显卡)
xwjlucky
103 天前
我家都是分开的
songyoucai
103 天前
安装我的部署,一定要把网络分开, 走硬路由,主机 boom 不影响家庭网络。
同时把下载器,算,存进行分开。

硬路由: 家庭路由器即可 300 内 24 小时开机。
下载器: 星际蜗牛等矿渣 300 内 加上你得 8T*2 的硬盘,来安装黑裙,主做 nas ,可以安装 docker 服务,来提供爬墙等代理。功耗 60w 左右
算力服务器:普通主机电脑+显卡 底层用 pve 安装虚拟机, 当不需要用的时候,把整个主机关机。需要的时候,通过群晖 nas 来进行远程唤醒即可。 这个需要考虑散热,扩展性,以及不用的时候卖出回血。 普通台式机是最好的选择,内存可以插满,显卡到时候也能上到 5090 。

这样才是最好的规划。
xwjlucky
103 天前
800 块的 J6412 小主机当软路由/1200 的 J4125 的当 nas 配了一块 16t 硬盘/主力机 12700k+48g 内存玩游戏写代码/9700x+48g 内存小主机当服务器开虚拟机后期可以外接显卡跑各种东西
songyoucai
103 天前
@songyoucai 我自己 homeserver 为 11700+128g+2T*2 以及一个 2T 机械。 我是通过下载器(群晖 nas)和算力服务器 同时备份。来做的我说的存的部分。重要资料我都是手动存储,群晖 nas 一份,homeserver 一份,网盘一份。

这就是我的 网络,下载器,算,存的方案。
phenixc
103 天前
建议将存储独立出来,分两个模块:网络和计算,存储。或者三个模块:网络,计算,存储
ztmzzz
103 天前
@heisenyu mistral7b ,float16 ,占用 16253mb 。加上显示占用的显存,不好说。
要显卡的 linux 改为 wsl ,docker 默认支持调用显卡,还不用在本机装 cuda 。
phenixc
103 天前
我目前的结构是:
j4125 负责网络和智能家居:安装 pve,挂 ikuai, dae, singbox, homeassistant, zerotier, tailscale, frpc 。功耗大概 10w ,无风扇,无声音。
8845hs 负责计算:挂 win11, centos, docker, dsm 这些服务,待机功耗大概 12w,50cm 以外基本听不到声音,重度使用就另说了。
极空间 z4pro 负责存储,也挂了一些 docker,两块 16t hc550 待机功耗 14w, 使用功耗 25w 。
还有一台台式机 10850k, 6600xt, 安装 win11, 黑苹果。

ups 给 j4125 和极空间,路由器,交换机,以及米家网关供电,nas 待机情况下,ups 统计电量大概 0.8 度/每天
ellermister
103 天前
把路由独立出来,上面有人说的。
另外把游戏机也独立出来,虚拟机里容易被检测封号,体验也不好。

all in one 之后一个非常大的缺点,一旦物理机有个什么参数要改,要重启系统,所有机器实例都中断!
sn0wdr1am
103 天前
别人的 ALL——IN:我有好多篮子的鸡蛋。
你的 ALL——IN:我把鸡蛋都放在一个篮子里。
heisenyu
80 天前
@phenixc 感谢,请问 j4125 和 8845hs 用的是 mini 主机吗?能推荐一下吗?
heisenyu
80 天前
@songyoucai 感谢回复,确实打开了新思路。我也准备分开了,请教一下这边科学上网是通过部署 docker 服务,然后用到的话通过 配置代理 ip 进行科学上网的吗?如果这样的话是不是就不需要软路由了

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1072912

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX