显卡拓展方案？

[isSamle]

有没有便宜实惠的显卡拓展方案啊，最近想玩一下模型自部署，机器实在是带不动。

21 年入手的机器 --> 雷神 911 Master2 代 8 核 I7-10870H 16G 内存 GTX1650 显卡。

前几天试着跑了下 GLM 量化模型，根本带不动，配置显示共享 GPU 内存还有 7G ，但是只能使用到独显的 4G 。

看了下 GPU 电脑，消费不起……

考虑使用显卡拓展坞搭载外部显卡，预算 5000 内。

[noe132]

扩展坞性价比低到爆炸，还不如买电脑。

[liberize]

配一套，捡矿渣 p104 ，全套 400 以内搞定。
p104 相当于 1070 8g 。
有更多预算加 250 上 40hx 。

[documentzhangx66]

跑模型谁用笔记本...兄弟你搞错方向了。

而且笔记本雷电外置显卡扩展坞，贵的像金逼似得，完全没必要，还不如租一台正儿八经的 AI 服务器，反正你玩一阵子就腻了。

[isSamle]

@noe132 但是带高配 GPU 的电脑简单看下都 1 万多两万

[isSamle]

@liberize 直接在海鲜市场搜 p104 吗，谢谢，我去瞅瞅

[isSamle]

@documentzhangx66 云服务也不便宜啊，我看也要千来块一个月最少，想着还不如自己弄个本地的，不然部署来部署去也麻烦

[buaacss]

https://item.taobao.com/item.htm?spm=a1z10.5-c-s.w4002-24199657618.30.665b5e772gTfaq&id=694709333551
https://item.taobao.com/item.htm?spm=a1z10.5-c-s.w4002-24199657618.20.665b5e772gTfaq&id=667265648824

他们家的扩展坞还可以的。我现在就用它接 4090 。pcie3.0 可以跑满。sd 跑图什么的很轻松。

玩儿 LLM 跑个 4bit 量化的 llma2 13b 没有问题。训练的话最高调过 13B 模型。

[buaacss]

 上张图，架子放不下 4090 ，用乐高 diy 了一个，大小刚好合适。目前还没有烧接口。

[Tyuans]

买个台式机啊，不行就显卡钱多花点，当作服务器放边上也行啊

[isSamle]

@Tyuans 看了下，95 新的戴尔 T5820 图形工作站：至强 W-2135 处理器 3.7 主频 6 核 12 线程 / DDR4 32G 内存 / 全新三星 M.2 256G 固态 / RTX3060 12G 显卡 价格：5680 元，可以接受吗

[isSamle]

@Tyuans 主要是不太懂这些

[isSamle]

@buaacss 放弃了，硬件动手能力不太行😂

[cloud2000]

方向可能错了。

应该是租赁；
或搞 p40 24G 或 2080ti 魔改 22G 的台式机， 然后笔记本 ssh 上去。

[cloud2000]

按照你的预算， 可以至少有 44G 显存

[RichardML]

@isSamle 我的卖你你要吗戴尔 T5820 ，I9-10920X ，32G 内存，intel 512G 的固态，2080Ti （还没魔改），有一个配件是硬盘拆分卡，7000 。买来搞 PVE 虚拟机加玩炼丹相关的东西来。盖板有一个定位的脚断了，完全不影响使用和外观。