显卡连接大屏幕占用了不小的显存, 有办法让他用内存或者核显或其他解决方案吗?

2023-04-05 19:27:34 +08:00
 chackchackGO
笔记本, 独显直连状态, 连接了一个 3440*1440 的屏幕.
6G 的显存占了 2.1GB, 本来就不富裕的显存更是捉襟见肘(要跑 stable diffusion 和 svc 之类的).

就算是用混合模式, 同时开启核显和独显, 也有 1.5GB 左右的独显显存占用.
1139 次点击
所在节点    问与答
4 条回复
israinbow
2023-04-05 20:04:40 +08:00
换操作系统, 1.5 个 G 是 windows 预留的占位显存空间

或者了解一下内存原理, 这样就可以解决占用烦恼了.
MossFox
2023-04-05 20:17:03 +08:00
如果整个 Windows 默认只用核显,按理说独显应该是整个闲着的。
也许能设置吧,可以在英伟达面板那边看看有没有优先级设置之类的。

顺便,留意一下外接屏幕的显示适配器是核显还是独显。有的笔记本可能视频输出会给接在独显上面(英伟达面板可以看到具体信息)。
我自己不是专业人士来着,仅供参考。

图为性能跑分不及 iPad 三分之一的 SB (Surface Book)
ETiV
2023-04-05 20:35:21 +08:00
刚刚看到了这个项目 https://github.com/Jittor/JittorLLMs

针对 LZ 显存少的问题,它是这么说的:
……
针对大模型显存消耗大等痛点,Jittor 团队研发了动态交换技术,根据我们调研,Jittor 框架是世界上首个支持动态图变量自动交换功能的框架,区别于以往的基于静态图交换技术,用户不需要修改任何代码,原生的动态图代码即可直接支持张量交换,张量数据可以在显存-内存-硬盘之间自动交换,降低用户开发难度。

同时,根据我们调研,Jittor 大模型推理库也是目前对配置门槛要求最低的框架,只需要参数磁盘空间和 2G 内存,无需显卡,也可以部署大模型,下面是在不同硬件配置条件下的资源消耗与速度对比。可以发现,JittorLLMs 在显存充足的情况下,性能优于同类框架,而显存不足甚至没有显卡,JittorLLMs 都能以一定速度运行。
……
kokutou
2023-04-05 21:08:35 +08:00
nv 控制面板菜单,gpu 指示器。
看看是哪些程序占用独显。
设置-显示设置里,单独设置成核显就行。

笔记本接口都试一下,有的口是直连核显,有的是直连独显,要接在核显接口上。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/930046

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX