炼丹这块业务, AMD 还能能支棱起来吗?

2023-05-11 18:24:38 +08:00
 storyxc
想自己跑下最近很火的 so-vits-svc 项目,结果发现 A 卡跑不动,难受
2367 次点击
所在节点    问与答
11 条回复
zxfreedom
2023-05-11 18:32:01 +08:00
cuda 老黄布局这么多年了都,不可能一下子就追上的,就算追上了肯定也要涨价
Planarians
2023-05-11 19:58:47 +08:00
@zxfreedom 有竞争打破垄断才能降价啊
seres
2023-05-11 20:35:53 +08:00
放弃幻想,早日换 N
ETiV
2023-05-11 20:41:26 +08:00
cuda 是入场券、是🚪
Aloento
2023-05-11 20:49:07 +08:00
我就没见哪个框架不用 CUDA 的(
https://www.amd.com/en/technologies/infinity-hub/pytorch
storyxc
2023-05-11 21:01:20 +08:00
@seres #3 当了大怨种了,21 年显卡最贵的时候 8.5k 买的 6900xt ,看了下黄鱼还值 3k
ysc3839
2023-05-11 21:03:27 +08:00
ROCm 跑不了吗?许多用 PyTorch 等框架的项目是没有使用 CUDA 独有功能的,ROCm 基本上能跑。
secondwtq
2023-05-12 01:55:32 +08:00
@ysc3839 AMD 最大的问题不是跑不跑得了,是人家根本就没把个人消费者当人看
你要是不管其他条件光是要跑 ROCm 肯定是能跑的,但是 ROCm 到现在不支持 Windows ,虽然我自己天天用 Linux ,几个人真会为这个装 Linux 啊(你别说,貌似还真有 A 卡用户这么干)?这就好比给你一个小目标,但是要强制你带着钞票去一个屁都没有连网都不通的海岛上面去 ...

我刚上去最上面还挂了个新 issue: https://github.com/RadeonOpenCompute/ROCm/issues/2128 Will the RX7900 series be supported? 要知道 7000 系 technically 是去年的卡,然后 ROCm 是自己的软件不存在什么开源社区项目要 review 不能进的问题,现在还没消息就离谱

然后 AMD 你能解释下这个迷之文档页面是怎么回事么? https://docs.amd.com/category/ROCm%E2%84%A2%20v5.x 为什么 5.5 没有“Getting Started Guide”,而且 5.4 里面该文档的 href 是“//”?
不过我觉得不需要解释,因为点进去就能看到“GPU requirement”只有有限的 Instinct 和 Radeon Pro 型号。反正大客户有问题都是直接一个邮件过去就行,公开页面随便摆烂得了呗?
实际上这问题早就给撕烂了 https://github.com/RadeonOpenCompute/ROCm/issues/887 可能不存在一个人类个体完整地了解 ROCm 究竟支持什么硬件 https://github.com/RadeonOpenCompute/ROCm/issues/1714

作为对比,CUDA 基本从一开始就是随便 N 卡( G80 之后)什么系统都能用(虽然严格上并不是,因为 NVIDIA 官方提供了 FreeBSD 的驱动,但是并没有提供 FreeBSD 的 CUDA Toolkit ,不过想在 FreeBSD 上用 CUDA 的怕是比 Windows 用户为了用 ROCm 切 Linux 的还要少 😅 而且 FreeBSD 本身有 Linux compatibility 功能,然后根据一些最近的信息好像经过一堆 hack 之后还真他娘的能用 😅😅 https://github.com/verm/freebsd-stable-diffusion 虽然 NV 官方对这问题好像也是一直摆烂)。Intel oneAPI 直接把 N 和 A 的支持也做了。

有小道消息说 ROCm 的 Windows 支持要出来了,但是 ChatGPT 都火了半年了,现在还没出来真就突出一个慢热。这不是一个单独的问题,AMD 整体都这样,X670 皇帝吊死在二仙桥上才几年哪,忘啦!
storyxc
2023-05-12 09:17:41 +08:00
@secondwtq #8 农企没有竞争力导致老黄现在刀法更肆无忌惮,彻底不拿消费级市场的用户当人了,40 系的定价就是依托答辩,更恶心的是最高端的 4090 居然是性价比最高的,反正 A 卡只能打个游戏,只要有生产力需求就得来买我的 N 卡🤮
israinbow
2023-05-12 10:45:24 +08:00
按摩店最后的倔强就是能拿 ncnn 和 vulkan 跑小体量模型了🥹
黄核弹在嵌入式平台也打好了市场,最后的倔强也会被 cuda 加速给橄榄。
zeze0556
2023-05-12 12:07:35 +08:00
A 卡只能用来打游戏。。。。
我两块 A 卡, RX590 。。。在 linux 上折腾 pytorch 都一周了,驱动装是装好了,sd 运行报段错误。逼的我目前在从源代码编译,后悔去年图便宜入了 A 卡的坑。
从目前看到的 rocm 的各个版本来看,除了死贵的新卡之外,统统不支持,新卡支持的稳定性如何我不知道,但老卡就基本靠 Hack 了,然后各种资料还找不到。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/939285

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX