V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
f1ynnv2
V2EX  ›  AMD

AMD CPU 的 AI 怎么用?有类似 CUDA 一样的生态吗

  •  
  •   f1ynnv2 · 42 天前 · 853 次点击
    这是一个创建于 42 天前的主题,其中的信息可能已经有所发展或是发生改变。
    作为 AMD 第二代 AI PC 处理器,锐龙 7 8845HS 的核心竞争力,是对 AI 引擎部分进行了调优,NPU 的 AI 算力从 10 TOPS (万亿次)提升到了 16 TOPS ,60%的改变就问你怕不怕,而且整体算力( CPU+GPU+NPU ),也同步从 32TOPS 增加到 38 TOPS (锐龙 9 8945HS 是 39TOPS ),比酷睿 Ultra 的 34 TOPS 还要更高一些,具备了 [战未来] 的 AI 算力底蕴。
    

    如果安装了 Linux 比如 Ubuntu ,有类似的 CUDA 工具吗,是需要专门针对 AMD 适配 AI 吗,还是说就直接用 CPU 跑一些模型,它会自动的分配给 GPU/NPU 去跑?

    3 条回复    2024-11-14 20:00:52 +08:00
    minami
        1
    minami  
       42 天前
    NPU 是 NPU ,GPU 是 GPU ,可以参考 AMD 官方文档
    https://community.amd.com/t5/ai/how-to-run-a-large-language-model-llm-on-your-amd-ryzen-ai-pc-or/ba-p/670709
    NPU 目前除了特定少数应用,没啥生态,基本是个战未来的功能。GPU 对位 CUDA 的是 ROCm 平台,主要是挑卡,如果你在 linux 或 wsl2 下,可以用 rocm 版的 pytorch ,就基本和 cuda 一样了。Windows 上 ROCm 生态非常不完善,建议是别玩,可以试试用 zluda 跑一些 cuda
    xz410236056
        2
    xz410236056  
       42 天前
    @minami Metal 邪教可否一战?
    f1ynnv2
        3
    f1ynnv2  
    OP
       41 天前
    @minami 感谢,那还是搞 CUDA 吧,资料也多。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   3869 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 21ms · UTC 10:21 · PVG 18:21 · LAX 02:21 · JFK 05:21
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.