什么配置的电脑能把 OpenAI 的 Whisper 跑快一点

[athomas]

我现在的 Macbook （具体型号如下）跑 Whisper 太慢了，20 分钟的视频都能跑上 1+小时（大模型）请问什么配置电脑能让它跑快点呢？新的 Macbook M2 会好很多吗？还是必须得上 Windows 带超强显卡的笔电？

MacBook Pro 13-inch, 2020 Core i5 Graphics Intel Iris Plus Graphics 1536 MB Memory 16 GB 3733 MHz

[WonderfulRush]

如果代码没有针对 mps(mac arm gpu 加速)的话, 最后还是用 cpu 跑,提升应该不会很大。所以配 n 卡可能得到的提升比较稳定。

[windyboy]

显卡

[neopenx]

MPS 默认跳过 intel 集显。所以你 100%是 CPU 在跑。
你换 M2 还不如去租 GPU ，M2 pro 的 MPS 性能也就 1060 水平，跑 Transformer 惨不忍睹

[king888]

要不试试云运算，paperspace ，按需付费

[Bromine0x23]

显卡拉满

[mercury233]

我用的 3060 12G 跑日语同人音声，CPU 只占用两三个核，GPU 吃满，显存 11G 多，大概是 1.2-1.6 倍速（二十分钟音频十多分钟跑完），但有时遇到 BUG 就慢了

[lookStupiToForce]

好东西，支持

[lookStupiToForce]

@lookStupiToForce #7 回错贴了，无视掉我...

[yesvods]

啥场景需要重度依赖 whisper ？

[Volekingsg]

用 https://github.com/ggerganov/whisper.cpp 可能会快些

[TabGre]

没有啥好办法

[lin98]

@Volekingsg 这个快很多

[deesan]

该换 PC 和 N 卡了