ai 训练（非大模型）现在可以用 cpu 跑吗？

[onikage]

今年想了解下 ai 相关，暂时不考虑大模型，只是为了解决应用层面一些特定场景，比如特定物品识别之类的，标注数据量也不多，训练的时候需不需要用到显卡？ 现在在用 12500cpu ，没有显卡，另外也想请教下苹果 m 对这种玩票性质训练有加成吗？

[elliottzhao87]

前不久跑了一个小小的模型，就是几万个参数那种，CPU 完全没问题……

[xinge666]

TensorFlow 和 PyTorch 都已经有 mps 加速了，用来加速训练简单的模型是没问题的。

[lpf0309]

CPU 显存低，bitchsize 太小，准确率和速度都会降低。苹果 m 应该也没加成

[Wataru]

ultra 带 npu 可以跑

[paidaxtis]

@lpf0309 cpu 用内存

[lchynn]

INTEL 有个新出的 BigDL 框架，可以看看。不过对 CPU 好像有要求要新一点的，太老不行。

https://github.com/intel-analytics/BigDL

[shellcodecow]

自来水管不用 你用吸管？

[Muniesa]

一直都可以，就是比 GPU 慢亿点点。pytorch 有对 m 系列的 GPU 支持，比 CPU 肯定快多了。如果只是玩票可以考虑用 Google colab 用 GPU 训练，训练完可以在自己电脑 CPU 上推理，CPU 推理也慢但是没有训练慢那么多。

[raptor]

@lchynn 需要新的 ultra CPU 吧

[PsychoKidA]

物品识别肯定可以。用 .onnx 模型搭配 ONNX 框架就行。如果要加成，要看芯片商出的推理框架，比如苹果就是 CoreML ，高通就是 QNN 。

[xz410236056]

mac 有 MPS 可以加速训练

[Morriaty]

你要是没接触过，就别纠结 CPU GPU 的问题啊，先把 numpy 、torch 、transforms 这些库搞熟

[siriussilen]

可以，就是慢了点

[fredweili]

CPU 不行，苹果就更不行了，都是英伟达的 CUDA

[CrazyRundong]

12500 cpu 是指一万两千五百个 cpu 核心的集群还是说一颗 Intel 12500 ？前者可以试试 Intel 的加速库 + MPI 分布式训练，后者够呛。即使是训 100M 级别的 CV 模型，以前用 1080Ti 都觉得慢得不行

[onikage]

@Muniesa 别吓我，初期肯定反复试错，一等几个小时肯定受不了。

[onikage]

@Morriaty 这些肯定是要了解的

[onikage]

@CrazyRundong 就是普通的 12 代酷睿 i5

[paopjian]

你这种情况为什么不白嫖 colab

[736531683]

完全可以的，就是比较慢，苹果早就支持 cuda 加速了，前面不要乱说。