关于 M1 Max| M1 Pro 测试一些深度学习任务

[ElliotQi]

有没有到货的老哥做一下简单 baseline 的测评对比，用 tf(torch 可能适配还不完整)训的话相当于隔壁什么卡捏？

[ElliotQi]

尝试搜了下，还没看到相关测评的视频儿

[INFP]

只能用 cpu 做，torch 用不了苹果的 gpu

[ElliotQi]

@INFP tf 有测过吗?m1 我跑过一个小模型，当时报错还蛮多...提了 issue 后不知道修复没

[kuhung]

今天好像看到一个视频：深度学习没啥大提升，相较于旧款独显速度反而更慢，原因是 tf 还没支持好。然后苹果说在做优化了🐶……

[INFP]

@ElliotQi

torch M1 一开始就可以用，比我测试的 i5-8400 快很多很多，不过 8400 也不是什么好 cpu 就是了。
可能我跑的 demo 没那么复杂，没出现过报错。

[INFP]

@ElliotQi tf 不行

[INFP]

@ElliotQi tf 当时官方挂了个适配版的仓库，说是快多少多少，然后就没消息了

[ElliotQi]

@kuhung 苹果还优化啥...coreml 至今是个迷🐶

[forgetlight]

做深度学习的还是 remote vscode cluster; colab 吧.. 前几天还在推特上看到一堆人在讨论, 用 m1 的都在劝退想要用这个机器的多 learning 的.

[ElliotQi]

@INFP torch cpu 推理我也试过 速度不算很慢吧。就是这 gpu 和神经网络引擎就摆在那，却用不了也太难受了
平时 debug 还是有这种需求的，如果 m1 max 算力可以推动生态的话，手上 m1 想吃这波红利...不只当成一个 ssh 机器

[INFP]

@ElliotQi 除非有集群用的那种苹果芯片，不然个人单机 debug 的应用场景不太值得他们去适配 Metal

[ZRS]

刚才找了一圈暂时还没看到有人做评测

[rpman]

@ElliotQi 主要是需求太少了，也就学校喜欢搞这套

[deetz]

M1 是有的，不过我也在等 M1 pro 和 M1 max 。

M1 的结果见下，也有同 colab 的对比。
https://www.mrdbourke.com/m1-macbook-vs-intel-macbook-speed-comparison/

[deetz]

@ZRS ifanr 提了一嘴但是说测试报错了。他们没有更新测试工具，或者没有能力用适配了 apple silicon 的 tensorflow 自己写代码来做。

[makeitwork]

@deetz 不错，刚入了 max
刚跑了一下，报错，晚点搞好环境再看看

[xdays]

https://github.com/tlkh/tf-metal-experiments/blob/main/README.md#experiments-and-benchmarks

[makeitwork]

@xdays 跟 3090 对比，差距很大啊

[telaviv]

torch 只支持 CPU ，tensorflow 能用 GPU 。

[ekidona]

果家可能还在搞一些类似于 CUDA 和 RoCM 的工具， 等这些成熟了 Unified Memory + Neural Architecute 的优势才会体现出来，现阶段不存在什么可比性。