TensorFlow 2 现已支持使用 macOS 上可用的 GPU 进行模型加速（包括 Apple Silicon M1）

[mmtromsb456]

详情可见 https://blog.tensorflow.org/2020/11/accelerating-tensorflow-performance-on-mac.html?m=1

[mmtromsb456]

简单来说 apple fork 了一份 TensorFlow 并将 ML Compute 框架用作其中，M1 性能大概相当于 1080 ～ 1080Ti 之间

[ltltfuture]

接下来就看 pytorch 如何了

[xfrgux]

@mmtromsb456 请问这个相当于 1080 ～ 1080Ti 有数据来源吗 怎么比的呢

[mmtromsb456]

@xfrgux https://twitter.com/spurpura/status/1329168059647488000?s=21
测试的数据模型是 ResNet50v1.5,v2

[zhusimaji]

apple 不讲武德啊！

[tzm41]

爽，今晚试试 resnet 。

[uxstone]

Apple 杀疯了

[lollxxox]

希望 I 家 A 家和 N 家耗子尾汁，不要再挤牙膏.......

[chich14]

炼丹，风扇转了吗？

[CommandZi]

专用芯片，不能反映真实性能，下一个

[agagega]

能支持 NPU 吗？利用起来感觉会更猛啊

[zhaidoudou123]

用自己机器都是玩票性质，现在 m1 的玩票性能起来了，对于初学者来说 n 卡笔记本似乎已经不是必须了

[nnqijiu]

TensorFlow 不是已经放弃 mac 支持了吗？

[coolmenu]

以后能不能大量购买 M1 芯片，组一个并发网络。10w 的 cpu，比 1080ti 可是省电多啦！！

[lqf96]

@ltltfuture 好希望早日支持 pytorch，不过 pytorch 似乎也已经在用 Metal Performance Shaders 加速训练和运行了（ https://github.com/pytorch/pytorch/pull/46112 ）...
@agagega 目前 ML Compute 只支持 CPU 和 GPU，但是 ML Compute 里面有 ANE 相关的 symbol，所以不排除是目前 Neural Engine 的加速不成熟（因为 MLC 是 macOS 11 和 iOS 14 刚加进来的），以后可能就会支持...

```
00007fff2a15aae2 t +[MLCDeviceANE hasANE]
00007fff2a22b934 t +[MLCDeviceANE hasANE].cold.1
00007fff2a15b672 t -[MLCDeviceANE .cxx_destruct]
00007fff2a15ad57 t -[MLCDeviceANE allocateDeviceMemoryForTensor:]
00007fff2a22bcad t -[MLCDeviceANE allocateDeviceMemoryForTensor:].cold.1
00007fff2a15b05c t -[MLCDeviceANE broadcastTensor:]
00007fff2a22c124 t -[MLCDeviceANE broadcastTensor:].cold.1
00007fff2a15b0b1 t -[MLCDeviceANE broadcastTensor:batchSize:]
00007fff2a22c1a3 t -[MLCDeviceANE broadcastTensor:batchSize:].cold.1
00007fff2a15b309 t -[MLCDeviceANE commitAndWaitForCompletion:]
00007fff2a22c51c t -[MLCDeviceANE commitAndWaitForCompletion:].cold.1
00007fff2a15b35e t -[MLCDeviceANE commitAndWaitForCompletion:enableProfiling:graphExecutionTime:graphResultTensor:]
00007fff2a22c59b t -[MLCDeviceANE commitAndWaitForCompletion:enableProfiling:graphExecutionTime:graphResultTensor:].cold.1

...
```

[sharpy]

有问题，我安装了 mac 提供的 tf 包，运行 mnist demo 时，提示在 eager 模式下 gpu 速度慢。
用 cpu 时耗时 2s，用 gpu 时耗时 9s 。

[wwqgtxx]

@sharpy 做性能测试本来就不该用 eager 模式，而且一般要多运行几个循环来去掉 gpu 初始化的时间

[tzm41]

测了一下简单的 CNN，不知为何在我的 MBP 16 上 batch 之间会卡住。

[volvo007]

Metal 的话，能外接 a 卡提速吗