Apple 发布了 tensorflow-macos

[sharpy]

但我还没装上 https://developer.apple.com/metal/tensorflow-plugin/

[IgniteWhite]

嚯，厉害了

[MrKrabs]

什么意思？大的要来了？

[sharpy]

@MrKrabs 测试好久了吧

[moro]

性能这块怎么样，有人跑了吗。

[sharpy]

@moro 就那样吧，能跑不少代码，上一版还有几个算子没有适配，不知道这版搞定了没

[felixcode]

机器学习的标准又得变了，以前在果粉眼里个人电脑上的机器学习都是闹着玩的，办公室 /实验室的远程服务器才是真正的机器学习。

现在苹果又要重新定义机器学习了。

[shyling]

有 torch 就好了

[sharpy]

@felixcode mac 跑机器学习确实是闹着玩的，那点儿算力，当 demo 都不够啊

[IgniteWhite]

@felixcode 以前在苹果机机器学习是这个画面：
/t/732571

[felixcode]

@sharpy @IgniteWhite
说的不光是 mac，很多桌面 RTX30 系列显卡都看不上的。

[sharpy]

@felixcode 那就扯淡了，我以前还用 1070 跑呢

[echo1937]

we need PyTorch support.

[root99527]

也就跑跑 inference 吧，还能指望训练不成

[hhrrr]

可能下代 Apple Silicon Mac Pro 会在深度学习方面有大动作。

[emberzhang]

能用 N 卡吗……

[INFP]

@shyling torch 说了绝不适配

[VDimos]

m1 那点儿内存，显存和内存还共用的，batch size 估计调个 4 就跑得差不多了。效果太差，运行模型估计性能会够用，炼丹不够

[shutongxinq]

@felixcode 听了你的话太心酸了。有些人随时调用上百 A100 需要时甚至上千，有些人却一块 3070 都得来不易。
一些人的日常是另一些人的不可想象。世界的不平等可能确实太多了

[lqf96]

@felixcode 这就太扯了，我们实验室的机器标配都是两块 2080，事实是不搞 GPT-3 那种研究完全够用…

[lqf96]

@INFP 没有不适配，而是 Facebook 官方短期内没有计划…其实我记得有人在做了，另外就是只要 Facebook 把现在给 Metal 写的 shader 开放给 macOS，适配的过程能够加速很多…

[felixcode]

@lqf96 @shutongxinq @sharpy
典型对话是这样的：
网友：
买台什么电脑好，配置可以高一点的，可以配显卡，想编程顺便机器学习。

果粉：
M1

网友：
但 M1 做机器学习不大好用吧？

果粉：
做机器学习不都用实验室或公司服务器吗？用自己电脑做机器学习不是搞笑吧？

所以，就是这个逻辑

[sharpy]

现在想跑点儿大模型，自己上的话，咸鱼有很多淘汰下来的 m40,24G 显存，玩绝大多数模型都够了吧

[LudwigWS]

@felixcode 你天天黑苹果有意思吗，黑果粉有意思吗。

[felixcode]

@LudwigWS
有意思。

[hfc]

@felixcode
A：有人说我黑 xx
B：你怎么黑 xx 的？
A：我把 xx 粉说的话复述了一遍

[EyreYoung]

@felixcode 哈哈哈哈哈哈哈是真的 用不了的时候说没用 能用了就真香

[santheniko]

@shutongxinq 搞研究就是需要资金支持的，100 年前，都是有钱人在搞研究，得诺奖
虽然跑几个模型谈不上研究，但是毕竟也是属于使用研究直接成果，没点代价肯定不符合物质信息交换规律
另：穷学生想搞研究就好好读书找个实验室，没钱真就很难出成果

[santheniko]

@sharpy 用模型其实基本都够，但是想 train from scratch 或者继续训练还是直接 Google Colab 划算

[superlc]

@sharpy 自己玩玩，不求发文章不碰变态大级模型的话完全够了，我搜了一下这个价格有点诱人，就是不知道靠谱不

不过得注意这玩意儿是被动散热，一般的机箱可能顶不住，得用那种暴力猛吹式风扇，或者骚操作被动改主动

[superlc]

@shutongxinq 一旦想明白“即使有 100 块 A100，以我的水平也做不出什么东西”这一点之后，也就没啥好心酸的了(doge)

[sharpy]

@superlc 和 980 同模，换风扇或者上个水冷应该差不多

[382601486]

怎么我的 M1 装不上？

conda config --set auto_activate_base false

Thank you for installing Miniforge3!
i@MacBook-Pro Downloads % source ~/miniforge3/bin/activate
i@MacBook-Pro Downloads % conda install -c apple tensorflow-deps
i@MacBook-Pro Downloads % conda install -c apple tensorflow-deps
i@MacBook-Pro Downloads % python -m pip install tensorflow-macos
zsh: killed python -m pip install tensorflow-macos
i@MacBook-Pro Downloads % python3 -m pip install tensorflow-macos
zsh: killed python3 -m pip install tensorflow-macos
i@MacBook-Pro Downloads % source ~/miniforge3/bin/activate
i@MacBook-Pro Downloads % conda install -c apple tensorflow-deps
i@MacBook-Pro Downloads % python -m pip install tensorflow-macos
zsh: killed python -m pip install tensorflow-macos
i@MacBook-Pro Downloads %

[382601486]

@382601486
自己回答一下，原来要 macos 12 以上
OS Requirements
macOS 12.0+

[Williamlee0805]

有点好奇苹果公司内部做机器学习用什么框架

[sharpy]

@Williamlee0805 苹果应该有一套自己的框架吧，从发布的 api 就可以看出