6 月 10 号 wwdc 就要开始了，不知道苹果今年的生成式 AI 会有什么创新的东西，会不会使得一些 APP 功能失去存在价值。

[naminokoe]

不是说了国外用谷歌 ai 国内用百度 ai 吗？

[opooooos]

今早又爆料说 ios18 是本地 ai 能力。那就是把模型嵌入到系统里了？

[linch97]

@naminokoe 官方否认了，应该是还没谈妥，现在不知道是不是真的选了 Gemini 和文心一言

[hwangyi]

@opooooos 是的，我也是看到了相关报道。

[privater]

不是说打算本地部署吗，苹果自家的大模型 ReALM 。希望能抛弃当前弱智的 Siri ，完全就是 if-else 这种落后对答器

[Socrazy]

主要还是看本地 AI 有什么新鲜东西，那些对话式 AI 也没啥期待，集成不集成的没什么意义。

[SkywalkerJi]

内存都不舍得加还咋么跑 ai

[idlerlestat]

只要苹果没说 We reinvent AI ，那就不要对 ai 的能力有什么期待

[18k]

本地部署 跑的动吗

[kyor0]

貌似是第一波功能是本地 ai 实现。国外大概和谷歌和 openai 都在谈。

[naminokoe]

@privater 本地部署的话电量要崩掉吧

[zhandouji2023]

8+256 的 Mac 用 ai

[dilidilid]

现在大模型的主要用途来说，本地的模型能有什么卵用？要是远程的话跟现在的第三方 App 比又能有多少便利和优势，难道指望苹果免费提供算力给用户跑 GPT4 级别的服务？不知道大家都在期待些什么，指望苹果在 AI 上吊打目前的 OpenAI 吗

[eternityz]

@dilidilid 跟 OS 和生态整合的优势。手机上有大量个人数据，例如照片、邮件、通讯录、iMessage 之类。这些更适合用本地模型处理

[gwbw]

盲猜一下，第一批 AI 应用未必是所谓生成式 AI ，可能更倾向于利用 AI 打通各个应用，通过开发者提供对应的接口让第三方应用支持系统级别的功能调用，进而实现跨应用的工作流。

没错，说的就是 Siri 和 捷径，如果真能做到本地 AI 给它俩输一波血，还挺期待能玩出什么花样。

[lqcc]

@SkywalkerJi 以这几年 Cook 的尿性，有可能 pro 版本给大内存，完美体验 AI 。数字系列以及前几代 iphone 给不完美体验。

[Socrazy]

@gwbw 这个是最期待的，本地完成就可以，其它生成式 AI ，有 OpenAI 之类的就够了，或许以后推出 Apple GPT ，能免费用，但不指望超过 Chat GPT

[dilidilid]

@eternityz 我不看好目前移动端的本地算力能整合这些数据，要实现有感知的“智能化”需要的算力和性能远远超出目前的手机终端设备，PC 端都费劲

[luhe]

本地 AI 苹果一直在做啊，可能这次做得更多点罢了。聊天 GPT 接入哪家云端都无所谓。更关心 Siri 要怎么进化。

[SkywalkerJi]

@lqcc
想多了吧，目前消息都是全系 8g 。

[DIMOJANG]

不太敢期待苹果能想出什么 AI 的好用途了，毕竟看谷歌和三星的答卷感觉他们对 AI 的落地还是没什么太好的创意。苹果这边估计也是被投资人施加的压力，赶鸭子上架，不太看好。甚至感觉这可能是库克退场的最后一根稻草。

[chuck1in]

苹果人力物力感觉都在 vision pro 上了，其他端基本上就是随便用用的感觉。

[Admstor]

@18k 本站就有人开发的寻隐这个照片 app 就是完全离线本地的自然语言相册搜索工具
如果按开发者的描述，100%隐私友好，且完全离线能有尚可接受的效果了，至少说明手机的算力还是够的
如果再加上一点点网络端处理，估计会成本提升效果

[gklll]

@DIMOJANG 虽然是陈词滥调了，但库克掌舵的 Apple 确实是没有灵魂。不可否认库克拉股价是无敌的，打他没有承担起把 Apple 各个部门串联起来朝一个方向走的使命

[BEza5k2j7yew0VN9]

谁会更新 ios18 ？

[privater]

@SkywalkerJi 苹果一向在有必要的地方，舍得花钱砸，例如 GPU 性能，Intel 向来不重视，也是苹果和 Intel 分手的重要原因之一：苹果一直对图像处理要求比 Win 高得多，但是 Intel 数十年都不提升，搞得苹果必须集成 AMD 独立显卡才能保证系统动画和输出 hidpi 的流畅度，最后发热和功耗尿崩。

所以大概率为了 AI 的效果苹果会一次性强化硬件，要么堆砌 NPU ，提升性能，要么加额外存储或者 ram ，这些都不是难事，难的是本地 AI 是否是下个 10 年必须的 feature ，这需要 cook 拍板。

[SkywalkerJi]

@privater
你要说明年后年，那还有点可能，今年的重心显然在 vision pro 上。关于 iPhone 配合 vp 的改动一堆爆料的。关于内存，npu 方面都是些和 15 日常升级那种幅度，显然不是重点。
把刚刚上路的 vp 踢掉，转到不在行的 ai 领域感觉不太可能。何况内存祖宗之法不可变，一旦变了定价策略全得变。

[serafin]

@naminokoe 本地部署电量应该还好，跑模型推理，推理时间不可能比联网慢太多，相对的运行时间有限。大模型闪存扛不住，小了不就是现在的离线 Siri 能实现的开关 WiFi 等功能吗？

[serafin]

@privater 苹果要上 AI 的话，那么苹果在 AI 方面能有什么优势？ 苹果除了本地化运行没什么拿得出手的。 如果 Cook 拍板本地化运行硬件成本肯定要提升，而且要提升非常多。希望苹果不会仅限 1TB 闪存机型本地大模型。Cook, this is not advice for you.

[privater]

@serafin 这里有论文自己可以看，我没说 ios 18 就会搞出来，只是可能的一个方向。人们觉得大模型内存占用多，是跑通用模型的结果，如果只是 80M 参数 + 限制在特定对话领域，8G 内存 + 大量 swap 虚拟内存 + 特定的优化硬件 + 大缓存也不是不行，如果这点抠门技术都没有，也不叫苹果了： https://arxiv.org/pdf/2403.20329.pdf

[agood]

80M 的模型在内存运行完全没问题，从 A11 就有 AI 引擎了，当时完全是性能过剩，估计今年 wwdc 要发大招了，为了隐私合规设备端离线运行 AI 模型是最优选择，不过旧设备少数功能可能受限，体验最全的 AI 还是要买最新 iPhone ，而且这个名副其实的 AI 手机可能又要领先安卓很多年了，本地模型在中国应该不会阉割吧，不然苹果真的没啥竞争力了

[terrysnake]

本地大模型岂不是意味着能用上 16G 的 iPhone 。。。

[fredweili]

能把 siri 做好一点就谢天谢地了

[czzt1]

别期待了，垃圾苹果赶紧死吧，毫无进取之心

[DIMOJANG]

@agood #31 今年 WWDC 如果真的要弄新东西的话，估计主要还是和生成式模型有关系。如果不限定生成式模型的话，iOS 现在的本地照片分类、全局图片 OCR 、离线语音识别、主体提取之类的功能已经算是目前市场上比较合理的 AI 落地了……

现在很多手机厂商搞的用生成模型擦出物体，实用性还比不上谷歌几年前的 GAN （比如擦掉车之后又用一个新的车填上了，约等于没擦）。至于用生成式模型翻译电话内容，我只能说直觉上我不太愿意相信它。

不知道苹果打算怎么落地这玩意。

[DIMOJANG]

@dilidilid #18 说不定只是利用语言模型给这些数据算出来对应的向量表示来加强索引？然后前台还是用专家系统那老一套。这样的话可以在后台慢慢运行，也可以实现比现在好的“智能化”。

[DIMOJANG]

@Socrazy #6 是这样，窃以为聊天是生成式 AI 最无聊的应用了 。