我认为苹果是 AI 时代最大赢家，核心在 Mac

[CaptainD]

我个人的一个小观点，抛砖引玉

我判断未来一人公司、小型创业或者小型工作室会得到莫大发展，而现在 API 又太贵，我现在一个月要用 2000 刀以上，如果没有公司付款我用不起，如何解决？我认为一定是本地部署+开源模型

我特别看好 AI 短剧这个赛道，但大家如果用过 AI 生成视频一定知道，现在生成视频太贵了，太慢，这个对于短剧来说影响很大，一部好剧必须精致+速度，如果质量差没人看，更新太慢热度过了

想象一下，在未来，个人、小型创业公司、工作室，如果买一台 mac studio ，或者 mac mini 集群，可以本地部署顶级开源模型，0 维护成本，几乎无限使用，会是一个什么样的场景

顶级的开源模型未来仍然需要付费，但不是通过 API 的方式，我认为极有可能是许可证，比如一款新型的、定制的 license

对于苹果来说，他们可能刚刚认识到 mac mini 、mac studio 这类产品真正的价值，比如最近的新闻 openai 、Amzon 这类的公司已经大量采购 mac mini 、studio

[x86]

英伟达：嗯？

[iOCZS]

本地只能部署小模型

[Tiande]

本地部署成本可能比找外包还高

[ftfunjth]

本地部署的优势是隐私(18+或者逆向)

[archxm]

现在不少人都不看视频了。特别是一些 ai 生成的，刚看觉得没啥，过会就感觉不对劲。

[foryou2023]

赢家是不是苹果真不知道，但是如果硬件成本降下来到达 2 万左右，我就会选择本地部署模型了。deepseekv4flash 已经满足我的日常写代码需求了。

[ntedshen]

Fable 5 $10 / MTok

你就算麦克能跑满血 Fable 5 而且 50 token/s
30*86400=2.6M s
你一个月满载能跑 130M token
大概 $1300

[foryou2023]

@foryou2023 另外说一点其他的就是失业潮正在进行时，个人预判未来 10 年会更多的人失业。我现在看到的就是 ai 把程序员这个岗位打崩了，设计师也打崩了，短剧演员也打崩了。

攒钱过冬，谨慎花大钱了。

[Tink]

我也感觉 mac 可能是最终解

[ntedshen]

啊不对，
Output $50 / MTok
那算账呗。。。

[mechunjun]

只能说未来的方向和你说的会完全不一样

[lp7631010]

@archxm 你说的仅限垃圾同类化视频。想聚宝仙盆、万妖图录传这种 火爆了好么

[justfindu]

最主要的问题不在于本地部署, 而是在 Agent 的应用在 linux / 类 unix 系统中能够得到最大的发挥.
最终落地还是人怎么能够方便实用. 编码只是一小部分东西.
如何做到自动化才是最后的归宿吧

[V2Try]

你自己做饭并没有比上饭馆吃便宜，因为后者有规模效应，硬件部署也是这样，如果私有部署有什么优势，那就是隐私。

[yyh0808]

压根就没考虑过一个模型的参数量，再厉害，内存字节还能压缩 2 半突破物理极限么，别说视频大模型，现在就连文字大模型参数量都远远超过个人机器能部署的，压根就轮不到视频模型大规模发展。

开源本地部署模型会因为参数量问题，到达一个量级，就很难再压缩提高效果了，必定的物理极限。能把 32G 内存，变成 512G 的内存，这种炼金术才是本地部署的核心魔法。

趋势？苹果？“苹果可能刚刚认识到 XXX 真正价值”？？？？

另外别的公司大规模采购 mac ，确定人家用途和你想的一致么？难道不是人家训练面向 C 端 Agent 么？难道魔法？

[hs444]

跑 AI 视频生成这种负载 Mac 没啥优势吧，应该没有哪台 Mac Studio 或 Mac Mini 能比 5060ti 16g 这个级别的消费级 n 卡跑得快，统一内存的 Mac 跑些 LLM 还算有些优势，特别是一些总参数量大，激活参数小的 MoE 模型

[hs444]

@hs444 “视频生成模型以 Minimax H3 为例”，本来想调下语序的结果没检查就发出去了，漏了这句

[rossroma]

都是市场经济，如果某个单一产品大家都发现它性价比高，那么接下来它要么是缺货，要么是涨价。参考英伟达显卡、和各种存储产品

[archxm]

@lp7631010 我们公司的厨师比较喜欢看你提到的那些视频。但喜欢逛 V2EX 的，基本不看那些。

[karatsuba]

俺寻思

[lp7631010]

@archxm 巧了，我也喜欢逛 V2EX ，而且你代表不了别人

[HeyWeGo]

如果未来真的能够离线模型能有目前线上模型这样的能力，很多行业真就喝西北风了。

[archxm]

@lp7631010 我觉得我可以，我算资深用户

[OutOfMemery]

你苹果就能塞内存，我显卡就不能多塞显存嘛

[lp7631010]

@archxm 你觉得那仅仅只是你觉得 那你就这样觉得吧 没什么好说的了

[zls3201]

本地 llm 自媒体看多了，

本地跑的 llm 模型生产力太低了，做点低频率的视觉方向还行，语义和推断要求高一点真的没你想的强。

连收费的第三阶层的 api 都这么多人不满意

你本地跑 api 的估计在第四五阶层，玩玩还行，跟真实业务和财务对接，不被老板和客户吐槽才怪

amd 和 intel 没做到的 苹果要顶上来 还有距离吧

[liuliuliuliu]

没太明白，这 mac 的优势是在内存性能？还是在显卡性能？

[GyroZeppeli13]

只能说苹果的心智占领能力真的是世界第一。

[jackerbauer]

这。。。

[andyskaura]

“对于苹果来说，他们可能刚刚认识到 mac mini 、mac studio 这类产品真正的价值”

你打这句话的时候，真没笑？

[flyico]

跟苹果有毛关系，mac 合适完全是因为统一内存架构，这玩意又不是什么护城河

[Planarians]

连自己的模型都没有算啥赢家

[way2explore2]

你忽略了一个问题，你买 Nvidia 的卡，host 更划算。

[cloudzhou]

no ，硬件只是一个暂时性的短缺，导致你看到的本地部署这个局面

可以给你另外一个历史的发展：
早之前，基本上自己部署机器的，什么 4u 8u ，我还去机房搬过、部署机器
现在基本已经不这么做了，阿里云、aws 一条龙

这么说吧，你要搭建一个 local 的环境，还干着现在 ai 干的事情
无论是硬件、软件等付出，成本一定是 local 更贵的

我的预测更相反：开源模型到一定程度，云公司就会出来摘桃子
最后开源模型为了剽窃成果，又会从许可证入手
没错，这就是 aws 和 MongoDB 的故事

但是 local 会存在一些市场，比如一些不适合公开做的事情

[cloudzhou]

type：为了剽窃成果-》为了不被剽窃成果

[clemente]

mac 部署顶级模型？ 。。。。从此至今没有公司拿 mac 做训练或者推理 也就做个玩具

[clemente]

@cloudzhou 硬件应该是永远稀缺的。。。。因为总有更大的模型出来 就好比 iphone 新款永远是稀缺的

别人用最新的模型写业务 你用本地开源的模型 你觉得舒服嘛

[zachary99]

等着 AI 数据中心普及，token 下降，MAC 应该是一无是处才对

[horro]

@clemente 你该看看今天的新闻了，openai 买了几万台