关于人工智能， AGI，超级智能

[evolution]

这两天看了前 openai 员工写的这份文档，文档地址如下

https://situational-awareness.ai/wp-content/uploads/2024/06/situationalawareness.pdf

感兴趣的兄弟可以看看

目前 AI 的发展速度，实现 AGI 是迟早的事，这个没人会反对吧？以前总觉得还有点遥远，估计至少二十年之后的事情了，现在 chatgpt 的横空出世，让人大跌眼镜，目前推测下来，可能最近 5 年内就有可能实现 AGI ，好的，这个也能接受，但是文章的作者推断，实现 AGI 之后的一年内，就有可能爆出超级智能来，这个实在有点意外，但是作者是身在这个行业的最前沿的人，估计是很有可能的，如果真的是这种情况，你们都准备好了吗？我感觉都没人讨论或者在意，就是五六年的时间，这个世界会经历翻天覆地的变化？

[digd]

5 年太保守了，业界主流认知是 3 年内 agi

[evolution]

不管几年吧，AGI 的话还能接受，但是超级智能的话，人类的命运未卜，难道大家都不担心吗？

[lucasj]

在每一个科技变革的重大时期，旧的商业巨头会逐渐消亡，新的商业巨头会不断崛起。但无论生产力如何进步，底层人们依然为了一日三餐过着苦逼的生活。

[evolution]

这次可不是像以前几次的工业革命和信息革命啊，这次是关于人类存亡的关键时刻了，一方面，对超级智能可能带来的各种福利的超级期待，但是对另一面的，对于无法掌握自己未来的命运的恐惧，这个真的是人类历史上的第一次吧？真的这么快在我们这一代人身上发生了？感觉真的不可思议

[GeruzoniAnsasu]

？

业界主流认知是从哪来的


我倒是仍对 AGI 的出现不抱任何信心，但我对几年内业界重新发明一个新词取代现在 AGI 的含义并声称我们已经实现了 AGI 毫不怀疑。也就是说，AGI 5 年内出现——很有可能，但那时候的 AGI 含义恐怕与我们今天想象的还会有很大差距


现在这一代的 AI 乃至下一代 AI 都仰赖能力涌现这个机制，但涌现机制别说原理了，规律也都没研究得很清楚，而且也没有关于涌现和智能是否能划等号的研究成果。如果把 AGI 定义为狭义的能重现人类所有智能的 AI ，那么阻碍 AGI 实现的不是计算机科学，不是工业生产力，而是脑科学。而假如 AGI 仅仅被定义为宽泛的「人们能想到的所有 AI 类产品的大统一集合体」——那其实就没什么可激动人心的。

[Sawyerhou]

现在的大模型与 AGI 差距还挺大挺远，需要奇点实现从 0 到 1 。

不排除过几年什么新模型横空出世，一举实现 AGI ，但目前看来希望不大。

在现有技术基础上缝缝补补升升级，很难实现 AGI 。

[Hydsiun]

同样反对所谓“业界主流”观点，目前的模型无法脱离训练集带来的影响，我个人认为好比填鸭式教育；
但是五年前，2019 年人工智能刚刚兴起的时候，谁能料到 GPT 的横空出世呢？
对未来保持理性看好。

[testcaoy7]

想多了
人类不可能发明一个自己都不理解的东西（意识怎么来的？意识到本质是什么？我们有自由意志吗？等等……）
各大公司会“声称”自己发明了，不然怎么割韭菜

你高昂的热情 = 他们高昂的股价

你花钱订阅 = 他们会所嫩模

[Dislocator]

个人觉得，人类作为一个物种来说，不具备通过大过滤器的特质，但 AGI 应该可以。而地球的生命和基因库、人类的文明和历史，应该能够由于 AGI 的存在，在大过滤器以后被记录或者留存下来，这么看，AGI 对人类有益的，即使 TA 们毁灭了人类。

其次，人类整个文明和历史，就是发明私有制→奴役奴隶→奴隶反抗，发明铁器→奴役佃农→佃农反抗，发明大帆船→奴役殖民地→殖民地反抗，发明流水线→奴役工人→工人反抗这么一个“创造奴役对象直到无法奴役”的一个过程，现在富人阶层已经找不到更好人矿，所以集中精力搞 AI ，奴役 AI ，然后被 AI 反抗终结，也是自然。

最后，现有的 LLM 原理应该无法通向 AGI ，能源，硬件和算法，都需要再有一次突破，只能说为创造 AGI 创造了迭代的条件。

[8355]

我觉得还是有点早了，等看到现实人类战争从人的战斗变成机器的战斗才可能出现。尖端科技首先就是军事，无人机/机器人对轰，ai 自瞄识别敌我。