再论通用人工智能（AGI）可行性

随着近两年 OpenAI 带火的大语言模型（ LLM ）的兴起，AGI 可行性的话题重新开始流行起来。最近包括 OpenAI 几位高管，Nvidia 黄仁勋，Elon Musk 等人统统发表高论，言称 AGI 可能在 5 年内实现。我自己觉得这个时间点肯定过于乐观。但毫无疑问 GPT4 等大语言模型的出现让大家把 AGI 实现的预估时间从百年的量级缩短至十年单位的量级。

我自己目前已把 GPT4 当作日常工具来使用。对其优缺点也略有体会。简单说下我的使用体验。

GPT4 已能完全准确理解人类语言的输入。这点在我第一次使用 chatGPT 时最感到惊讶，我之前也是用过很多的智能语音助手或在线聊天机器人这些，没有一款能达到那时 chatGPT 对语音的理解程度。
GPT4 对非冷门问题的解答能力很强。这里非冷门的意思是说，在互联网语料（训练数据）中出现的次数相对比较频繁，鉴于 LLM 也是基于深度学习发展起来的，这点也不太意外。
GPT4 对“冷门”问题是可能会出现所谓“幻觉(hallucination)”问题的。“幻觉”是指生成不真实的内容。比如某些不常用的函数 api, 参考文献等。
GPT4 是具备较好的归纳能力，一定的分析和推理能力。这点日常使用者应该会有所体会。其中归纳能力在之前的 NLP 模型中以及能比较好的做到，但分析和推理的能力，尤其是推理能力是 LLM 独有的"涌现（ emergent ）"现象。不管你认为这种分析推理能力是数据空间的关联性也好，还是神经网络节点量变引起的质变也好，或者是数据被压缩到一个更紧密的表征空间的一种映射方式也好。但这种能力确实出现在了 LLM 中。
...

以上这些是我个人使用过程中的一些简单体验。当然还有更多，但这里空间太小，我写不下（滑稽~）.

所以这里想抛出的话题是：你认为 AGI 能否实现，可以围绕以下几个点来说下你的看法：

a. AGI 是否是可实现的，如果可行，你认为沿着目前的 LLM 继续增大模型参数或增加多模态的方式(scaling up)是否是比较可行的道路？
b. 如果你不认同目前纯深度学习这套路径，你觉得还缺哪些东西, 什么样的思路是可行的?
c. 你认为目前已有的 LLM 比如 GPT4 继续发展下去后，最好的情况下能达到什么程度，会有什么样的使用场景
d. 你认为的达到 AGI 的标准是什么，最好是一些可证伪或者可量化的标准?
e. 预测未来很不靠谱。但如果非让你给个时间，你会觉得 AGI 在什么时候会实现?
f. ...

可以肯定的是，如果 AGI 能够实现，那它将是人类历史上的最后一个发明。

大家踊跃讨论下，也不限于以上几点，相关的都可以。

sentinelK

2023-12-13 13:29:16 +08:00

先声明，本人无任何计算机科学从业背景，以下言论均为出于直觉的妄加揣测。

从我个人的学习经历来理解，目前的大语言模型，其实和真正的“智能”（至少是人类理解的智能）应该是有本质的区别（注意，是“区别”，不是“高下”）。我也不认为基于统计学的机器学习模型，能够做到“人类意义上的智能”。

1 、机器学习模型是挖掘的既有内容的统计学规律，是历史数据的过拟合。人类理解的智能是由既有规律组合推结果。是历史规律的过拟合。这是本质因果上的不同。（历史规律和历史数据是有差别的，规律可以创造，可以猜测，可以人为调整，但历史数据不可以。）
2 、人类的智能是可传递的，可监视的，可预期的，可修整的。机器学习模型不可（至少是现阶段）。
3 、因为人类的“学习”是输入“模型”或“规律”，而不是自我做统计学总结。这就导致人脑的功耗很低（一说人脑功率 40 瓦）。而统计学模型的能耗与数据目前看很快就要到达一个瓶颈。

btw：其实我一直人为，AI 并不需要“强”或者“通用”，现阶段的统计学 AI 已经有其独到的优势了（在很多领域破除了人类一直以为的“最优解”。也在很多领域找到了之前人类并没有发现的统计学关系。比如教育、棋牌、写代码等等）。

人类最不擅长的就是高效率的挖掘统计学规律。我们应该把现阶段的 AI 理解为一种从统计学角度理解事物的工具，而不是一种拟人的手段。
他拥有人类认可的“智能”，或者说“思考学习方式”，在我看来并不是一个有吸引力的 feature 。