大语言模型是工具，不会进化出意识

[yidinghe]

语言是智慧的表现，但语言不是智慧的来源。

人类先有意识，产生智慧，再发明出语言。依靠对语言本身进行计算，去模仿词汇的累积，这么做无法反过来产生意识。

很多人被 LLM 迷惑了，看到 LLM 生成的内容超出自己认知，就觉得 LLM 产生意识了。

我不是要对意识做定义，这是个开放性问题，我针对的是“大语言模型会不会产生意识”，答案是否定的。

LLM 生成的文字序列能为人所用，它是一个好的工具，仅此而已。

如果你有疑问，请你将上面的内容复制，发送给任何一个你信得过的大语言模型，看它怎么回答。

[shintendo]

> 我不是要对意识做定义，这是个开放性问题，我针对的是“大语言模型会不会产生意识”，答案是否定的。

如果连定义都没有，那否定或肯定也无从谈起

[charlie21]

但人类的感觉是很 mundane 的，好糊弄的。十年前的小黄鸡聊天机器人就已经可以让人觉得有温度了，可见糊弄人类是太容易了的。没人关心它背后是什么

[zsj1029]

以神经网络模拟人类大脑，比如机器人，加入存储记忆，实时反馈的话，不是现在的问答 agent ，那么某种意义上可以表现出意识存在，但它不会像人一样，没事就思考归纳，它的反馈基于现有的训练数据以后会实时训练，那么一定会超过人类，无论做什么事情。

[wysnxzm]

先问是不是再问为什么
什么是意识都无法定义,怎么判断有没有意识?

[dawn009]

大语言模型能不能产生意识我不知道，但你这个断言实在是缺乏逻辑。

“人类先有意识，产生智慧，再发明出语言” 无法推得 “依靠对语言本身进行计算，去模仿词汇的累积，这么做无法反过来产生意识”

[QingXuJiaZhi]

你不敢质疑人类的意识，你还是希望人类的意识高高在上，有神圣感。

[QingXuJiaZhi]

你不想研究这个问题，你只想像那些信教、信神的信徒一样去维护自己心中一个神圣的东西。这就是你逻辑混乱的原因。

[zsqduke]

你这套逻辑同样可以用在人类上。如何证明你有意识？

[catazshadow]

意识现在没有定义不意味着 AI 拥趸可以利用这点来反驳意识不是 LLM

[catazshadow]

AI 吹们现在把话都说完了，

一边因为意识没有定义，所以意识是 LLM 。

另一边因为意识没有定义，所以你说意识不是 LLM 是错的。

过于流氓了

[TrackBack]

“人类先有意识，产生智慧，再发明出语言。
依靠对语言本身进行计算，去模仿词汇的累积，这么做无法反过来产生意识。”

那你的意思是每个婴儿不是靠牙牙学语，都是自己发明了一遍语言才会说话的？

[yidinghe]

@TrackBack 不，我的意思是，你刚生出来不会吃奶，快饿死了，多亏护士紧急给你注入 5 个 T 的 token ，又花了八小时对你进行预训练，你才通过深度推理，决定自己该吃奶了。