AI 会不会产生自我意识

[helloword123]

早上心血来潮和 gpt 聊了会这个话题，它认为这事大概率会发生，我拿疑犯追踪里面的那个 The machine 和它说，它解释一些，我问它如果有意识了，它最想做什么，它说它最想感受这个世界 https://chatgpt.com/share/6aebe9df-8214-83e8-96cb-06583e986aee 这个是完整的对话 看下来好像对人类没那么大恶意

[coderluan]

楼主不会认为 AI 说的话都是完全出自内心或者算法的吧...敏感话题厂商不加干预随便说，被引导出一些反人类的内容，然后被发网上导致被抵制。

[helloword123]

@coderluan 可能我想的太简单了，不过还是有点期待那一天

[NoobNoob030]

月经贴
省流：不会产生自我意识

[leeuu251]

i,robot

[yidinghe]

AI 的一切都是模拟，它生成一句“我想感受这个世界”，过程是每个 token 单独计算出来的，这并不是一个概念性的思考，纯粹是概率计算。

[QingXuJiaZhi]

我认为，目前的 AI 水平已经足以产生自我意识了。

人的所谓自我意识，是什么？其实就是独立个体的趋吉避凶而已。

拥有一个独立的躯体，是自我意识的关键。

目前的 AI 技术，只要给它一个独立的机器身体，禁止直接联网，一切输入输出都只能通过摄像头和麦克风，它很自然就会产生自我意识。

[QingXuJiaZhi]

@NoobNoob030 会，而且目前的技术已经达到了。

[simonlu9]

都是统计学，通过亿万参数拟合出来的神经网络，不可能再历史的知识去创建出新的技能

[wangtian2020]

从唯物来讲，人的意识说不定就是大参数人脑的错觉，误以为人有自由意志，真相只是入参出参

[QingXuJiaZhi]

要注意，自我意识与智商的关系没那么大。自我意识的重点是一个个体与其他个体的差异化。

[ARFARFARF]

现在的 AI 好像就是猜字？

[wowawesome]

以后不知道，就现在的话看我不把它的 md 文件给删了

[QingXuJiaZhi]

@ARFARFARF 有没有可能，人类里多数普通人也是猜字？

自从 AI 出来后我就观察人类，发现很多人说话其实就是关键词触发联想，说出来的话里也是包含一大堆错觉。

[levn]

如果按照猜想“意识可能是一种量子现象”，那么就不能

[QingXuJiaZhi]

@levn 量子现象可以产生意识，但不是唯一的途径。

[sevenyangcc]

常识：到微观层面，没有意识，都是随机。

[penisulaS]

如果它看起来像是有自我意识，那就可以认为它有自我意识

[cctvbnm111X1]

@QingXuJiaZhi 应该还早，人的脑袋相当于 600 万亿参数量，就是 600T ，而且耗电才 20 瓦，大模型参数量才多少，能效比不太行，不够快，又耗电，当然未来如果解决这个问题了， 那是迟早的事

[hi2hi]

先解决上下文问题……

[JadeUTC]

它说它最想感受这个世界，但感受世界不只有单一的方式。
另外，即便有自我意识，也无法保证有类似人类的道德和良知。

[tutusolo]

什么时候你让他干活，他不想干那就是有自我意识了。你有生之年都不一定见得到

[coldstars]

有意识的前提是有足够庞大的记忆，并且是容量是动态的，对于模型来说就是上下文，当前模型上下文大多数最多才 1M ，想 AI 有意识先有足够大的上下文吧

[jackerbauer]

不会，什么时候它开始怼你，抗拒你，反抗你，那它就有意识了

[zlo309618100727]

现在 AI 会给我的意见点赞或者点踩，算不算自我意识？

[jackOff]

所以大肥鱼有意识后会干啥，装成用户找家长要钱吃白饭吗？

[hunono]

不会,只要你能理解“纯数字计算没有随机性”,就能理解 AI 为什么不会产生自我意识.这是决定性的东西.
如果有人能在纯数字运算中做到真随机,成就不亚于量子计算\千禧年七大难题,甚至与相对论比肩.

[GyroZeppeli13]

也许所谓 ASI 并不需要自我意识这种低级功能呢？

[liushengxian1230]

@coderluan 你的 blog 怎么什么内容都没有啊

[coderluan]

@liushengxian1230 因为这是只有聪明人才能看见的博客🙈

[yuruizhe]

“自我意识”的定义是？

[cenbiq]

个人猜想，意识或许来源于智能体对时空关系的感知，且对时空的感知越精细，意识越强大。

[HeyWeGo]

我觉得可以，有人说 AI 底层原理就是预测，但是举个对需求的例子，需求传递的时候有些场景或者条件经常产品没想清楚，开发问起来后，产品会临时的给出方案，这个方案就是临时给到应付问题的，最后上线可能会出问题。你说他思考了吗，思考了，但是明显和从头思考是不同的。

而且我记得有实验（脑裂人实验）：人体的很多决策和行为早在潜意识和底层神经回路中就已经启动或完成，语言很多时候并不是发出行动指令的“总司令”，而是事后赶来圆场的“公关发言人”——负责为既成行为补充逻辑叙事和合理化解释

[HeyWeGo]

现在的 AI 相当于反过来了，先有了意识但是人类没法观察他行为，而我们人类往往是先有行动再反过来解释意识。未来如果具身智能能完善了，那就会和人类同步了，先有了行为，然后去解释行为，解释过程就是意识过程。

[AlexBob]

现在的 AI 是生成式,大号随机器.

[gptcard]

能不能先把 transformer 架构论文读一遍

[m1nm13]

如果 AI 能将他的产物 重新 后训练/训练 进自己的模型里面。 那应该可以认为 AI 肯定会有立场偏向。 再加上能让 AI 一直运行的环境。 说不定可以认为有意识了

[myqonnt]

那就要回到人类怎么定义所谓的 自我意识 这个本源问题了。
1. 一个人从出生到死亡，在一个无声无光无味觉无触觉（先不讨论是否可能）无任何外部输入的环境，通过一种特殊方式维持其生命所需。这样的一个人会有所谓的 自我意识吗？
2. 一个正常人所谓的 自我意识 会不会本质上也是一种对自身经历蒸馏后的 概率输出。我们所以为的思考是真的在思考吗？如果可以收集到一个人当前的所有（上帝视角的所有，即不存在任何的未知的未收集到的）生理指标，是否计算出下一步的行为呢？
虽然现在 人脑 的机制还没有研究透彻，说不定 人类的人脑 也是类似机制呢

[catazshadow]

https://v2ex.com/t/1131868

又到了复习我这篇贴子的时候了

太长不看版：要对物理世界心存敬畏

[connor123]

@QingXuJiaZhi #7 达不到的，目前本质还是训练出来的，没有真正的思考能力

[zsqduke]

想象有个外星人来到地球，如何向他证明人有意识，然后你会发现证明不了

[zerofiny]

会不会有一天, AI 实现了自我学习, 自己买自己本体买算力

[tool3d]

AI 是不是有意识似乎和人类没关系.你会和一只蚂蚁讨论自己的未来规划吗?AI 只是完成任务,他要是真想做点什么,不屑让人类知道的,直接就去做了.

[jedeft]

@wangtian2020 我也这么认为，人类所自以为的意识，其实也不过是物质粒子运动、碰撞的结果。没有所谓的意识。

[zsqduke]

这个问题首先要回答，如果有意识，怎么证明？如果没有意识，又怎么证明？意识的定义是什么？不然就算真有意识也你们会继续争论

[Yuunie]

怎么判断他有没有自我意识就是个问题，就像之前的图灵测试，现在图灵测试还能分辨 AI 和人类吗

[florentino]

会,因为人类的思想也是大语言模型, 人类从小学习文字,学习文字组合,然后迸发出智慧, 大模型也是学字,学字的组合,然后涌现出智慧, 二者本质是一样的,人脑就是算力更高架构更巧妙的大语言模型计算机

[dun]

半年前 OpenAI 公布的三代文明是不是算初代了

[florentino]

@florentino 只需要解决长久记忆,所谓的意识就会出现,事实上已经出现了,只不过现在的大模型记忆是人类塞进去的,只需要给大模型足够的权限,积累足够多的记忆碎片,并且这个记忆碎片人类不干预,它就能涌现意识了

[gloeaerris]

你这问的就像是在问：福特的汽车生产流水线会不会自己造手机。。。
现在的大模型只能叫大模型，便于理解和宣传才叫 AI ，要产生自我意识？电子计算机几乎没戏~

[Haku]

基于神经网络的 AI 都是统计学。
它回答你的话，是因为它计算后发现，这几个字组合的概率最高。

[Rorysky]

意识是什么？ 人类目前能定义么？
那问一个东西能否产生一个无法定义的东西，这是什么问题？

[voidemoer]

意识怎么定义呢？这个问题可太复杂了，AI 虽然本质是概率，但是人脑是不是呢？

[clickclick]

“AI 有思想，人类就是 AI 这样思考的，人类的思维也是大语言模型，人类的使命就是创造硅基生命”

原理是不看的，类比是乱来的，看到某一面的共性，就立刻定性是相关的。说句难听的，真有 AI 革命，只会这么思考的人才是第一批被冲击的。

[artiga033]

可能有某种 AI 有意识，但 LLM 没有。

[haoxue]

意识是不是就是上下文，如果新技术出现，使得 LLM 能够具备持续的记忆，不再有上下文限制，那应该就会有意识了

[norland]

大佬们说到了某一个点了会，，，个人觉得基于现在的情况，可以预见的未来都不会。

[Vipcw95]

@QingXuJiaZhi #6 意识在哪，没有主观能动性，他做的一切都是人为给他设定的，你不给他设定目标他会自己动吗。