我们真的需要担心人工智能吗？

[sillydaddy]

很多科幻电影，都在渲染未来可怕的人工智能的场景：SkyNet 觉醒了，有了意识，要消灭人类。。车轮碾过💀💀💀咔咔咔。。

顺着这点我思考了一下，发现其实「自我意识」在上面的情景假设中，是一个很关键但又被一笔带过，导致很模糊的点：这个点就是，有了「自我意识」的机器，为何要消灭人类呢？

假设意识没有高等低等之分，而只有「有无」的区别，那么机器的自我意识与人类的自我意识，算是同层级的，按道理，人类能意识到的东西，机器也能意识到，反之亦然。我们假设那些机器的智能程度比人类更高，可是，它们能够意识到人类社会的抽象概念吗？比如语言、爱、恨、差异、竞争、合作。假如能意识到的话，很难想象它们为何只是一心要消灭人类，到底是什么驱动它们这么做呢？

假设意识分为不同的层级，比如电影「阿凡达」里面一个超越物种个体的 Ava 意识体；或者简单点，假设我们人体内的每个细胞都有自我意识。。那么这就更难说得上消灭了吧，因为本就不在一个层级。如果人类无法意识到更高等的意识存在，那么人类只会把更高等意识导致的现象，称作「自然规律」。是吧？

当然，如果是没有「自我意识」的智能体，那对人类的威胁就是另一回事了。不过我对这样的智能体的智能持怀疑态度。

[southsala]

现在所谓的人工智能如果按照人体来看，只能算某个器官，达到大脑的程度现在根本做不到，除非有什么突破性论文带动发展

[libook]

分享一些我自己的看法，不代表客观情况：

艺术作品里面 AI 毁灭人类的原因大多是 AI 进入了某种逻辑陷阱，导致的结果就是毁灭人类被 AI 判定为合理；当然也有一些是将人类思维套上了个 AI 的壳子，人类和 AI 的矛盾实际上更像两波人类的利益争端。
不过能确定的是，大多此类题材的作品，核心目的还是借科幻来映射一些当前现实存在的问题，比如善恶、人权、环境保护等等。
嗯，所谓的 AI 的“自我意识”实际只是艺术创作的道具而已。

人类历史上其实出现过很多次“朋克幻想”；比如蒸汽动力技术被人门广泛关注度的时候，人们会幻想以后生活的方方面面都有蒸汽动力；内燃机技术受人们关注的时候，就又出现了“内燃机朋克”；玩过《辐射》系列的人肯定也都见识过了“原子朋克”；以及现在常被人提出的“赛博朋克”。

当 AI 以当前世界为模板突然充斥到生活的方方面面的时候，又何尝不是一种“AI 朋克”。

历史也证明了，人类文明不会放任某一种元素发展到极端的程度，人们总是会搞出新的元素来引领文明的革新，同时也会对既有技术进行越来越客观的了解，并在事物发展到极端不可控之前找到妥善应对的办法。

人类意识的一些特性，跟人体的生物活动是有很大关系的，比如 LSP 撸完后也会成为那么几分钟的“贤者”，这些在人们彻底了解自身生物活动细节之前可能难以用 AI 进行模拟，而且很可能一些对人类来说必要的东西对 AI 来说没有任何意义（比如性欲，AI 并不需要这东西来繁衍，但很难说人类的意识跟这东西没有千丝万缕的关系），最终很可能会导致 AI 的意识跟人类的意识会有很大区别。

[Mac]

比起机器，更可怕的是人，因为弄死机器我毫无心理负担。

[iam174cm]

想多了，人类连自己的意识都没搞清楚，还想生成

[cosette]

对人工智能的担心来自于两方面：担心 AI 太笨和担心 AI 太聪明。

前者更加常见，比如各种电影里面的智能觉醒，智械失控，统统都可以归结为 AI 太笨了，不足以处理复杂的事态，以至于有意或者无意的要消灭人类，这里面的底层逻辑有两层：一是伦理层次的，西方背景的伦理观是功用主义的、对于权力、集体等等东西是非常警惕的，当 AI 形成网络层次的联络之后自然被怀疑是否存在威胁，二是技术层面的，AI 实现的途径是程式，而程式在目前来看能够完成的事情依然是“机械的”，这就意味着可能存在未知的不可控的 bug ，从而造成不可挽回的损失。

第二种，以黑客帝国为例，AI 并不想杀死人类，而是以“进化”的方式“奴役”人类，改变人的生存方式，以至于最终失去选择的能力，某种程度上这种情况是人“乐意为之”，退一步说，这种事情不独是 AI 的问题，而是技术在扩张的时候带来的必然的结果。比如疫情期间出现的各种码，绑定在微信、支付宝这两个庞然大物上，结果就是一、不管你以前用不用，想不想用，你都需要下载使用微信、支付宝，二、对于小孩、老人，还有很多因为各种原因不能使用、没有使用智能手机的人来说，造成了很多困难，这便是技术在推广的过程中，以“便利”的名义带来的 discrimination 、unfairness 和 violence ，AI 的兴起不是作为一个结果，而是作为一种途径，正如微信、支付宝一样，当 AI 的某种“不健全”造成后果的时候，更多的可能会被当作不甚重要的“技术”问题，从而被轻视，在某种程度上，因为“技术上的不可行”而造成的灾难是被允许的，我们只是幻想它暂时不会发生，或者总体来说是值得的

[sillydaddy]

@edinina 唉，是啊。