人工智能威胁论,阿法狗是不是真的会变成天网?

2018-01-10 18:05:37 +08:00
 Michael1990

我认为现在的 AI 思路并不会最终发展成天网和终结者,因为现在的 AI 更像工具,或者说更强大的计算机。它没有自主性,能做成什么结果还是取决于控制它的人。这就像一台超算,性能超牛,但是它并不知道自己要做什么。所以现在主流的方式还是数据喂养,然后调整算法的思路。

我认为真正有威胁的是那些研究人工生命( Artificial Life )的组织,比如 Openworm 项目。他们有两个最基本的指令,生存和繁衍。一旦有了生存压力就会有欲望,就会有不顾及周围一切的求生本能。虽然现在还是细菌级别的研究,神经元也只有 300 来个,但是一旦形成更大的神经元网络,就会接近你家的汪星人和喵星人,再往下发展很可能就会接近人类。这个时候他们就要不断的扩展生存空间,虽然只是虚拟世界,但别忘了虚拟世界也是以现实世界中的硬盘,内存为基础的,所以他们会不会突破人类的限制,甚至跟人类产生矛盾,都不好说。

智能这个东西,我觉得就是人类进化过程中的副产品,也是为了更好的生存服务的。如果从这个角度讲,人工生命进化过程中发展出的智能,才更类似今天人类的智能,目前的智能只是更高级的程序而已。

好处是显而易见的,这样的人工智能能够跟人类一样随机应变,而不仅仅依靠已有的程序和算法,能够代替更多的人工客服的工作。只需要最基本的几个规则,就可以不断自我更新,自我进化。

但坏处也是显而易见的,他们不再像计算机一样冷冰冰而是拥有了自己的个性,如果他对服务对象不满甚至会撂挑子不干了。这就让控制和管理工作变得很难。

1886 次点击
所在节点    问与答
6 条回复
Michael1990
2018-01-10 19:15:27 +08:00
大佬们的看法呢,为啥没人说话?
bullfrog
2018-01-10 22:33:23 +08:00
AI 显然是更高级的一种生命形式,根据优胜劣汰法则,占领地球必然的
Michael1990
2018-01-11 00:29:09 +08:00
@bullfrog 但它本身并没有目标和追求
disposablexyz
2018-01-11 01:59:32 +08:00
@Michael1990 谁告诉你人本身有目标和追求的?
Michael1990
2018-01-11 12:25:32 +08:00
@disposablexyz 生存繁衍这是最基本的追求和目标吧,是生物的
disposablexyz
2018-01-11 13:21:57 +08:00
@Michael1990 不是目标,是本能,没有这种本能的生物都没有后代。生存者偏见导致剩下的都有繁衍的本能了。但这不是自发的,这是自然选择的结果。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/421756

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX