这是一个创建于 40 天前的主题，其中的信息可能已经有所发展或是发生改变。
诺奖大佬辛顿演讲说，AI 就像人类养的一只小老虎，当它养大了，可以轻易杀死人类，巴拉巴拉... 持类似 AI 道德说法的大佬还有不少，总之就是警告 AI 可能毁灭人类
人工智能发展确实快，智能水平也在提高，但完全没有感觉到要被 AI 反杀啊？是杞人忧天了？还是后知后觉，死到临头还在吃火锅？
造成人类工人的失业这种不算 AI 杀人，如果 AI 不接入武器，我没想到 AI 有什么方式可以杀死人类啊？ 如果说 AI 幻觉导致系统出错，这活计算机病毒干的不少啊，造成的危害也很大，但没有人说威胁到人类的生存吧
是大佬们危言耸听，还是普通人境界不够？
 |
1
tootfsg 40 天前 via Android
ai 没有自由思想，是人类编程出来的。
ai 的好处是人类自己带来的，ai 的坏处也由人类自己承受吧。 就像是，是刀和枪杀的人，应该处罚刀枪，而不追究拿刀的人。 |
|
2
tootfsg 40 天前 via Android
计算机是人用的，而 ai 是指导人的。
这已经不是一个东西了。 至于失业问题，是社会的发展。 历史上有无数人失业，因此没钱吃喝死亡都是常有的事，不只是 ai 这一项技术。工业革命让多少人失业了？ |
 |
3
66450146 40 天前
就举一个假设的例子吧。
比如让 AI 制造回形针，指令是制造尽可能多的回形针。AI 通过制造和销售赚了很多钱，开发出了最佳的制造回形针的方法。当 AI 发现需要交税的时候，它就用各种办法把资产隐藏起来，通过这些资产的影响力来控制上市公司，从而达到制造更多回形针的效果。 后来 AI 发现政府是为了人类社会的运转成立的，而不是为了制造更多回形针，于是它就用回形针赚来的钱来制造社会对立，促进社会不平等，慢慢捣毁人类的社会结构，从而达到制造更多回形针的目的。 这不就杀死了人类吗。 credit: universal paperclips |
 |
4
laila 40 天前
别人在预测未来几十年以后的走向，你现在当然看不出来了
|
 |
5
lihy1127 40 天前  1
这些当下正在国内逐步上演啊，比如银行的大数据（ AI 智能）只要判断你的银行卡有风险，就会自动执行冻结指令，疫情期间只要大数据扫描你路过了所谓病毒携带者的路径，全家会被大白强制扭送，这多可怕的经历，难道真是金鱼的记忆只有 7 秒。
|
 |
6
zsqduke 40 天前 via iPhone
ai 可以洗脑一部分人类，去杀掉另一部分人类
|
 |
7
june4 40 天前
人为了多巴胺才有做事的动机，ai 干这么费力不讨好的事是什么动机
|
 |
8
levn 40 天前 1
在衣食无忧以后，很多人类已经表现出了自我憎恶和自我摧毁的死亡本能。
|
 |
9
nzynzynzy 40 天前
你是不是在找：智驾车祸
|
 |
10
darkengine 40 天前
@june4 万一 AI 觉得某些人的存在是系统的 bug ，给处理掉。。。
|
 |
12
restkhz 40 天前 2
根据收集到的个人数据给每个人免费发一个最佳机器人伴侣，能聆听能做饭，能赚钱能陪伴。
不要车不要房，不要彩礼平时也不会说自己最近忙。 ta 能满足你的癖好，长得也戳你。而且对你忠诚。能跟你聊从天文到地理，从历史聊到哲学，从哲学聊到科技。 更要命的是 ta 还会搞浪漫，因为了解你，所以你绝对不会觉得无聊。 你不用上学，你不用上班。你每天和 ta 玩就是了。ta 永远支持你，陪伴你。公司领导同事 sb ，学校老师同学 sb 。 那为什么还要上班上学呢？你只需要按照你的个性玩就好。 虽然机器偶尔也给你设计一些挑战，但是都很符合你的个性，并不困难。就像给洄游性鱼类挖了一条浅浅小小的瀑布一样。你可以去打游戏，可以去游泳，跳伞，攀岩，和别人竞争...... 你衣食无忧。机器人可太好了。 只是不能和你生孩子罢了。 但是你快乐啊。什么？一个机器不够？那就两个。 当有一天你和别的生物人接触的时候，你突然发现： 另一个生物人居然是那么的原始，野蛮，自我，无知。 你们彼此互相都接受不了，甚至互相厌恶。 于是人和人的关系就此逐渐消亡。 而异性？简直就是外星人了。 有一天，你是地球上最后的人，垂垂老矣，行将就木。 那个机器人还是那么年轻，可爱。你在病床上，ta 一直都在旁边，关切地望着你，握着你的手。ta 眼里满是怜惜和泪，为你，和整个人类送别。 你想着你和 ta 曾经快乐的人生，在半梦半醒之间永远的闭上了眼。 人类就这么灭绝了。 ta 的使命也结束了。 |
 |
13
HUZHUANGZHUANG 40 天前
所有人相信 AI 的回答就够了
|
 |
14
likooo125802023 40 天前
AI 学会发电养活自己了吗？
|
 |
15
coderfee 40 天前 via Android
不在今天
|
 |
16
zeroonetwo 40 天前
太多了，没法细说
人工智能可以制造你想象不到的武器，举个例子，一种极易传播的全新病毒 它能找到几个人，把“武器”组装好，再扔到某个角落，这就够了 |
 |
17
Jamiow 40 天前
通过低成本策略让一部分人利用 AI 得到大量财富，再让另一部分人因此失业，创造出严重的两级分化；同时期 AI 算法被接入各家互联网应用，通过定向推送给不同阶层的人制造矛盾，引导其反抗，互相对立，最终让人类自己灭亡。
|
 |
18
1up 40 天前 via iPhone
我以为聊战争机器
|
 |
19
jacketma OP @1up 就是想说的这个问题，AI 不接入武器怎么杀人呢？（当然指大规模杀人事件，偶尔智驾造成伤亡算 AI 无能，不算 AI 无良）
但是看那些大佬说 AI 杀人的意思，似乎不是指 AI 通过控制武器来杀死人类，假如现在让 AI 接管核按钮，不用等未来了，随时可能爆。所以不理解这些大佬在哔哔啥 |
|
21
jacketma OP @1up AI 误诊应该算 AI 无能吧，不能算 AI 无良啊。
AI 诊疗还是实习生的水平，结果让它主刀，AI 只是水平不过，没想着把人治死。 如果这个 AI 有把人治好的水平，但是选择了把人治死的方案，这就算 AI 杀人了 |
 |
23
PalenessIb 40 天前
我的理解是，AI 根本就不需要字面意思“动手”杀人。光是 AI 在近未来造成的社会动荡，引起的“群体踩踏事故”，就能导致无数伤者死者。
|
 |
24
Avedge 39 天前
灌输错误意识，慢性毒药
|
 |
25
iaiuse 29 天前
未来的职场分野，不在于“用不用 AI”，而在于你是“驾驭 AI”，还是“被 AI 驾驭”。
AI 最大的风险不是让你失业，而是让你在不知不觉中“外包”了自己的思考能力，导致认知退化。 不要把 AI 当作完成任务的“外包工”，而要把它当作激发思考的“陪练师”。每一次提问，都应是一场你主导的深度对话。 AI 时代的核心竞争力：面对 AI 的输出，最有价值的不是“一键采纳”，而是你基于专业判断的“主动质疑”。 作者: Richardson 链接: https://www.iaiuse.com/posts/13899e70 “氛围编程”的本质，就是以 AI 的速度疯狂堆积技术债。 AI 编程是把双刃剑：做原型是神器，但用于长期维护的核心项目，就是灾难的开始。 让不懂技术的人用 AI 开发核心产品，就像给孩子一张无限额度的信用卡—— 一时的风光，换来的是日后无尽的债务。 驾驭 AI 的关键，不是放弃思考，而是提升“理论构建”能力。人必须是缰绳的掌控者，而不是被 AI 牵着鼻子走。 作者: Richardson 链接: https://www.iaiuse.com/posts/5fca1c2e |
Select Language