翻译了一篇我自己觉得很不错的英文文章。分享给大家。
原文地址：In the long run, LLMs make us dumber
翻译文章：长时间来看，大模型会让我们越来越傻
本次翻译已获得原文作者授权。
摘抄：
这就又要回到Nassim Taleb在他有深刻见解的《反脆弱》一书中所说的hromesis概念了，少量的压力和不适使我们变得更强。
- 肌肉通过举重增长
- 暴露接触形成免疫
- 通过冒险增长信心
- 不断重复增进技能
- 通过解决难题拓展创造力
大脑也是这样工作的。思考时的阻力，去寻找正确词语时的努力——那就是心灵上的举重。
或许这还有一个稍微不同但又神似的例子——破窗理论。该理论说那些可见的混乱迹象——像是涂鸦、垃圾和破窗——表明对混乱的的忽视是可以容忍的，降低了非正式的管控的同时又使得不好的行为更多了，甚至成为了严重的犯罪行为。换句话说，当一些小裂痕没有被解决，它们会级联起来成为一个更大的裂缝。对大模型的持续依赖会让问题越来越严重，直到我们外包出去我们所有的思考活动，变成了只不过是具有生物特征的木偶。
最近甚至有研究来支持这个观点。
 |
1
bulldragon 9 天前  1
不同意这个观点。发明了蒸汽机，人类体力就变差了？寿命缩短了？如果说反脆弱，大模型带来的“被替代”的压力不是压力吗。不用杞人忧天，人类会自己找到出路的。这种 long term 的预测对于个体我觉得没有什么意义，而对于人类整体，更不会变“傻”，反而知识的积累会加速，只不过我们要在这加速中，最好追求一点多样化，不要过早的收敛到局部最优 d/acc
|
 |
2
loading 9 天前 via Android
只是把使用搜索引擎几分钟变成十几秒而已，没太多影响。
用来生成代码的话，目前我依旧觉得每点一次，技术债务就增加一点，最终被反噬后觉醒了反而能(被迫)提高。 |
 |
3
levn 9 天前
所以领导是会变得越来越傻的
|
 |
4
EchoWhale 9 天前 via iPhone
计算器让人变傻了吗，或者高级编程语言让人变傻了吗？
工具会让我们聚焦在更高层次的问题上，就像大模型解放了你实现函数的劳动，但是你可以聚焦在产品的功能设计上，技术的整体的设计上。 前提是有意识的这么去用，如果全靠大模型来输出，那的确会变傻 |
 |
5
imdong 9 天前 via iPhone
人类进化最关键的是：学会使用工具。
|
 |
6
euclidhuang 9 天前
兩極化，中間能力被替代。
大都只是更方便而已，很少人能變成天才 |
 |
7
aireason 9 天前
我也不赞同，我最近频繁用 ai 来辅助我学东西，帮我解释一些词语概念，比以前在搜索引擎搜索能让我更快捷系统理解一系列概念。以前我会陷入各种链接中，最终都不知道自己在找什么了，比较杂乱。现在很容易一下子把相关概念一次问个清楚。
此外 ai 才刚刚发展起来，后面人自然会找到更好利用它的方式。 再谈一下手机、社交媒体这些工具，才是真的容易让人浅薄，写它们的书也很多很多。但人还是能在夹缝中找到应对办法的。我总体保持乐观 |
 |
8
bodayw 8 天前
@bulldragon #1
> 发明了蒸汽机，人类体力就变差了？寿命缩短了？ 平均来说，工业革命后人类体力应该确实变差了。不过寿命是越来越长了。 这个问题感觉还挺复杂的。我稍微瞎想了一会儿： 虽然平均来说人类体能变差了，但体能的上限提高了（看看职业竞技运动员们）。那么可以联想到分工和专业化，也许未来只有少数人会自己遣词造句写文章而且写得更好，而多数人会惯常利用 LLM 来表达和交流，把省下来的时间精力用于别的地方（闲暇的作用），综合来说还是促进了社会的进步，好比因为医学以及各种科学技术的进步，大家的寿命还是变长了，生活质量也更高了（现在的普通人过得比百年前的世界首富还要好）。 但是遣词造句、语言表达应该算是一种“专业技能”还是“基本技能”呢？很显然，不是所有人都需要学会写程序代码（虽然当年曾有过这样的宣传），但语文课真的是所有教育培养体系里的通识课程。确实不太好想象如果一个需要依赖 LLM 表达交流的人如何还能进行有深度的思考。从这个角度说，也许未来的人们也需要去刻意地主动“练习”写作，就像现在的人们需要刻意去运动、去锻炼来保持身体健康（但肥胖率和慢性病发病率还是在一直增加）。 顺便说，Veritasium 的博主 Derek Muller 在前阵子的一个演讲里也明确表达了和帖主翻译的这篇文章非常相似的担忧，即使他也看好 AI 的应用价值： > 知识的积累会加速，只不过我们要在这加速中，最好追求一点多样化 我也觉得知识的积累会加速。但是如上面所说，如果技术的普及让更多人不再从事知识的生产，也就会影响多样化，最终也会影响知识的积累吧。 |
|
9
bulldragon 8 天前 1
@bodayw
如果说把语言的边界当做思想的边界，从个体角度来看 LLM 是能拓宽我们思想边界的；而从社会沟通角度来说，LLM 也可以当做沟通的桥梁工具，比如有人用简单直接的口语化表达 “我想要这份工作，这是我的简历” 发送求职信息，随后借助 AI 将其润色成符合职场规范的正式邮件；而接收方又会通过 AI 将这封正式邮件提炼回核心信息（同样的例子也包括各种 code review, paper review 等）。那么这样 “润色 - 提炼” 的过程是不是形式主义或者为什么不能直接把简单的信息一开始就发送给对方呢？我觉得这里可以引入 “协作熵增”的概念，人类社会的协作依赖 “共识预期”，大家知道在什么场景该说什么话、做什么事，对方也能预判行为逻辑，协作才能顺畅。这不是 LLM 替代了我们思考，而是作为一种防止 “协作熵增”的工具。 过去，将原始信息转化为符合场景规则的表达，这个 “推力” 需要人类自己来施加，人们要花费时间和精力学习复杂的文书规范、沟通礼仪。但现在，AI 承担了 “信息形态转换器” 的角色，它用算法打破 “原始表达” 与 “场景规则” 的天然矛盾，把 “低规则适配度” 的信息转化为 “高规则适配度” 的表达，让原本 “无法被场景接受” 的极简诉求获得传递资格，帮人类跨越 “个人表达习惯” 与 “社会沟通规则” 的鸿沟（比如这段话我也用 ai 润色了，省了我很多时间）。 所以省出来的时间，我觉得不会使得“技术的普及让更多人不再从事知识的生产”，反而，能够解放我们去从事更多的思考 |
|
10
bulldragon 8 天前
@bodayw 以及工业革命后人类体力应该确实变差，我想我们可能讨论的是不同范畴，你如果从肌肉发达或者力量角度可能是这样，但“体力”我觉得不止包含与此，因为现代社会的不同，我们从事脑力活动要比过去多得多，从能量功耗（输入输出能量而言）不一定比过去差。
|
 |
11
quietDown 8 天前
发现大家的思考很高级啊。我说个具体的例子，看 v 友有没有遇到和我同样的场景。我昨天就遇到一个问题，一直使用 AI Coding 确实让我有种"自己变强"的错觉，独立完成一个应用，从产品、UED 、前端后端基本一个人在干，但是昨天超出了 Cursor 的使用限制，我正在优化一个前端的性能问题，我想着自己来解决下，发现自己无从下手了。整体的方案是自己想然后 AI 帮助补充的，在实际编码中我基本是梳理我的需求，然后 AI 给方案，修改下方案就开始编码，这么一顿折腾下来，基本一两天就完成了我过去起码要一周的工作，但是现在没有 AI 的助力后，我已经懒得从头阅读代码梳理设计来排查问题，有些设计我已经似懂非懂了，我发现有点脱离我的控制了。
|
 |
12
Legman 8 天前 via Android
人的能力应该是善于使用工具，而非变成工具
|
 |
13
yaodao OP @bulldragon 写得真好，真喜欢这种认真的回复。“人类会找到出路的”，喜欢这句话。是的，从更更更加长远的时间范围来看，是这样的。
|
|
16
yaodao OP @quietDown 强烈的“感同身受”。最近一直在用 CC 写代码，一会儿功夫就能写完一个功能点，很有成就感。但等停下来想想，好像在技术上又没有什么进步。反而当有些场景复杂到 AI 无法插手的时候，我就很抗拒了，表现出一种懒惰和拒绝思考的状态。这也是为什么我看到这篇原文并将其翻译下来的原因——警告自己，善用 AI 但是不是过度依赖 AI ，还是要锻炼自己的思考能力
|
|
17
yaodao OP 没想到周末了还有这么多 V 友们在回复。不得不感叹，这个社区的氛围真的很不错。
|
|
18
bodayw 8 天前 1
@bulldragon #9 感谢回复。你说得很有道理，我也很喜欢“让极简诉求获得传递资格”这句话。帮忙给文章润色和写“八股文”也确实是大家（至少是我自己）最早意识到的 LLM 特别擅长做的事之一。其实类似的事情我们在 LLM 之前也早就在做了，比如 Gmail 写邮件时的 writing suggestions ，比如 Word 里的 Japanese greetings……
我沿着你的思路继续设想一下的话，未来人类之间的沟通也应该会继续丢弃掉更多传统的繁文缛节。 不过在我的理解里，帖主翻译的这篇文章以及我上面提到的 Derek Muller 所担心的是，关于“学习”这件事有一个经典的理论，那就是“重复的刻意练习”，而如果 AI 把人类自己该做的练习给做了，人类自己就学不会了。 具体到写作这件事：在这里回帖的我们都是经历过语文教育的，我们能自己思考，提出观点，写出来的东西让 AI 润色一下是锦上添花；如果是今后生来就可以方便借助 AI 来写作的人，自己从来不写文章的话，会不会连思考的能力本身都会受到影响？ 这也就是为什么帖主的文章和上面的视频里都不约而同地主张，要先自己独立思考给出答案，然后可以再让 AI 给你反馈（及时的反馈对学习是非常重要的），而不能让 AI 直接把答案告诉你。 |
 |
20
dxgfalcongbit 7 天前
取决于电子脑与人脑的传输带宽，如果电子脑可以集成在终端并且与人脑的连接带宽够高的话，可以视作人体的一部分，相当于左脑和右脑的关系。当然现在的技术远没有发展到那种程度，而且长期来看未必会成为主流技术路线，总之短期来看会让人变傻，长期未知。
|
 |
21
wow0o 7 天前
快乐就完事儿了
|
 |
22
OrLm0qz8vMzb2sLo 5 天前
首先，提高所有人的下限，这是毋庸置疑的
我可以反问，用了 ai 后真的轻松了吗？回答了这个问题就懂了 以结果导向，人脑真的跟不上了，那种无力感，有了 ai 后事情要多少可以有多少、要多难可以有多难，以前人脑深度和广度就那样，有点小家碧玉岁月静好，现在要求人脑处理那种广度和深度，既要掌控 ai ，又要处理 ai 弊端。 有点长，一句话就是，事情是干不完的-——>所以人只会更累 |
Select Language