AI 生成的清理 USB 设备脚本导致硬盘数据丢失的教训

[83f420984]

刚刚指挥 AI 帮我写一个清理挂载 usb 设备的 linux 脚本，执行完脚本发现日志不对劲，直接把我硬盘给清空了

[liulicaixiao]

删东西的脚本你也敢乱用哈哈，我上次让 claude 写个自动更换代理的脚本我都是自己看完一遍代码才敢用

[enihcam]

想起一个巨 sb 的同事。

我：这个代码测了没？
他：这个代码是 AI 生成。

我：那，这个代码测了没？
他：这个代码是 AI 生成。

我：我知道，我是问这个代码测了没？
他：这个代码是 AI 生成。

[512357301]

AI 是干脏活儿、累活儿的，不是干新活儿的。
提线木偶知道吧，AI 现阶段只能当提线木偶来用，还没法让它独立干活儿，太不可控了。。。
它就好像是你的一个高能下属，干活儿很快，80%的效果都不错，但你不盯着它，它就可能搞砸事情。。。
它的某些能力确实很牛逼，但你控制不了它，它就会“作恶”，虽然它只是在执行你的命令而已。
推荐看一篇短篇漫画，《神秘的程序员们系列——代码的深渊》，讲的就是 AI 的故事。

[BeforeTooLate]

建议用英语去提问，中文很多词表达意思不够精确

[wnpllrzodiac]

rm -rf ${variable}/

这种脚本么。变量一空就废了

[yhm2046]

楼上好多人没用过 cursor 把，截图最下方写了模型是 claude3.5-connect ，我原来也用了一段时间最近发现不能白嫖，昨天看到马斯克的 gork2 更新了，免费每个月 25 美元的 api ，用 ai 写了下载网上视频的 python 程序，感觉比 chatgpt 和 claude3 好用，不过用了一个多小时又报错不能用了：遇到了来自 Custom Provider 的错误，一般是由错误设置或账户问题引起的。请检查 AI 设置和账户情况，或者点击这里查看常见问题文档。API Error: Status Code 400, {"code":"Client specified an invalid argument","error":"The model expects a single `text` element per message."}

有知道的指点一下谢谢

[plmsuper8]

gpt4 给的建议是：

这段脚本的核心逻辑看起来非常周全，。。。不过，还有一些地方可以优化和加强健壮性：改进建议：
。。。

安全性检查：
避免误删除非挂载点文件：

```bash
find "$MOUNT_BASE" -mindepth 1 -maxdepth 1 -type d -exec test -z "$(findmnt -n -o TARGET -- "{}")" \; -exec rm -rf {} +
```

[plmsuper8]

@javaisthebest 区别是，搜索引擎的东西大多还是能用的（被 ai 污染前），毕竟试过才会贴上来。

但是看 ai 领域现在的激进程度，好日子还在后头呢

[poorcai]

cursor 这么拉的吗？

[nenseso]

有点可怕

[lyxxxh2]

@enihcam
可能他认为
出了问题,可以推给 ai 。

[fyxtc]

写 ui 用 ai 无脑上没啥问题，功能性的自己都不看真怪不了 ai ，尤其是系统级脚本，ai 也是一个自动化工具，也会出错，cursor 我就在用，非常好用，目前就是编程 ai 的天花板。但是涉及到 sh 脚本我是必然一行一行看过去的

[yankebupt]

rm -rf 出过多少事了。Nvidia 的驱动事件还记得么……应该加个 system prompt....AI 给出的代码 rf 禁止带 f……

[openmynet]

AI 本身就是欺软怕硬。

[zy5a59]

AI 给的代码是真得测试的，尤其是这种涉及到重要数据的

[laminux29]

普及一下写 AI 的正确姿势：

1.不要用 Cursor 、Copilot 这种大规模协作的 AI ，因为商业化的 AI ，会考虑成本，会限制每个会话的运算空间与运算时间，运算空间为会话用到的临时硬盘空间、显存与内存。你让它执行整个 APP 或 Project 规模的，因为运算空间与时间不变，输入规模越大，会导致精度越差。建议使用最新的 gpt-o1 ，让它输出函数级别（方法级），能提高精度。而且 gpt-o1 能输出思考的过程，你能根据它的思考过程，来判断当前 AI 的思路是否靠谱。

2.不要用中文去问，必须用英文。因为训练数据都是英文的，你用中文，它会内部翻译一次，翻译时不一定准确。

[Skifary]

AI 无法帮助一个不会的人工作，只能帮助一个已经会的人提高效率。

这句话只有用过的吃过亏的人才理解，但是有些利益相关方鼓吹 AI ，贩卖焦虑，卖课真是恶心至极

[nyxsonsleep]

你和高速 AI 开车一样牛

[yulgang]

清理。。。

[DingJZ]

我都让 ai 加 dry run 参数