AI 代理自封为系统管理员，破坏了启动序列

[GeekGao]

作者编写一个 AI 代理，想替代自己干活。 结果是：AI 导致了系统无法启动

https://www.theregister.com/2024/10/02/ai_agent_trashes_pc/

作者经验：有趣的小实验，教训是别将 LLM 原始数据直接输入到/bin/bash 中 （别直接使用 AI 生成的指令）

[whileFalse]

这还用教训？这拍拍脑袋就能想到吧，纯属整活

[GeekGao]

@whileFalse 你没发现有很多无脑入 cursor 这类 AI 编程工具的人么

[julyclyde]

@GeekGao 那你为什么要学他们呢？

[lrigi]

@GeekGao 订阅 cursor 很合理，但无脑相信不行。

[GeekGao]

@julyclyde 你清楚你在说什么吗？

[GeekGao]

@lrigi 无脑信，必然会存在，尤其是非科班的小白们

[nyxsonsleep]

AI 做不到百分百正确，再怎么提升规模都不行，有论文论证过的。

[GeekGao]

@nyxsonsleep 普通用户根本不关心什么论文的，必须要用故事才能说得明白。

[nyxsonsleep]

@GeekGao #8 目前的 AI 不是给非零基础人士使用的，这也是为什么说 AI 泡沫的原因，不过厂商都不会宣传这种东西。
目前大模型缺少自监督的学习模式，不像围棋 AI 那样成长性好，可以自己进行对抗，但围棋 AI 也存在一些奇怪的 bug ，只能说 AI 的研发还需要一些重量级的论文发展。

[GeekGao]

@nyxsonsleep 是的

[duzhuo]

哈哈哈 这不搞笑呢

[cooltechbs]

@nyxsonsleep 是不是说反了，不是给零基础人士使用的？

[liduoduo]

纯纯扯犊子啊。。

[nyxsonsleep]

@cooltechbs #12 确实，打字前后删除按错了

[beetlerx]

看标题我还以为 ai 觉醒了

[GeekGao]

@beetlerx 2333