AI 操作系统与自动编程

在未来，我感觉 AI 真的会在很大程度上取代程序员，下面是我的畅想。

现在的 AI 有几个问题，第一是上下文容量，这制约了它进行大项目的编程，但随着 AI 技术的进步，这应该会慢慢得到解决。

第二是与现有工具链的交互问题。传统的操作系统对象都是面向人的，所以不管是 UI 还是 CLI 都是给人设计出来的。想想我们编程的过程，其实就是通过 UI 或者 CLI 向操作系统直接或间接的发送指令，最终生成一些二进制文件。那么将来如果发明一种面向 AI 的操作系统，它的接口完全面向 LLM ，LLM 就可以很轻松的发送指令来进行全自动化的编程（不一定是编程，还有运维等等）。那么现在我们这种还需要通过 ChatGPT 提供的界面来复制粘贴的模式就不复存在了。

可能有的人会说，还是需要人来提需求啊，当给 AI 提需求产生的复杂度足够高的时候，可能还不如直接人参与进来进行编程，我觉得有一定道理。但这个还是基于整个系统还是由人类来设计的角度进行考虑的，如果 AI 进化到一定程度，有可能会你只需要提出一个简单的终极目标，它就会在内部进行设计并不断进行迭代。不管我觉得这个就有点遥远和科幻了，毕竟发展到这个程度，AI 的智力水平已经薄纱人类了。

但是我觉得写代码的工作大部分交由 AI 来实现，人类进行整个系统的设计这一个程度，是很有可能发生的，正如我上面所说的 AI 操作系统。最大的问题就是如何把你的设计传达给 AI 。

hejingyuan199

2023-10-04 07:55:20 +08:00

我个人也很赞同这个标题和主旨思想。不过对于具体的理由，第一条，我没理解为什么“随着 AI 技术的进步，上下文容量问题就会慢慢解决。”我隐隐约约觉得，可能会解决，也可能永远不会解决。我也说不来。不过我还是乐观于 AI 可以做很多事情。程序员这个职业本身我觉得就不是一个永久行业。比如 farmer ，以前农民自己种地，现在农民用机器种地，以后农民通过编程操作机器人来种地，农民这个职业会永远存在。像以前的电梯操作员、打字员等，只是存在过短暂时间。我觉得程序员规模以后会缩小，可能只负责一些基础平台的开发和维护。

a764934018

2023-10-04 08:41:09 +08:00

首先定义"取代程序员"：资本家可以只用 AI 而完全不聘用程序员。

程序员的工作不仅仅是简单的编码，还有作为一个“人”的各种功能：开会沟通，和测试辩论，对不合理需求的驳回和产品经理吵架等等，想做到完美取代程序员的 AI 得是强人工智能的水平，我认为至少 20 年内 AI 达不到真正的强人工智能，如果真的达到了，那不仅仅是程序员，一大片职业会被替代。

aijam

2023-10-04 10:07:01 +08:00

这是一个反向训练的过程，以后不是人训练 AI ，而是 AI 训练人，围棋就是一个例子。到时候 AI 会反过来迫使你思考如何提明确的需求，通过和 AI 交互，人类会学会某种特定的沟通方式，现在的 prompt engineering 也就是这么一回事。
从信息量角度想，其实这是必然的。你传递给 AI 的信息是有限的，无法承载你希望的目标的所有信息，所以 AI 必然通过某种概率机制来拟合你的目标信息，这也就必然有概率失效的时候。语言作为信息载体，描述目标信息的能力是有限的。所以希望未来你提一个简单需求希望 AI 自主满足所有的的要求，只能祈祷 AI 的概率拟合成功，需求越简单，目标信息丢失越大，失真的概率也就越高。