V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
frankbuf
V2EX  ›  程序员

后续的 AI 有没有可能实现程序自动修复?

  •  1
     
  •   frankbuf · 2023-04-25 11:30:16 +08:00 · 3041 次点击
    这是一个创建于 593 天前的主题,其中的信息可能已经有所发展或是发生改变。

    比如最近的微信扫码问题,AI 监测到将自动进行修复。

    28 条回复    2023-04-26 15:57:24 +08:00
    debuggerx
        1
    debuggerx  
       2023-04-25 11:39:50 +08:00   ❤️ 2
    程序里有个可以随时修改程序自身的 AI ?
    真有这样的东西出来,你敢装在自己的手机里?
    kaedeair
        2
    kaedeair  
       2023-04-25 11:41:09 +08:00   ❤️ 2
    现在的 AI 本质上没有任何逻辑能力
    dethan
        3
    dethan  
       2023-04-25 11:43:38 +08:00 via Android
    可能会有,但是只会放在测试环境而不是生产环境中。
    cy18
        4
    cy18  
       2023-04-25 12:22:42 +08:00   ❤️ 3
    不要高估当前 AI 的能力,不要低估将来 AI 的能力。
    dssxzuxc
        5
    dssxzuxc  
       2023-04-25 14:05:33 +08:00
    你想说 gpt 的话,可能到 gpt5 也没法实现,因为文本生成模型本质上是没有逻辑能力的,gpt4 展示出来的逻辑推理能力是一个"短暂的幻觉",而且并不稳定,不能应用在这方面。但是未来会出现这种 AI 是必定的。
    zlhsvc
        6
    zlhsvc  
       2023-04-25 16:49:40 +08:00
    能修改自身代码那就能修改任何东西,只要连上网,那不是直接就直接上天了
    way2explore2
        7
    way2explore2  
       2023-04-25 16:54:11 +08:00
    https://github.com/biobootloader/wolverine

    没人注意到这个项目吗?使用 gpt3.5 做一个基本的程序修复。

    主要在如何定义 “自动”,如果不严谨(较真)的话,这已经做到了。
    JayZXu
        8
    JayZXu  
       2023-04-25 17:04:52 +08:00
    目前来看,根据设置,“自动”是可以实现的,AutoGPT 和 7L 说的就是。
    但是目前的 AI 很明显是不具备主观能动性的。
    lisxour
        9
    lisxour  
       2023-04-25 17:16:57 +08:00
    @JayZXu 还有一个问题,就是目前的 ai (比如 chatgpt ),他给的代码看似一点问题都没有,也很合理,但实际上很多时候就是与实际不贴切的,我试过很多次了,给的代码头头是道,一眼看过去也好像很 ok ,一拷贝过来运行,直接拉跨。
    Kould
        10
    Kould  
       2023-04-25 17:20:47 +08:00
    经典停机问题
    LXGMAX
        11
    LXGMAX  
       2023-04-25 18:19:08 +08:00
    目前 AI 还无法完成自举
    zhangyichent
        12
    zhangyichent  
       2023-04-25 18:35:25 +08:00
    后面肯定能做到。。。我是觉得后面肯定强人工智能会造反。。
    qiyustart
        13
    qiyustart  
       2023-04-25 18:41:34 +08:00
    可以试试体验一下 aotugpt ,目前来说效果不是很好
    muzei233
        14
    muzei233  
       2023-04-25 19:30:25 +08:00
    听说 openai 将要发布的 auotGPT 就可能做到这样的效果
    tutudou
        15
    tutudou  
       2023-04-25 20:02:45 +08:00
    ai 怎么会猜到你想要 1 还是想要 2 ,怎么修复?
    codermagefox
        16
    codermagefox  
       2023-04-25 20:10:49 +08:00
    已经可以做到了.V 站同学的网络延迟还是有点高啊...
    M003
        17
    M003  
       2023-04-25 20:11:04 +08:00
    自我修复,自我成长.

    水电网.如果都实现自动化...不进行物理隔绝...

    如果他是调皮的.社会面基本都乱套了..

    就算物理隔离,那派发虚假工单,让操作员将物理隔绝打通...

    携水电网 /核弹以令人类..
    xiaojie668329
        18
    xiaojie668329  
       2023-04-25 20:46:40 +08:00 via iPhone
    Meta 有在做。
    wonderfulcxm
        19
    wonderfulcxm  
       2023-04-25 20:50:36 +08:00 via iPhone
    失业警告⚠️
    tuchg
        20
    tuchg  
       2023-04-25 21:15:42 +08:00
    完全可以 让 gpt 生成代码然后拿到这份代码的 IDE 报错信息 让 gpt 自己去搜索修复 最后写入 再验证 如此往复
    mikewang
        21
    mikewang  
       2023-04-25 22:57:28 +08:00
    微信扫码之类的问题,是非法读造成的崩溃,不一定需要 AI 来解决,某些现有的分析工具就能做到。
    如果是不符合用户预期那种类型的问题,AI 修大概也不会很理想,因为我们人类自身有时也不一定能搞清需求具体是什么...
    lv2016
        22
    lv2016  
       2023-04-25 23:20:07 +08:00
    程序自动修复是一个很大的领域包括语法错误修复、语义错误修复和安全漏洞。语法错误来说,目前做的最好,个人的体验是基本都会修。语义错误也有一些研究,一月份有一篇研究的结果是 chatgpt 与之前最好的深度学习工具表现一致,水平是 19/43 。最后是安全漏洞,知乎上看到有人把这次微信的 bug 喂给 chatgpt ,它也能正确识别这个 bug ,但是问题在于会给出很多无关紧要的 warning 。我之前在语法错误上做过一些工作,体验下来是 chatgpt 完爆以前的所有工作。
    wdlth
        23
    wdlth  
       2023-04-25 23:23:09 +08:00
    微信扫码这个其实用 fuzzer 就够了,fuzzer 也是启发式的。
    mingl0280
        24
    mingl0280  
       2023-04-26 08:13:07 +08:00 via Android
    这是典型的停机问题,哪怕你计算机基础听了一丁点基础就知道,该问题在图灵机上不可判定。
    所以 AI 不可能实现完全的程序自动修复。
    ohwind
        25
    ohwind  
       2023-04-26 08:42:27 +08:00
    @debuggerx 为什么不敢?
    frankbuf
        26
    frankbuf  
    OP
       2023-04-26 09:51:12 +08:00
    @tutudou 这时就需要一个决策者,可能是人类。
    frankbuf
        27
    frankbuf  
    OP
       2023-04-26 09:52:35 +08:00
    @M003 是的,我觉得发展到这一步,AI 的自主性已经很高了。
    exmario
        28
    exmario  
       2023-04-26 15:57:24 +08:00
    有那个能力基本什么都能干出来了,你这辈子肯定看不到
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1648 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 25ms · UTC 16:14 · PVG 00:14 · LAX 08:14 · JFK 11:14
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.