V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
kongkongye
V2EX  ›  程序员

太相信 ai 了,直接进入未知领域,这几天差点搞崩溃,全在踩坑 😁 ➡️ 😭

  •  
  •   kongkongye ·
    kongkongye · 5 天前 · 7001 次点击

    以下技术无基础:用 python 里的 flask 搭了后端服务,centos 里用 selenium+无头 chrome 做 rpa 自动化。

    ai 能帮我写代码,所以这部分时间非常省,一个库的文档都不用看,直接让 ai 写就好了,但前提是不出问题。 一旦出 bug ,还得靠自己理解,问 ai 也不一定行,因为 ai 知识库可能比较旧,回答的可能是错的,还得上网搜,自己思考,不断测,被 bug 支配的恐惧它又回来了😱。

    42 条回复    2024-09-14 17:32:27 +08:00
    levelworm
        1
    levelworm  
       5 天前 via Android
    这肯定,AI 只能帮忙给个思路。它写 spark 就经常有同一个问题会有不同的答案,也很麻烦。不过开发效率还是增加了。
    shiweifu
        2
    shiweifu  
       5 天前
    可以试试 golang ?这种带类型的编译语言,代码生成的问题更少。
    assassing
        3
    assassing  
       5 天前
    用来排错和生成测试代码还是挺好使,开发主导权不能交给 AI
    laizenan
        4
    laizenan  
       5 天前
    是的,一旦遇到复杂问题或者需要最新的知识来解决的问题,例如某个底层库的代码细节这种,AI 就开始胡编乱造了,即使给了文档和源代码也不行。一定要理解现阶段 LLM 只是一个语言模型,不会推理的事实,知识库是有限的。
    logic2
        5
    logic2  
       5 天前   ❤️ 6
    @laizenan 关键是知识库 可能还是错的,所以经常出现 AI 按命名规则给你编个看上去 还真的合理的 API
    512357301
        6
    512357301  
       5 天前 via Android
    换个思路,AI 是小弟,不是大佬,主要的思路、框架、核心代码还得自己来,AI 是辅助,在自己眼皮底下干点脏活累活,就是说本来自己也会干,但是懒得搞,就交给 AI 了。
    woodytang
        7
    woodytang  
       5 天前   ❤️ 1
    AI 只能帮你干力气活,不能代替你思考。
    NoOneNoBody
        8
    NoOneNoBody  
       5 天前
    现在已经摸索了出一套对 gpt-4o 的提问技巧了,已经没之前那么“愤怒控制障碍”了
    遇 bug 先去 google 一遍,找到六七个可能的原因,让 gpt 解释一下各种原因的出现场景,不用逐个试也能大概能缩小范围到 2~3 个
    Vegetable
        9
    Vegetable  
       5 天前
    当下 AI 并没有全程建立可靠系统的能力,然后还喜欢想象 API
    kongkongye
        10
    kongkongye  
    OP
       4 天前 via iPhone
    @512357301 对的,对于会的,ai 提效是很爽
    esile
        11
    esile  
       4 天前 via Android
    @shiweifu 代码多了就会乱生成
    zhangeric
        12
    zhangeric  
       4 天前
    现在的聊天 ai 实际上是个黑箱,里面的运行情况开发者都不清楚,所以输出的内容并不是百分百正确,需要使用者自己验证.
    kongkongye
        13
    kongkongye  
    OP
       4 天前
    @NoOneNoBody 最难解决的问题是没有报错输出的,只能描绘情况,比如卡住不动,那真的是难查。
    bthulu
        14
    bthulu  
       4 天前
    让 ai 自己去改 bug, 你不要去改, ai 才能理解 ai.
    Ackvincent
        15
    Ackvincent  
       4 天前
    ai 经常一本正经的胡说八道
    672795574
        16
    672795574  
       4 天前
    ai 最大的问题还是幻觉,不能把 ai 的回答当做事实,零经验利用 ai 生成的东西去满足客户不可取。
    比如律师问问题,他会回答自己编的案例和法律法规,如果你没经验去问他很容易被欺骗。
    但是如果你有了某些行业经验,ai 还是可以大大为你提升效率的。
    FengMubai
        17
    FengMubai  
       4 天前
    GPT 每次都是在赌博, 只不过它是个赌博高手, 赢得概率比较高
    woodfizky
        18
    woodfizky  
       4 天前
    幻觉问题一直都没法解决,所谓的"AI"没有自知之明,不知道自己哪个领域的是否掌握不足或者知识错误,自然也没办法判断输出给你的内容是不是对的。

    而且这是个在很多人身上都没解决的问题。

    另外还有一点,如果让人给你输出方案,一般多多少少会要求人承担一部分责任,所以人自然而然会出风险小的方案。
    你让"AI"给你出方案,出问题了你让"AI"负责或者惩罚它的方式都没有,那它就不会害怕出错方案。
    Spute
        19
    Spute  
       4 天前
    为啥
    woodytang
        20
    woodytang  
       4 天前
    你能告诉我用的是什么 AI 吗,用过 cursor 的话,你对 AI 写代码认识会有很大改变
    Spute
        21
    Spute  
       4 天前   ❤️ 2
    @Spute

    为啥 GitHub 的 AI 编码工具叫 Copilot ?如果 AI 主导那大概率翻车。因此 AI 只适合坐副驾驶。
    PerrYhaine
        22
    PerrYhaine  
       4 天前 via iPhone
    ai 做不了大框架的,只能在细节部分微操,相当于助手,主体还得你来,如果你连主体结构都做不了那 ai 也没法
    clino
        23
    clino  
       4 天前
    在判断实现是否符合目的满足需求上只能由人来做,这部分是目前 AI 无法完成的
    InkStone
        24
    InkStone  
       4 天前
    @woodytang cursor 面对复杂问题一样会进未知领域的。这种坑(甚至可能都算不上坑)我用 cursor 第一天就踩到了
    lekai63
        25
    lekai63  
       4 天前
    人需要做的工作是:把复杂问题拆解为若干个简单问题。

    期待能有个 AI ,把这个拆解问题的动作做了。。。
    aincvy
        26
    aincvy  
       4 天前
    @lekai63 #25 赞同, 我现在使用 claude 生成小东西 ,感觉很好用。 当我需要做一个比小更大一点的东西的时候, 我就需要自己规划结构, 然后让 cluade 一个部分一个部分的给我生成。

    总体来说,我得觉得提升的效率巨大, 多面手的手会变长不少。

    但是如果我需要提供 2000 个 token 给 ai, 然后只需要 400 个 token 的结果的时候, 我倾向于不使用 ai
    lovedebug
        27
    lovedebug  
       4 天前
    还是之前的判断:在一个领域,你需要达到这个领域的平均水平才能判断 AI 给出的回答质量好坏,才能助理自己。如果低于平局水平,AI 只能带入个门,过于依赖还可能进入错误的死胡同。
    GeekGao
        28
    GeekGao  
       4 天前
    ai 知识库 ? 那是幻觉的缘故。
    SmiteChow
        29
    SmiteChow  
       4 天前
    人工智障而已,不管是 cursor 还是 copilot ,不要以为它就是专家系统了,仍然是智障系统。
    EndlessMemory
        30
    EndlessMemory  
       4 天前
    这不是肯定吧,LLM 好多时候给出的代码都是错的
    yb2313
        31
    yb2313  
       4 天前
    把最新文档做出 rag 知识库外挂给 ai, 并且实时更新
    yb2313
        32
    yb2313  
       4 天前
    @shiweifu rust 才是最适合 ai 的, 报错提示很详细, ai 一下子就能修复, 写宏的除外
    ixixi
        33
    ixixi  
       4 天前
    应该发明一种编程语言与 ai 深度绑定 全新语言和框架 写代码变成写需求
    ztm0929
        34
    ztm0929  
       4 天前 via iPhone
    AI 自始至终都是“副驾驶”,Copilot 这名字取得还是有深度的,结对编程的本质就是一起思考一起提升效率实现代码,你完全不思考就产出代码还不是目前 AI 能做到的😂
    sunteccloud
        35
    sunteccloud  
       4 天前
    AI 智障
    yb2313
        36
    yb2313  
       4 天前
    @ixixi 这种语言就叫 productManager,简称 PM 吧, 我觉得让任何人一看就知道这个语言是做什么的
    prosgtsr
        37
    prosgtsr  
       4 天前 via iPhone
    所以还是得一点点写,一点点调试,在一个功能没问题之后再开发下一个功能,不然面对自己不了解的一大片代码,谁也不知道那是干啥的
    Yc1992
        38
    Yc1992  
       4 天前
    @yb2313 #32 以 rust 的很多库的更新频率 距离模型训练时候的接口早就变了 亲测 golang 最好用
    piero66
        39
    piero66  
       4 天前
    试试最新的 o1 ,实测解决复杂问题强太多了,想好编好 prompt 再问,一波搞定
    jqtmviyu
        40
    jqtmviyu  
       3 天前
    最怕 ai 拿着过时的文档开始乱编, 看起来是真的, 逻辑也没问题. 有点像打开 10 年前的 csdn, 你还以为它是最近写的.
    snitfk
        41
    snitfk  
       3 天前
    你换个角度想想,要是 AI 只要给他个想法他就能解决代码调试问题。你老板为什么要雇你?直接产品经理来接入不是更省钱?
    XinPingQiHe
        42
    XinPingQiHe  
       3 天前
    AI 只适合做助手,管事的得靠自己
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   921 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 31ms · UTC 22:38 · PVG 06:38 · LAX 15:38 · JFK 18:38
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.