V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
unt
V2EX  ›  程序员

我们平台软件想接入 AI 大模型,请问下各位大佬着手点

  •  
  •   unt · 56 天前 · 2298 次点击
    这是一个创建于 56 天前的主题,其中的信息可能已经有所发展或是发生改变。
    需求 1:故障智能诊断
    比如我有一台挖掘机,可能的故障点有很多( 30 种以上),现在需要自动诊断出准确的故障,依据是:1.设备历史运行数据,存放在日志数据库; 2.设备当前状态,存放在另外一个数据库; 3. 和设备相关联的一些设备/服务状态;
    请问我该如何选型,怎么难度最低,后续如何渐进式学习。

    需求 2:简单知识问答库
    知识体量很小很小,估计就 1W 字左右。 但是需要把它们融会贯通。至少目前飞书的知识问答有时候感觉就很差。

    需求 3:智能客服
    现在最简单最容易上手的框架是啥,有没有现成能用的。

    另外问下:字节的扣子是个啥,能否满足基本 AI 需求。
    22 条回复    2025-07-09 11:15:46 +08:00
    donaldturinglee
        1
    donaldturinglee  
       56 天前 via Android
    需求 2-3: langchain 和 chromadb 应该就够了
    murmur
        2
    murmur  
       56 天前
    故障智能诊断 做做梦就好了 这玩意是最恶心的 常规的故障你连数据都拿不到 也就是说那种光靠检测数据异常就能报警的值你都搞不定 还想搞 AI 诊断

    AI 最大的问题是不懂物理规律,还是个不可观测的东西,但凡有物理规律了,就不用 AI ,小单片机都能搞定
    ZSeptember
        3
    ZSeptember  
       56 天前
    先验证行不行呗,手工把日志扔给 llm 看是否能诊断出来问题,然后验证是不是正确呗,或者说准确率有多少。
    其他的东西,简单的搜一下就可以知道了吧。
    murmur
        4
    murmur  
       56 天前
    AI 搞的那个东西不叫故障诊断,叫故障预测,比如你这个挖机再开 10 个小时就要趴窝,提醒你赶快检修

    电力系统的一直想搞,但是最后都是停留在无人机拍照就不了了之了

    故障诊断堆传感器就可以解决,飞机不就是么,哪个部件有故障给你报的明明白白的
    unt
        5
    unt  
    OP
       56 天前
    @murmur #4 我们正常为了降本不可能加那么多传感器的,所以想排障只能考两种办法:1. 拆机逐项检查; 2. 靠人工经验。

    另外,这个挖机是打比方,实际产品不是挖机
    murmur
        6
    murmur  
       56 天前
    @unt 现在大模型和以前简单的判断不就是 AI 可以处理更多、更复杂的参数,让 AI 去试图理解人类发现不了的关系,到头来还是传感器堆料
    gxy2825
        7
    gxy2825  
       56 天前
    容易上手可以看看 Dify
    coefu
        8
    coefu  
       56 天前
    1 的解法,传统机器学习算法里的决策树,或者 K 近邻算法都可以尝试。如果已知样本(已知故障类型),对于未知样本(当前故障)属于哪种类型,本质上就是分类。和 LLM 有个蛋关系?

    2 这种随便一个小型(有个 2 张 3060 的显卡的 pc 足矣)的 ragflow 就能搞定。

    3 才是最难的。得具体问题具体分析,没有什么标准解。
    sentinelK
        9
    sentinelK  
       56 天前
    AI 的优势是比人类更强的上下文处理能力。所以他擅长的是,繁复数据中挖掘人类未能发现的统计学规律。

    你的需求 1 ,并不是这个领域的问题。AI 要的是尽可能多的数据来覆盖所有的可能性,然后挖掘统计学规律。不是根据局部数据反推全部。所以你目前人不能判断,AI 还是不能判断。因为故障点判断困难的本质原因是信息缺失。

    需求 2 和 3 确实可以,但是需要精度不高的场景。精度高的场景是不能容忍幻觉的。现阶段还不能保证大语言模型不产生幻觉。


    至于扣子,其实就是针对目前大语言模型的能力有限(上下文容量、hops 数量),从而提出的中间态解决方案。业界叫 agent 。
    既由人来编写脚本,通过脚本链条串联一个或以上的大模型能力,从而达到单次大模型交互达不到的效果。

    比如,“今天天气怎么样?” -> 大模型语义理解 -> 调用 windy.com 的 API -> 处理返回值 -> 提示词处理 -> 喂给大模型做口语化 -> 输出。
    chairuosen
        10
    chairuosen  
       56 天前
    1. 不了解,大概你需要把所有故障文字化,然后提示词里给它足够的异常 case
    2. 不用知识库,1w 字很少直接喂进系统提示词都够
    3. 扣子最容易上手
    clemente
        11
    clemente  
       56 天前
    你需要的是 找个做过数学建模的大学生 帮你做 系统建模. 而不是 ai 特别是 llm
    clemente
        12
    clemente  
       56 天前
    除非你的日志里面已经写好哪些情况是故障问题, 然后你已知哪些故障特征组合 是某些问题, 那么这样 LLM 是可以用的. 如果是一堆数字 那还是机器学习或者数学建模把

    大模型不是万能的 但些机器学习脚本 dashboard 这些还是好用的
    cBlank
        13
    cBlank  
       56 天前
    最近我们公司也是想接 AI 能力,但是我觉的很费劲呀,特别是对接现有业务数据和固有数据(公司的商品,员工,仓库)让大模型理解不胡说八道很麻烦,或者我对相关的知识储备不足导致那么费力。
    我现在是用 Dify 在弄相关的流程。

    关键领导要的最终效果特别理想化,例如:想根据聊天内容,分析出来都干了下,做记录总结,最好能做到智能回复。

    唉,最近被这玩意折腾的有点累
    sampeng
        14
    sampeng  
       56 天前
    1 你就别拿 AI 来算了。。误报率得气死你。属于薛定谔的故障。故障预测是有很多模型的,你让 AI 协助你做这样的系统都比直接用他来强
    lingex
        15
    lingex  
       56 天前
    增加一个 AI 按钮,点击后提示:功能开发中,敬请期待。

    (实际永远不要上线)
    winv87
        16
    winv87  
       56 天前
    故障诊断是在机器学习领域一个常见的业务范畴,AI 大模型并不适合。
    你需要对你的数据打好标签,使用机器学习算法做训练。
    bianYuX
        17
    bianYuX  
       56 天前
    我最近在弄 aiops (智能化运维),现在是做到了故障告警这一块。
    我说下我们现在告警的流程:
    1. 采集监控数据
    2. 多指标融合检测
    3. 检测出故障之后,结合日志进行根因分析
    到根因分析这一步才用到 ai 大模型,检测阶段更多的是机器学习。
    这个流程是需要很多前置条件,监控采集就需要打通很多环节
    woscaizi
        18
    woscaizi  
       56 天前
    首先,不少人说使用 llm 来做这事不现实,我不这么认为。llm 能不能判断好,其实和人的先验知识关系很大,比如人是如何判断的,那么可以通过提示词让 llm 也如此判断。这需要了解业务。
    其次,现阶段,llm 能不能发挥大作用,工程化很重要,比如数据对接、这一块可能大多数的编排平台没有现成的,需要配合业务平台开发才行。
    beyondstars
        19
    beyondstars  
       55 天前   ❤️ 1
    你就多招几个大学生帮你做,也算是人工的智能了。
    SuperShuYe
        20
    SuperShuYe  
       55 天前
    直接用 coze 吧,api 接口也丰富,支持工作流加插件加数据库加发布,你看半天就可以上手
    unt
        21
    unt  
    OP
       55 天前
    谢谢各位,受益匪浅
    uprit
        22
    uprit  
       55 天前
    @woscaizi 你说得对。把“经验”都数字化,所谓“融会贯通”,远不是 1W 字就够的,也不是靠几个数据就能形成的。大部分 AI 你觉得效果“很差”,根本原因就是输入不够。通用模型不掌握专业知识,单靠 RAG 和那么点上下文,远远不够。
    关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   3444 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 20ms · UTC 10:42 · PVG 18:42 · LAX 03:42 · JFK 06:42
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.