V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
reekin
V2EX  ›  问与答

Chatbot 求推荐(附 NextChat / AnythingLLM / Dify 对比)

  •  
  •   reekin · 56 天前 · 1101 次点击
    这是一个创建于 56 天前的主题,其中的信息可能已经有所发展或是发生改变。

    目前在用的是 NextChat ,胜在轻便,但功能不太够。一直在找一款能满足自己日常需求的 Chatbot ,但试了不少都感觉缺点东西。按我自己的需求列了个对比表,各有各的不足(加感叹号表示我认为无法接受)

    功能 NextChat AnythingLLM Dify
    支持对单条消息进行编辑/删除/重新生成 不支持归档 不支持归档 !!不支持编辑/删除/归档!!
    附件 OCR/RAG 需要通过插件支持 支持 支持
    代码块等 md 格式识别 支持 支持 支持
    预设创建和管理对话 只支持简单预设( Mask )
    !!对话无法按预设分类!!
    只支持简单预设( Workspace )
    支持按预设分类对话
    支持工作流形式的预设,支持按预设分类对话
    有完整独立的 App !!无!!
    能提供 API 供外部调用

    其中一部分需求对应的工作量并不大(比如给消息加个删除按钮等),但我完全没有前端经验,虽然之前在 AI 辅助下倒是成功往 NextChat 加了一些想要的 feature ,但 PR 没被接受(也许是实现得不太规范),那我也不可能就停留在一个魔改过的版本不更新了。dify 这种 docker 部署的我甚至都还没摸清要怎么让改动生效。所以感觉自己魔改并不是一条很可行的道路。

    目前的主要诉求是希望能通过工作流(或者脚本代码也行)自定义一些对话预设,dify 的形式我很满意,但它的对话前端比较弱。 我不知道更合适的思路是将他作为模型提供商接入到 anythingLLM 中(接口改造看起来很麻烦,而且意味着我要同时开 dify 和 anythingLLM ?),还是为 dify 添加前端能力。但 dify 在 win10 需要通过 docker 运行,而且不知道为什么总是要重新登陆,各种麻烦问题感觉也不好搞。

    每家 Chatbot 都有自己的一套交互,似乎没办法有一款产品能集百家之长。想到以后还可能需要支持 CrewAI 这类 AI 聊天群,到时候又不知道能筛剩下谁,愁

    5 条回复    2024-11-04 15:45:26 +08:00
    vacuitym
        1
    vacuitym  
       56 天前
    顺便看下我的: https://chat.vacuity.me/
    reekin
        2
    reekin  
    OP
       55 天前
    @vacuitym 要注册的网页版不符合我的需求。。。我需要的是本地客户端,将来还可能需要连本地模型
    flintttan
        3
    flintttan  
       54 天前
    很长时间没关注,我以前是跑了个 fastgpt ,直接用 web 界面或者用他的 api ,其他厂家用 one-api 接入。

    消息可以导出;
    可以发图,文件好像不行(最近没关注),OCR 依赖模型能力吧,本来也是个 RAG 框架,流程编排用起来挺方便的;
    支持 md ;
    预设 prompt 没问题,流程编排里自行接入 Google 搜索也行,有完整案例;
    没有独立 app ,就是 web 界面( app 的话可以用 api 服务接入其他 app );
    有 api 。

    开源版本好像是没有多用户,可以分享链接出来直接使用;
    reekin
        4
    reekin  
    OP
       52 天前
    @flintttan
    fastgpt 跟 dify 类似,都是偏重后端特性,对话界面也不支持编辑内容,不过相比 dify 好歹支持删消息了(
    也是跑在网页的,不打包成桌面端软件的话应该也就没办法支持全局快捷键呼出这种特性了吧?每次都要切窗口找出来还是挺烦的
    flintttan
        5
    flintttan  
       52 天前
    @reekin 是的,跟 dify 类似。
    我有在用 alfred/raycast 这种效率软件,设置了快捷键[cmd+.]快捷打开 web 网页,很丝滑
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5604 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 23ms · UTC 03:29 · PVG 11:29 · LAX 19:29 · JFK 22:29
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.