V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
isSamle
V2EX  ›  程序员

有没有这样的项目啊

  •  
  •   isSamle · 16 天前 · 996 次点击
    1. 类似 openwebui ,能够使用 ollama 或者 oneapi 的模型
    2. 类似 openwebui ,能够有个前端界面用于维护工具脚本
    3. 能够将配置好工具的模型,转为 API 供外部调用
    crackidz
        1
    crackidz  
       16 天前
    OpenWebUI 不是基本都满足吗?
    isSamle
        2
    isSamle  
    OP
       16 天前
    @crackidz 想要对外提供接口
    miraku
        3
    miraku  
       16 天前
    dify 之类的?
    isSamle
        4
    isSamle  
    OP
       16 天前
    @miraku 类似,但是想要自定义工具,就是有一个模块,我能写一堆脚本代码,然后通过关联模型分发 api ,让分发出来的模型 api 先天具有配置的工具能力
    Elissa
        5
    Elissa  
       16 天前
    @isSamle dify 的代码执行节点,拖拉拽完成后甩个链接出去,连聊天框都省的写了
    isSamle
        6
    isSamle  
    OP
       16 天前
    @Elissa 1 是代码块复用起来不太好实现,2 是想要的有点像 openwebui 的那种,一个模型挂载 N 个工具,dify 的我试下看😂看起来感觉不好用
    crackidz
        7
    crackidz  
       16 天前
    @isSamle openwebui 就有 API 啊...
    isSamle
        8
    isSamle  
    OP
       16 天前
    @crackidz 有吗?没看到在哪里😂
    areless
        9
    areless  
       15 天前 via Android
    这个叫模拟 openai 协议对端,但是 tools 经过他中转好像不支持哦。openwebui 最变态的地方就是把函数独立成一个叫管道的独立项目,可以任意做前置后置。反正读他的源码,我学到很多。他转圈时间长,你得研究他整套流程走的跟国内开源大模型框架项目有何差异。这玩意很多流程绝对是标准中的标准,不可替代
    isSamle
        10
    isSamle  
    OP
       15 天前
    @areless 我觉得 openwebui 自定义工具的功能是挺不错的,但是不知道怎么分发成 API 在外部也能使用带工具的模型
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2755 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 21ms · UTC 08:11 · PVG 16:11 · LAX 01:11 · JFK 04:11
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.