V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
爱意满满的作品展示区。
ckvv
V2EX  ›  分享创造

最近在学习 electron, 写了一个 加载本地 gguf 模型聊天的应用练练手, 欢迎体验

  •  
  •   ckvv · 2024-10-11 17:32:59 +08:00 · 1552 次点击
    这是一个创建于 385 天前的主题,其中的信息可能已经有所发展或是发生改变。
    7 条回复    2024-10-12 17:16:27 +08:00
    YiXinCoding
        1
    YiXinCoding  
       2024-10-11 17:41:37 +08:00
    本地 RAG 就更棒了
    kevan
        2
    kevan  
       2024-10-12 17:08:25 +08:00
    和 LM STUDIO 比怎么样?
    kevan
        3
    kevan  
       2024-10-12 17:08:44 +08:00
    Microsoft Defender SmartScreen 阻止了无法识别的应用启动。运行此应用可能会导致你的电脑存在风险。
    kevan
        4
    kevan  
       2024-10-12 17:10:07 +08:00
    很不错,star+1
    kevan
        5
    kevan  
       2024-10-12 17:10:55 +08:00
    为什么不能设置 system message ?
    kevan
        6
    kevan  
       2024-10-12 17:12:40 +08:00
    我发现你的这个程序运行 gguf 响应很快啊。
    kevan
        7
    kevan  
       2024-10-12 17:16:27 +08:00
    强烈推荐低配机器使用 B 站的 1.2GB 语言模型。体验很好
    关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   908 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 19:55 · PVG 03:55 · LAX 12:55 · JFK 15:55
    ♥ Do have faith in what you're doing.