最近在学习 electron, 写了一个 加载本地 gguf 模型聊天的应用练练手, 欢迎体验
ckvv · 2024-10-11 17:32:59 +08:00 · 1552 次点击这是一个创建于 385 天前的主题，其中的信息可能已经有所发展或是发生改变。
- https://github.com/ckvv/lumos/releases 下载你对应机器的安装包
- https://huggingface.co/models?library=gguf 打开需要使用的模型即可
 |
1
YiXinCoding 2024-10-11 17:41:37 +08:00
本地 RAG 就更棒了
|
 |
2
kevan 2024-10-12 17:08:25 +08:00
和 LM STUDIO 比怎么样？
|
|
3
kevan 2024-10-12 17:08:44 +08:00
Microsoft Defender SmartScreen 阻止了无法识别的应用启动。运行此应用可能会导致你的电脑存在风险。
|
|
4
kevan 2024-10-12 17:10:07 +08:00
很不错，star+1
|
|
5
kevan 2024-10-12 17:10:55 +08:00
为什么不能设置 system message ？
|
|
6
kevan 2024-10-12 17:12:40 +08:00
我发现你的这个程序运行 gguf 响应很快啊。
|
|
7
kevan 2024-10-12 17:16:27 +08:00
强烈推荐低配机器使用 B 站的 1.2GB 语言模型。体验很好
|
Select Language