基于 LLM 的那些本地知识库，到了真可以提高效率的程度了么？

[ttgo]

有可以真提高工作/学习效率的了么？

或者仍然是搭起来跑一下就再也不用了？

[mumbler]

大多数没有实用价值，但这是一个必经之路，主要目的是提升认知，无论对做的人还是用的人

[laminux29]

我有道云笔记，4500 篇，各种 Word 、PDF 、Excel 也是一大堆。

以前纯靠搜索，但很多时候搜索结果不理想，还要自己去整理搜索关键字。

就算搜索出来，也只是原始资料，还要自己整理加工。

现在有了本地知识库 + 联网功能，信息处理效率，直接提高一个数量级。

我比较介意目前 AI 的推理能力太弱，只能稳定的达到初级程序员的层度，距离架构师甚至项目总监的级别还远着，导致很多高端问题，AI 基本上就乱答，这就需要自己把高端问题，按照解题思路，拆开为一堆中低端问题，来逐步引导 AI 去推理。

不过本地 LLM 局限性还是太大，目前更好用的方案，是支持网络浏览的聚合式 AI 平台，也就是让各种 AI 一起开会。因为就算目前的 GPT 4 或 Gemini 以及很多开源的，各有各的优缺点，GPT 4 并不是在所有问题，都能答对。所以让 AI 开会才是更好的用法，因为总有一款 AI 能碰巧猜对思路或答案。

[cgcs]

很好用啊，AnythingLLM ，Jan 之类的客户端，加本地跑个 7B 左右参数的模型

[ttgo]

@laminux29 你具体用的是哪个？

@cgcs @laminux29 能说一下你们的应用场景么？