如果我想对垂直领域文档进行智能回复，是不是只能使用 fine tuning

[neptuno]

1 、使用 api 进行智能回复（类似于对说明书进行训练，回复的都是说明书的内容） 2 、想用第三方便宜的 key 3 、第三方便宜的 key 是不是不支持 fine tuning 4 、有没有其他方法

[mercurylanded]

一般来说 RAG 效果更好

[neptuno]

@mercurylanded 感谢🙏，我就说 v2 能学到知识。检索增强生成 (RAG) 的定义
检索增强生成 (RAG) 是一种使用来自私有或专有数据源的信息来辅助文本生成的技术。它将检索模型（设计用于搜索大型数据集或知识库）和生成模型（例如大型语言模型 (LLM)，此类模型会使用检索到的信息生成可供阅读的文本回复）结合在一起。

通过从更多数据源添加背景信息，以及通过训练来补充 LLM 的原始知识库，检索增强生成能够提高搜索体验的相关性。这能够改善大型语言模型的输出，但又无需重新训练模型。额外信息源的范围很广，从训练 LLM 时并未用到的互联网上的新信息，到专有商业背景信息，或者属于企业的机密内部文档，都会包含在内。

RAG 对于诸如回答问题和内容生成等任务，具有极大价值，因为它能支持生成式 AI 系统使用外部信息源生成更准确且更符合语境的回答。它会实施搜索检索方法（通常是语义搜索或混合搜索）来回应用户的意图并提供更相关的结果。

[TimePPT]

@neptuno 先看看这个吧，能解释你好多疑惑 https://www.promptingguide.ai/zh

[ns2250225]

用 FastGPT 吧，简单快捷

[neptuno]

@TimePPT 好的谢谢！公司临时接的项目，给我练练手，确实我不懂这一块。
@ns2250225