LangGPT —— 让人人都能编写高质量 Prompt

2023-05-13 10:12:00 +08:00
 etherealai

要用好现有大模型的能力严重依赖高质量 prompt , 然而编写高质量 prompt 在现阶段还是个手艺活,太依赖个人经验。

虽然也有许多个人自发分享的 prompt 方法、框架,以及吴恩达老师的 prompt 教程,但是现有 Prompt 创建方法还是有各种各样的缺点:

  1. 缺乏系统性:大多是细碎的规则,技巧,严重依赖个人经验
  2. 缺乏灵活性:对他人分享的优质 prompt 进行调整需要直接修改 prompt 内容
  3. 缺乏交互友好性:优质 prompt 的配置和使用太复杂,有时往往还要学习 prompt 用法 4.未充分考虑大语言模型的下列特性: ( 1 )偏好分点、条理性叙述 ( 2 )长对话会出现遗忘问题 ( 3 )不同语言间性能存在差距

这也是为什么大家爱收集,分享一些久经考验的 prompt 的原因之一。

随着 GPT-4 模型出来,对 prompt 的依赖有所降低,同时其更强大的基础能力为编写更强大的 prompt 提供了良好的基础,优质的 prompt 能力越来越强大,也越来越复杂。

prompt 编写越来越像 AI 时代的编程语言。

那么有没有可能像学编程一样,掌握一些基础规则和概念,掌握一些编程模式(类似面向对象的编程),即可高效的编写出表现良好稳定的 prompt——即 prompt 编程?

经过初步探索和实验,我们设计了 LangGPT ,希望在 prompt 的编程法上迈出一小步。

使用 LangGPT 为大规模生产高质量 prompt 提供了可能,它有下面的优点:

  1. 系统性:提供“模板”,按照模板填鸭式写上相应内容即可
  2. 灵活性:可以使用“变量”,轻松引用、设置和更改 prompt 中的内容,可编程性好
  3. 使用命令,轻松设置、执行预定义行为,可以无损性能情况下轻松设置中英文切换
  4. 交互友好:“工作流” 轻松定义与用户交互,角色行为等,轻松引导用户使用
  5. 充分利用大模型能力: ( 1 )模块化配置 ( 2 )分点条理性叙述 ( 3 ) Reminder 缓解长期记忆缺失问题

LangGPT 的两个关键语法

  1. LangGPT 变量:

我们发现 ChatGPT 可以识别各种良好标记的层级结构内容。大模型可以识别文章的标题,段落名,段落正文等层级结构,如果我们告诉他标题,模型知道我们指的是标题以及标题下的正文内容。

这意味着我们将 prompt 的内容用结构化方式呈现,并设置标题即可方便的引用,修改,设置 prompt 内容。可以直接使用段落标题来指代大段内容,也可以告诉 ChatGPT 修改调整指定内容。这类似于编程中的变量,因此我们可以将这种标题当做变量使用。

Markdown 的语法层级结构很好,适合编写 prompt ,因此 LangGPT 的变量基于 markdown 语法。实际上除 markdown 外各种能实现标记作用,如 json,yaml, 甚至好好排版好格式 都可以。

变量为 Prompt 的编写带来了很大的灵活性。使用变量可以方便的引用角色内容,设置和更改角色属性。这是一般的 prompt 方法实现起来不方便的。

  1. LangGPT 模板:

ChatGPT 十分擅长角色扮演,大部分优质 prompt 开头往往就是 “我希望你作为 xxx”,“我希望你扮演 xxx” 的句式定义一个角色,只要提供角色说明,角色行为,技能等描述,就能做出很符合角色的行为。

如果你熟悉编程语言里的 “对象”,就知道其实 prompt 的“角色声明”和类声明很像。因此 可以将 prompt 抽象为一个角色 ( Role ),包含名字,描述,技能,工作方法等描述,然后就得到了 LangGPT 的 Role 模板。

使用 Role 模板,只需要按照模板填写相应内容即可。

除了变量和模板外,LangGPT 还提供了命令,记忆器,条件句等语法设置方法。

  1. LangGPT 咒语生成器

值得一提的是,我们基于 LangGPT 设计了 LangGPT 助手来帮助大家使用 LangGPT, 它会帮助你设计很好的咒语

LangGPT 还在探索开发阶段,有问题欢迎反馈,更欢迎更多的人参与进来! 欢迎关注+star ,欢迎共同参与!

Github 项目地址: https://github.com/yzfly/LangGPT

2516 次点击
所在节点    OpenAI
5 条回复
prenwang
2023-05-13 13:04:35 +08:00
现在都是基于向量数据库了, 以及加入 agent 来调度的思路,只做 prompt 提升程度有限。
Bao3C
2023-05-13 14:48:55 +08:00
@prenwang 有更详细的介绍么
etherealai
2023-05-13 14:57:19 +08:00
@prenwang 所谓 Agent 本质也是用 prompt 调用大模型能力。这个项目是针对 prompt 的优化,与调度 agent 的思路并不冲突。
prenwang
2023-05-14 01:30:16 +08:00
@Bao3C
@etherealai

说的没错, 用在 agent 机制里, 就起到非常关键的作用了,agent 的调度环境会涉及到很多次自主 LLM 的调用, 而这些调用通常需要设计精致的 prompt , 来起到承上启下的作用,prompt 就是 AI 世界的 python , 通过粘合发挥最大价值


比如, 阅读 langchain 的源码, 可以发现其设计的 prompt 的思路的妙处
etherealai
2023-05-14 10:40:58 +08:00
@prenwang 是的,所以 prompt 设计比较重要。还有就是随着模型可接受的输入长度越来越长,模型能力越来越强,相信 prompt 的重要性也会越来越凸显

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/939684

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX