两个月 8 万行代码，我是如何写出 GPT-Runner 直接对话文件和管理运行 AI 预设的

前言

实时对话代码库？？

我是第一批 copilot 内测用户，早在 2021 年 11 月我就开始体验 copilot 了。在 chatgpt 出来第二天我就注册并体验了。

可以说别人还在农耕时代我就早早地用上了蒸汽机。这让我在开发效率上获得了巨大的优势，我可以用同样的开发评估时间摸更多的鱼。

但是我还是不满足，chatgpt 无法阅读我整个代码库，直到 chatpdf 在 2 月份横空出世，它打破了 chatgpt 上下文不足的局面。让我萌生了要把这项技术应用到我的工作中的想法。

我开始研究他们的代码、查找资料，我发现它们用的是 embedding 方式，先把你的文件内容拆分，然后发到 openai embedding （向量化）后，再把文件内容片段和向量结果保存到向量数据库。

当你提问时，把你的问题 embedding ，然后把 embedding 结果和向量数据库里的向量进行比较，找到最相似的向量，然后把这个向量对应的文件内容片段返回给 openai ，让 openai 根据这个片段和你的问题生成答案。

这样就可以实现 “无限” 的上下文了。但是效果并不理想，因为语义向量片段只对文章之类效果好（勉强），代码压根就不行。

我还是保持复制文件内容，然后去 chatgpt 问的方式，虽然傻，但是效果好。

复制粘贴是一件反人类的事，我想，如果我能把这个过程自动化，那就好了。这个想法在我脑海诞生。

Prompt Storybook ??

我在新的公司里试图把 AI 工作流标准化，我阅读了大量的 prompt 教程，我为项目量身写了一些 prompt 放到 txt 文件里并用 git 进行管理。

我告诉队友在写组件或单元测试时 copy 我的 prompt 提问会更精准。

事实也的确如此，因为 prompt 里有说了我们的项目架构和依赖，还有一些例子给 AI 。

但是这样的工作流还是不够优雅，我想，有没有类似 storybook 这样的工具，可以直接管理并运行项目里的 prompt 呢？

虽然有，但是他们都是 APP 形式或者要本地部署 web ，无法标准化，比如一条命令就可以运行，或者可以直接在 IDE 里运行。

我想，我可以自己写一个，对 vscode 和 jetbrains 系列 IDE 进行支持，对其他 IDE 提供 cli 快速启动 web 的 AI 预设 storybook ，这样就可以把 AI 工作流标准化了。

开始

架构：我需要同时提供 cli/vscode/web/jetrains （未来）三种方式，cli 方式可以快速启动 web ，vscode 方式可以直接在 vscode 里运行，web 方式让没有适配该 IDE 的人也可以使用。

我还需要后端，因为很多文件操作都无法在 web 端完成。

因此，我徒手用 express + langchian + react + vite + ts 写了一个完整的项目，通过 web window 开放配置介入 vscode 扩展 webview 。

期间我重构了很多次功能和 ui ，改到我用得顺手为主，这个 GPT-Runner 只有一个目标，就是提升我的效率！让我有更多摸鱼时间！

经过两个月下班时间打磨，我终于在今天完成了它：https://github.com/nicepkg/gpt-runner

功能

勾选文件向 AI 提需求

GPT Runner 的主要功能是什么呢？它可以让你直接与你选中的多个代码文件进行提问，提需求给 AI ，提 bug 给 AI ，让 AI 替你完成。

它不是 embedding ，我实测测效果非常好，我本地也装了很多其他的 vscode ai 扩展，它们并没有这个功能，ui 也远不及我的 GPT-runner ，我现在只会用 copilot 和 GPT-runner 。

它最核心的是管理你的 AI 预设（ xxx.gpt.md 文件），你可以在项目中创建一些 AI 预设文件，这些文件可以包含一些系统提示、用户提示以及一些 AI 参数，比如模型名称、温度等。

让我为你介绍一下我的 AI 工作流

比如开发人员 A 写了一份 AI 预设专门根据这个项目的 class 生成单元测试，用它生成的结果代码接近 70% 可用。他把它用 git 推上去了。

开发人员 B 在写单元测试时，他只需要在 GPT Runner 里选择这个 AI 预设，然后选中他要测试的 class ，然后问 AI 生成单元测试，AI 就会根据这个 class 生成单元测试。

突然开发人员 B 发现这份 AI 预设提示词缺少了一些关键词，他就在 AI 预设文件里添加了一些关键词，这份 AI 预设生成的单元测试就更加准确了。达到了 80% 代码可用。

随着不断的迭代，这份 AI 预设生成的单元测试无限接近 100% 代码可用。

这份 AI 预设无疑是非常具用价值的新时代代码！ Prompt Engineer!

其他功能

响应式 UI ，在不同宽度布局下都做了精心调整。侧边栏和输入框都可以拖拽调整宽高。
输入框是 vscode 同款 monaco-editor 编辑器。你可以代码高亮编辑问题。
在 vscode 扩展里它能感知你正在编辑的文件和选中的文本，根据这些内容给你作答。
可以通过局域网分享 web 链接给队友用，放心，ai key 是私密的，他们看不到。
cli 还自带内网穿透分享功能，可以远程分享你的 gpt-runner web 给对方用，具体自己探索。
同时支持 openai 和 anthropic （ claude ），未来还会支持更多
多语言多主题。
实时估算 Token （为了提高估算速度降低了精度），右上角有当前 token 数。
我强烈建议你看完 README 视频。

安装

GPT Runner 的安装也非常简单，如果你有 VSCode 的话，你只需要在扩展商店搜索 GPT Runner ，然后安装就可以了。

如果你没有 VSCode ，你也可以通过安装 nodejs （ >= 16.15.0 ），去到你的项目目录然后执行 npx gptr 来运行就行。第一次要下载资源会比较慢。

Jetrains 系 IDE 请等待后续支持。

后续

你可以去 https://github.com/nicepkg/gpt-runner/blob/main/docs/gpt-config.cn.md 查看 AI 预设配置规范。

可以的话帮忙点一下 Github star 收藏一下，摸鱼效率神器，至少这个工具我自己喜欢用，我相信你也会喜欢的。

两个月 8 万行代码， 我是如何写出 GPT-Runner 直接对话文件和管理运行 AI 预设的

前言