Light-GPT,私有化 AI 问答的 WEB 应用, Docker 镜像一键部署~

2023-03-19 16:31:01 +08:00
 afit

Light-GPT

Light-GPT 是一个基于 GPT-3.5-Turbo 模型的交互式网站项目,使用 Next.js 框架构建, 使用 Vercel 云平台部署,是一个纯前端的轻量级应用。

Github:https://github.com/riwigefi/light-gpt 演示站点:light-gpt.vercel.app

功能

  1. 纯前端应用,基于 gpt-3.5-turbo 模型,使用 API KEY 在前端请求 Open AI 的对话接口,支持流式数据,页面以打字机效果显示机器人回复。
  2. 部署后,用户在前端页面设置自己 API KEY ,科学上网的情况下,问答速度会很快。用户设置的 API KEY 将保存在客户端,完全没有泄漏风险。
  3. 支持新的主题对话和查看历史主题对话。所有对话数据都存储在 浏览器的 IndexedDB 中,也就是说对话数据记录是保存在本地的,不会有数据泄漏风险
  4. 编程相关问题,AI 回复支持多种语法高亮,代码一键复制
  5. 对话支持图片导出,支持 pdf 导出
  6. 应用适配了 PC 和 Mobile ,方便使用
  7. DIY ,支持设置用户头像,ai 头像

站点预览

本地部署

要在本地部署 Light-GPT ,按照以下步骤操作(需要 node16 及以上版本):

  1. 将项目下载到本地:
git clone https://github.com/riwigefi/light-gpt.git
  1. 进入项目目录并安装依赖项:
cd light-gpt
pnpm install
  1. 启动应用程序:
pnpm run dev

这样,项目就能在 http://localhost:3000 上预览了。在前端页面输入你的 API KEY ,就可以愉快对话了

Vercel 线上部署

  1. 注册一个 Vercel 云平台部署账号,访问 https://vercel.com ,需要国外的手机验证码校验

  2. https://github.com/riwigefi/light-gpt 这个仓库 fork 到你的 github

  3. 登录 vercel 平台,点击Add New,选择 Project ,然后 import 刚刚 fork 的 github 项目,点击部署即可

docker 本地部署

上个帖子分享时,就有不少朋友使用了,一部分朋友建议做个 docker 镜像,本地部署更加便捷。所以这次也特地准备了 docker 镜像。

docker pull whynotisme/light-gpt
docker run -p 8080:80 whynotisme/light-gpt

写在最后

上个帖子发在 V2EX ,介绍 light-gpt ,虽然是简单的 wraper 应用,v2ex 上也有不少类似的项目,但也有不少人给予了鼓励,感谢 v 友们的支持。所以在更新了一些新功能后,所以又来发了一下,如有打扰,还望见解。最后的最后,如果觉得我的项目不错,欢迎 star ,欢迎 fork 。

1472 次点击
所在节点    分享创造
8 条回复
ospider
2023-03-19 16:53:36 +08:00
我还以为自己的模型呢……
afit
2023-03-19 16:54:56 +08:00
afit
2023-03-19 16:56:48 +08:00
@ospider 不好意思,标题误导了,我现在没法编辑帖子。。。
kele999
2023-03-19 17:23:23 +08:00
666
ispinfx
2023-03-19 17:34:18 +08:00
这一点都不 light…
as9567585
2023-03-20 01:21:38 +08:00
百度用的是这个吗?
afit
2023-03-20 09:07:42 +08:00
@as9567585 百度是自己的文心一言,我这个是 open ai gpt-3.5-turbo 的 wrapper ,核心问答功能是 open ai 提供的,就是使用 api key 的自建访问服务
afit
2023-03-20 10:35:35 +08:00
@ispinfx 就是简单的封装,自己玩的,所以取名 light-gpt ,如有误导,说声抱歉

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/925306

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX