前两天逛 v2 ,看到有 GPT 前端项目相关需求的朋友
再往下看 发现各位对这俩项目吐槽的点还蛮多的
类似于 支持 access token 、交互反应慢、数据只能存在本地、用户分组仍有局限性、不支持国产大模型或 Gemini Claude 等模型...
等等等等这些问题
看了半天,突然反应过来自家产品有针对这些问题的解决方案
(但是一直不敢发,怕被各大佬吊起来锤)
遂作此篇。
Tip 以下内容 可能过长或废话较多 ,建议您在 选取自己需要的 Part 阅读后 前往本项目的 GitHub 以查看更加详细的 README
https://github.com/Deeptrain-Community/chatnio
下图为该项目的 实机演示图 ,您也可以 前往我们的演示站点 https://chatnio.net/ ,我们的演示站点 同时提供 GPT 系所有模型 1CNY = 1USD (即官网七折转发)和 其他模型(如:Claude 、SparkDesk 、ChatGLM 等)。具体计费标准见 https://docs.chatnio.net/ 。
拥有 NextWeb + OneAPI 的 全部功能 (即基础功能)
用户管理 支持的操作比 OneAPI 更丰富、更灵活 包括用户列表、用户详情、管理操作 (修改密码、修改邮箱、封禁 / 解封用户、设为管理员、点数变更、点数设置、订阅管理、订阅等级设置、释放订阅用量 等操作)
支持邀请码 / 兑换码 邀请码便于前期推广使用(可设置每个用户 同种类型邀请码仅可使用一次 )、兑换码使支付方式更灵活。同时兑换码支持管理操作、支持批量生成和保存为文件,便于直接导入分发系统
拥有 弹性计费 与 订阅 两种模式,收费更加灵活
支持 Docker-Compose 一键部署 ,一条命令即可部署运行,也可以自行选择 是否外挂数据库
可自定义性强 ,可直接在后台自定义网站名称、Logo 、文档链接,暂停注册、设置初始点数等,可自定义购买链接(配合分发系统使用)、联系方式、页脚信息等。 无需修改代码、无需代码基础 。
基于 Go 语言开发 ,性能可观的同时 原生实现多渠道分配算法 而非 OneAPI 依靠禁用渠道实现伪“多优先级渠道切换”
得益于 Go 语言 ,该项目性能高的同时所需配置极低,基本上 所有能够正常使用 Docker-Compose 的机器都能运行本项目
前后端分离 使用 React 进行前端开发 ,使用 React 原生实现 i18n ,而非 OneAPI 使用 Python 脚本实现 i18n
聊天记录全部能够存储于云数据库 ,实现多设备间同步,略领先于 NextWeb 存储于本地 ,切设备即丢失聊天记录
支持 Vision 识图模型 (如 GPT-4 Vision Preview 、Gemini Pro Vision 等模型) 、支持 DALLE 3 等绘图模型 ,原生填补 NextWeb 在多模态方面的空白,同时支持 直接上传图片 和 直链 / Base64 图片
太多了,写不完了,真写完这么多也不一定有人看,所以 更多亮点等待你们去发现 或 前往该项目 GitHub 查看 README ...
您可以前往 GitHub https://github.com/Deeptrain-Community/chatnio 查看本项目的开源仓库及部署方式
部署方式 包括 Docker-Compose 、Docker 、 自行编译安装
这个项目其实还有很多能够改进的地方,十分希望各位大佬能够给予批评或贡献
在此十分感谢为该项目做出贡献的各位大佬!!
1
Sh1n3zZ OP 我看他们都是作者自己抢一楼,我也抢个一楼
|
2
lknife 263 天前
真厉害
|
3
0o0O0o0O0o 263 天前 via iPhone
花里胡哨,我太喜欢了
|
5
Sh1n3zZ OP @0o0O0o0O0o 感谢支持 我们也是觉得要做就要做点与众不同的 (≧∇≦)ノ
|
6
agegcn 263 天前
看起来不错 我有空测一测
|
7
yanyao233 263 天前 via Android
太厉害了!看了看两位 contributor 的 profile ,都好牛 qaq
|
10
qloog 263 天前
好厉害,必须去看看,另外技术栈也是我喜欢的 😝
|
12
sayyiku 263 天前
很强
|
13
Hequndev 263 天前 via iPhone
好好好 已 star 必须去试试 真的好棒(:
|
16
TravisMtg 263 天前
第一位 contributor 是 2009 年出生的?这也太猛了吧🥹(又是来人间凑数的一天)
|
17
mightybruce 263 天前
这些模型我都用过, 这个项目支持得挺全的,不错。
|
18
wzw 263 天前 via iPhone
支持,正式想要的。
去买了 n 家 API ,有些有时有问题,或者慢,来个自己聚合用 |
19
winterx 263 天前
太强了 已 star
|
21
Sh1n3zZ OP @mightybruce 感谢支持!
|
24
metalvest 262 天前 via Android
Gemini 不是免费的吗怎么也计费
|
25
ProgramZmh 262 天前 via Android
哇!感谢大佬的推文!感谢大家的支持!🙏
|
26
ProgramZmh 262 天前 via Android
@metalvest 是的 用 gemini 以及讯飞这些首先推荐自己部署自己填 key 可以自己设置计费规则的 chatnio 官网上计费只是为了防止滥用 :)
|
27
chancat 262 天前 via Android
打开弹出半个屏幕的公告。
点生成 ai 项目就不停的弹令牌失效, 点别的想试试看看就跳转到别的网站要注册要登录 用户体验极差。 |
28
Sh1n3zZ OP @chancat
公告可自行设置是否开启,演示站点公告用于提示使用演示站点的用户 由于模型需要计费,而计费必须有账户管理,故必须登陆,但如果您自行搭建且将计费设置为免费、匿名用户也可以使用则不会触发登陆 而“其他网站”则是我们的 SSO 系统,在开源版中已经实现 ALL IN ONE ,在当前站点即可实现登陆等操作 综上,您可以自行搭建本系统并进行对应设置来满足您的以上要求,且这些设置都可以在后台直接操作、无需代码基础。如果您需要在满足以上条件的同时使用我们的转发服务并享受 1:1 的价格,您也可以在自行搭建后前往渠道管理一键同步上游直接同步我们的所有模型 感谢您的支持与耐心阅读 |
29
wzw 262 天前
@Sh1n3zZ Star 一个, 粗略看了一下, 没看到这样一个功能.
有 N 个 openapi 服务商, 例如 gptapi.us/钱多多/官方 三个供应商, 1. 整体按优先级进行尝试, 因为有些时候有些接口有问题, 会自动切换. 2. 或者某个模型可以按特定的优先级调用. 谢谢 |
30
ProgramZmh 262 天前
@chancat
1. 自行部署公告可以自定义。 2. AI 生成器无效的令牌是因为没有登录。并且我在 Firefox, Chrome, Edge 中都没有复现到不停弹多次,如果方便的话请提供完整的复现步骤提出 issue 。(同时附加功能已经放弃支持,推荐您看下文档) 3. 别的网站是指统一用户管理, 只有官网使用, 统一用户管理是常规做法, 可以获得更高的转换率和一键登录。自部署的话是没有所述“弹别的网站”的情况。 |
31
ProgramZmh 262 天前
@wzw 首先,非常感谢支持!
我回答一下: 1. 会自动切换,根据优先级高低,如果高优先级失败将自动向下优先级请求,没有禁用渠道是确实,是因为我认为暂时失效的渠道进行禁用和恢复渠道(需要手动恢复 即使 healthcheck 也有延时)都有弊端,之后会考虑增加“禁用渠道”这一选项。 2. 没有对于模型的特定优先级调用,但是可以选择每个渠道的可调用模型,分开为多个渠道,之后会思考如何实现此功能。 |
32
a707782628 258 天前
谢谢作者,使用了下很好用,就是想问下我还想使用 newbing 的渠道,但是启动 chatnio-bing-service 后回复 websocket connection failed ,改用我现在在用的 bingo 后,回复 no response 。bingo 的 openapi 好像没有密钥设置,但是这里必须设置密钥是不是这个导致的问题?
|
33
a707782628 258 天前
还有 geminivision 发送文字加图片会回复 Multiturn chat is not enabled for models/gemini-pro-vision (code: 400, status: INVALID_ARGUMENT),发送文字回复 Add an image to use models/gemini-pro-vision, or switch your model to a text model. (code: 400, status: INVALID_ARGUMENT)。我试过 lobechat 是可以正常文字加图片回复的
|
34
kurui 240 天前
支持一个
|
35
ProgramZmh 235 天前 via Android
@a707782628 chatnio-bing-service 已被存档,bingo 回复 no response 一般是因为 bingo 无法连接 new bing ,密钥填 bunny 即可
|
36
ProgramZmh 235 天前 via Android
@a707782628 这是 Gemini 的问题,gemini pro vision 不支持多轮对话,并且如果不发送图片只有文字也会报错
|
37
charlo 164 天前
使用体感一般,开发态度有问题。
看搜索看到这一贴去使用体验的。 先不提产品中坑坑洼洼的小问题,去 github 提个 issue 语气非常冲,来一句"你都有能力在 github 提 issue 为什么就不去能看看 chatglm 的文档"! 行吧,我们智商太低不配用,不去吃透代码不配提问。不用了,我换其他家的或者自己写了 |
38
ProgramZmh 23 天前 via Android
@charlo 没记得有说过这种话,回去搜索了一下没有这个记录,是从哪里提的?
|
39
lisongeee 20 天前
|