ciogao

我为什么把 SeasAGI 做成开源项目

  •  
  •   ciogao · 1h 13m ago · 98 views

    我做开源基础设施很久了。真正改变我对开源理解的,是一个用 C 写的 PHP 日志扩展:SeasLog。

    当时我手上的日志方案,要么是 syslog 的薄封装,要么是比它记录的那次请求还重的框架。我想要一个小东西:一个扩展、固定格式、按模块和级别分开、开箱不用配置。写完放到 GitHub,写好文档,就去做下一个问题了。

    后来 PR 开始出现,PHP 官方手册收录了它,再后来在会议上遇到用了好几年、却从没联系过我的工程师。那一刻起,开源对我来说不再只是"我发布的代码",而是一种工作方式。

    SeasLog 教会我的规则

    日志不是一个功能,它是基础设施。它慢,人们就会关掉它;它不可预测,人们就不再相信那些数字;它难读,就没人愿意去修格式。

    所以设计约束只有四条:小、快、可预测、不挡路。不要账号,不要需要照看的守护进程,不要无法检查的行为。后来把这套约定移植到 Go,做成 SeasLog4Go,约束没有变,变的只是运行时。

    这之后每个项目我都按这条规则做。SeasAGI 是下一个。

    为什么做网关

    去年我大部分调试时间,花在一个跟模型质量无关的问题上。我同时在用几家 Provider:一家跑长上下文,一家做便宜的抽取,本地模型处理不能出机器的内容。三个后台、三种 Key 格式,重试策略只活在我脑子里。

    长任务跑到一半遇到 429,我去改代码指向另一家,然后忘了改回来。账单出来时,我能看到每家 Provider 的总额,却说不出哪条路由产生了它。

    现成方案都不合适。托管式路由器要把 Key 和请求送进别人的基础设施;自托管的代理通常是一个依赖树很大的 Python 服务,对一个桌面工作流来说运维面太重。

    于是答案很直接:把网关放在开发者自己的机器上。一个入口,localhost:4318/v1,兼容 OpenAI 协议,现有 SDK 改个 base_url 就能用。通道、路由、降级、成本在同一个窗口里。Key 放在系统钥匙串。

    这里的"开源"指什么

    桌面客户端 GPL-3.0;社区版服务端 AGPL-3.0,可以自托管;企业版付费,覆盖公司真正需要买的部分:计费、多租户、SSO、审计与支持。

    这个边界我想说清楚,因为开源用户被"先开源后收回"伤过。今天开源的部分会一直开源;企业版不是人质开关,它只是公司需要、个人不需要的运维层。

    具体来说,开源意味着:你可以读路由代码并不同意它;可以离线运行客户端;可以自托管社区版;如果方向不再适合你,可以 fork。

    我不主张什么

    我不主张它能替代所有团队的托管路由器。如果你希望零运维,托管服务更合适,这一点我会直说。桌面网关意味着每台机器多一个进程,密钥托管需要你自己想清楚。团队治理需要服务端版本。

    我也暂时不主张任何数字。我会连同测试方法公布实测结果,而不是估算。在那之前,任何"省钱"都只是假设。

    为什么公开做

    我做过安静的那一版:写代码、发布、等人发现。它有效,但很慢,而且藏起了对其他维护者最有价值的部分——决策和错误。

    所以这次我边做边写:发布了什么、哪里坏了、哪里想错了、哪里改了主意。如果你也在做类似的东西,有用的部分是推理过程,不是 release notes。

    我一直想问的一个问题

    上个月的账单,你能说清是哪条路由产生的吗?如果说不清,最先要改的大概不是模型。

    Repo 与文档:https://github.com/SeasX/SeasAGI

    No Comments Yet
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   4240 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 08:19 · PVG 16:19 · LAX 00:19 · JFK 03:19
    ♥ Do have faith in what you're doing.