最近忙里偷闲和公司前端小伙伴一起撸了一个 Python 开源项目——UnionLLM 。这是一个通过与 OpenAI 兼容的统一方式调用各种国内外各种大语言模型和 Agent 编排工具的轻量级开源 Python 工具包。
我们开发它的起因是因为在实际项目中,经常需要调用多个大语言模型的 API ,但是国内每个大语言模型的接口和参数都不一样,这给我们的工作带来了很大的困扰和额外的成本。UnionLLM 的目标是通过统一且容易扩展的方式连接各种大语言模型,使得我们可以更方便地使用多个大语言模型。
https://github.com/EvalsOne/UnionLLM
UnionLLM 目前支持的国内大语言模型包括:
智谱 AI 月之暗面 Moonshot 百度文心一言 阿里巴巴通义千问 MiniMax 讯飞星火 百川智能 昆仑天工
UnionLLM 目前专注于实现国内模型的调用。为了广泛兼容更多模型厂商且不重新造轮子,UnionLLM 会通过 LiteLLM 实现海外模型上的调用。
希望能对大家有所帮助,也希望各位 Python 高手多提建议!
这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。
V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。
V2EX is a community of developers, designers and creative people.