yym68686 GitHub avatar

uni-api

Rust
统一 LLM 接口网关yym68686最近推送 2026年11月19日
模型推理与部署Apache-2.01,27415816 issues7 天 +2

AI 分析 · 由大模型根据 README 与仓库数据生成 · 2026年11月18日

把多家大模型 API 统一成 OpenAI 格式,用配置文件管理并做负载均衡。

uni-api 是一个用 Rust 写的 LLM API 统一管理项目。它通过一个统一的 OpenAI 兼容接口调用 OpenAI、Anthropic、Gemini、Vertex、Azure、AWS、xai、Cohere、Groq、Cloudflare、OpenRouter 等多个后端服务,并把请求统一转换为 OpenAI 格式。项目没有前端界面,纯靠 api.yaml 配置文件定义渠道和密钥,适合个人自建 API 中转站。

推荐指数

4.0

轻量、纯配置、支持渠道多,适合个人自建统一 API 网关,但需要手写 YAML。

近 7 天

+2

新增 Star

总 Star 排名

#3021

雷达追踪的 3,958 个 AI 仓库中

创建于

2024

2024年7月4日

核心亮点

  • 1多后端统一

    把 OpenAI、Anthropic、Gemini、Vertex、Azure、AWS 等多家服务统一成 OpenAI 格式接口。

  • 2纯配置无前端

    只需编写 api.yaml 即可运行,文档有详细配置说明,对新手友好。

  • 3负载均衡与重试

    支持渠道加权、轮询和单渠道多 Key 轮询,失败自动重试并冷却故障渠道。

  • 4细粒度控制

    支持按模型设置超时、用通配符控制 Key 可用模型、按分钟/小时/天等限流。

  • 5接口覆盖广

    提供 chat、responses、images、embeddings、audio、moderations、models 等 OpenAI 标准接口。

适用场景

  • 个人 API 中转

    例如:把手上多个厂商的 Key 写进 api.yaml,对外只暴露一个 OpenAI 兼容地址。

  • 多模型切换

    例如:同一客户端通过改模型名在 GPT、Claude、Gemini 之间切换,无需改代码。

  • 成本与稳定性

    例如:给多个渠道配置权重和重试,某个渠道失败时自动切到下一个。

  • 访问控制

    例如:给不同 API Key 分配不同模型权限和每分钟请求上限。

它是怎么工作的

  1. 第 1 步

    编写配置

    在 api.yaml 中定义 providers(后端地址、Key、模型)和 api_keys(对外密钥)。

  2. 第 2 步

    启动服务

    挂载配置文件或用 CONFIG_URL 指定配置地址启动 uni-api 容器。

  3. 第 3 步

    统一转换

    收到 OpenAI 格式请求后,按模型路由到对应后端并转换请求与响应格式。

  4. 第 4 步

    调度与容错

    按权重或轮询选择渠道,失败自动重试并冷却故障渠道。

快速上手

  1. 1

    准备配置

    编写最小 api.yaml,填入 provider 的 base_url、api 和对外 api_keys。

  2. 2

    启动容器

    挂载 api.yaml 到容器内启动服务。

  3. 3

    调用接口

    用 OpenAI SDK 把 base_url 指向 uni-api 地址,带上配置的 Key 发起请求。

适合谁

  • 想自建统一 API 网关的个人开发者
  • 需要多厂商模型切换和负载均衡的用户
  • 偏好配置文件、不需要复杂前端的用户

不太适合

  • 需要可视化后台和计费系统的团队
  • 不熟悉 YAML 配置的纯新手

成熟度

  • 活跃度最近一次推送在 2026 年 11 月,仍在持续更新。
  • 文档README 含最小与高级配置示例,说明较完整。
  • 社区约 1275 star、159 fork,有 Telegram 群,规模中等。
  • 上手难度无前端,需手写 YAML,但示例清晰、上手门槛不高。

同类项目怎么选

  • one-api带 Web 管理界面和商业化功能,功能更全但更重。
  • new-api同样提供前端和渠道管理,面向的场景更偏运营。
  • LiteLLMPython 实现,侧重 SDK 与代理,配置方式不同。

使用前注意

  • · 采用 Apache-2.0 许可,商用前需确认合规。
  • · 无图形界面,所有渠道和权限都靠配置文件维护。
  • · 对外暴露 API 需自行做好密钥保管和网络安全。
  • · 依赖各后端服务的接口变化,模型列表可能随厂商调整。

主题标签

claudeopenaiuni-apigeminivertexawsgrokazure