kittors GitHub avatar

CliRelay

Go
自托管 AI 编程网关kittors最近推送 2026年11月18日
模型推理与部署MIT1,0591348 issues7 天 +5

AI 分析 · 由大模型根据 README 与仓库数据生成 · 2026年11月18日

自托管 AI 网关,把多个 AI 编程订阅和 API Key 统一到一个兼容 OpenAI、Claude、Gemini 的端点。

CliRelay 是一个用 Go 编写的自托管 AI 网关,基于 CLIProxyAPI 做了大量扩展。它把 Claude Code、Codex、Gemini CLI 等 AI 编程订阅、OAuth 凭证、各家 API Key 和 OpenAI 兼容上游,统一成一个受管理的 API 层;客户端只需连接一个端点,就能使用 OpenAI、Anthropic 或 Gemini 协议。它面向团队运行,提供多租户、角色权限、审计日志、请求日志和消费配额。

推荐指数

4.0

功能完整、适合团队自建 AI 网关的项目,但依赖 PostgreSQL 和 Redis,部署有一定门槛。

近 7 天

+5

新增 Star

总 Star 排名

#3403

雷达追踪的 3,958 个 AI 仓库中

创建于

2026

2026年2月27日

核心亮点

  • 1统一端点

    一个地址同时兼容 OpenAI、Anthropic、Gemini 协议,接入多种上游账号。

  • 2智能路由

    支持轮询、填充优先、会话粘性调度,账号耗尽或失败时自动冷却并故障转移。

  • 3可观测性

    监控中心展示健康分、实时流量、P50–P99 延迟、首字延迟和失败分析。

  • 4消费管控

    按日、周期、终身设置配额,支持 RPM、TPM 限速和按模型定价。

  • 5多租户管理

    租户、用户、角色、细粒度权限和审计日志,适合团队共用。

适用场景

  • 团队共用 AI 订阅

    例如:多个开发者通过同一个 CliRelay 端点使用公司购买的 Claude 和 Codex 账号,管理员按人分配配额。

  • 多供应商容灾

    例如:某个 Gemini 账号额度用尽后,请求自动切换到其他健康账号,不中断使用。

  • 成本与用量追踪

    例如:管理员在控制面板查看每个用户、每个模型的请求量、Token 和费用。

  • 统一客户端配置

    例如:Claude Code、Codex CLI 和任意 OpenAI 兼容客户端都指向同一个地址。

它是怎么工作的

  1. 第 1 步

    认证

    客户端 Key 解析到门户账号和权限配置,决定可用渠道组、模型和配额。

  2. 第 2 步

    准入检查

    在请求到达上游前检查消费配额、请求数、RPM、TPM 和并发限制。

  3. 第 3 步

    路由

    按调度策略选择健康渠道,失败时冷却并转移到下一个账号。

  4. 第 4 步

    翻译与记录

    执行器按上游协议转换请求并流式返回,同时写入请求日志和用量汇总。

快速上手

  1. 1

    准备依赖

    安装 Go 1.26+、PostgreSQL 15+ 和 Redis 7+。

  2. 2

    获取发布版

    从 GitHub Releases 下载对应平台的二进制文件。

  3. 3

    启动服务

    配置数据库和 Redis 连接后启动,默认监听 8317 端口。

  4. 4

    打开控制面板

    浏览器访问 /manage,添加账号并创建客户端 Key。

适合谁

  • 需要统一管理多个 AI 账号和 Key 的团队
  • 希望自托管、掌控数据和用量的组织
  • 使用 Claude Code、Codex、Gemini CLI 的开发者

不太适合

  • 只想快速试用单个 API 的个人用户
  • 不愿维护数据库和缓存服务的轻量场景

成熟度

  • 活跃度最近一次推送在 2026-11 月,创建不到一年已有千余 star,更新较活跃。
  • 文档README 结构完整,含流程图、控制面板截图和配置说明,另有独立文档站。
  • 社区约 1059 star、134 fork、10 个开放 issue,社区规模中等。
  • 上手难度需要 PostgreSQL 和 Redis,配置项较多,上手需要一定运维经验。

同类项目怎么选

  • CLIProxyAPICliRelay 的上游项目,CliRelay 在其基础上增加了多租户、控制面板和运维层。
  • LiteLLMPython 实现的 LLM 代理,侧重统一调用和计费,多租户与 CLI 订阅支持不同。
  • One API国内常用的 API 聚合分发项目,侧重 Key 管理和渠道分发,协议与定位有差异。

使用前注意

  • · 依赖 PostgreSQL 15+ 和 Redis 7+,部署前需准备这两项服务。
  • · 项目是 CLIProxyAPI 的扩展分支,上游变更可能带来兼容性维护成本。
  • · 使用订阅账号做网关需自行确认各服务商的使用条款。
  • · 控制面板为独立仓库 kittors/codeProxy,需留意版本匹配。

主题标签

ai-gatewayanthropicapi-gatewayclaude-codegemini-cligollmllm-proxymulti-tenantopenaiopenai-codexself-hosted