eliasbiondo GitHub avatar

antirion

Rust
大模型网关eliasbiondo最近推送 2026年11月14日
模型推理与部署Apache-2.04681846 issues7 天 +11

AI 分析 · 由大模型根据 README 与仓库数据生成 · 2026年11月18日

一个Rust编写的AI网关,统一路由多家LLM调用并管理预算与安全。

Antirion是一个用Rust编写的开源AI网关,以单一二进制形式提供,内置管理控制台。它位于你的应用和模型提供商之间,统一路由OpenAI、Anthropic、Gemini、Bedrock等多家LLM的调用,并提供安全控制、预算管理和可观测性。

推荐指数

4.0

性能突出、功能全面的自托管AI网关,适合需要集中管理多家模型API的团队。

近 7 天

+11

新增 Star

总 Star 排名

#3694

雷达追踪的 3,958 个 AI 仓库中

创建于

2026

2026年10月18日

核心亮点

  • 1高性能Rust实现

    基准测试显示其开销远低于Bifrost和LiteLLM,在4 vCPU上可维持数千请求每秒。

  • 2单一二进制含控制台

    网关、管理API和Web控制台打包为一个Rust二进制或distroless镜像,无需额外部署。

  • 3多提供商统一API

    支持OpenAI、Anthropic、Gemini、Bedrock等主流提供商,客户端可用任意兼容协议调用。

  • 4预算与安全控制

    支持按组织、团队、项目、密钥设置美元或token预算,并提供PII、提示注入等防护规则。

  • 5生产级特性

    包含精确/语义缓存、MCP与代理网关、SSO(OIDC/SAML/SCIM)、审计日志和集群部署。

适用场景

  • 多模型统一接入

    例如:团队同时使用OpenAI和Anthropic,通过Antirion统一API端点调用,无需修改客户端代码。

  • 成本与预算管理

    例如:为不同项目设置月度美元预算,超出时自动告警或限流。

  • 安全合规防护

    例如:在请求和响应中检测并脱敏PII信息,防止敏感数据泄露给模型提供商。

  • 高可用路由

    例如:配置回退链和重试策略,当主提供商故障时自动切换到备用提供商。

它是怎么工作的

  1. 第 1 步

    部署网关

    通过Docker运行单一二进制,数据面(/v1)和管理面(8081)分别监听端口。

  2. 第 2 步

    配置提供商

    在控制台添加OpenAI、Anthropic等提供商的API密钥并测试连接。

  3. 第 3 步

    创建密钥与策略

    为团队或项目生成访问密钥,设置预算、速率限制和防护规则。

  4. 第 4 步

    应用调用

    应用将请求发送到网关的/v1端点,网关负责路由、翻译、安全检查和记录。

快速上手

  1. 1

    启动网关

    使用Docker运行,无需配置文件,首次启动会打印控制台地址和管理员令牌。

    docker run -p 8080:8080 -p 8081:8081 -v antirion-data:/var/lib/antirion eliasbiondo/antirion
  2. 2

    登录控制台

    打开http://localhost:8081/ui/,粘贴管理员令牌登录。

  3. 3

    添加提供商

    在控制台选择Providers → Add provider,填入OpenAI或Anthropic的API密钥并测试。

适合谁

  • 需要统一管理多家LLM API的开发团队
  • 关注网关性能和资源占用的运维人员
  • 需要预算控制和安全防护的企业用户

不太适合

  • 只需要调用单一模型、无集中管理需求的个人开发者
  • 不想自托管和维护服务的用户

成熟度

  • 活跃度创建于2026年10月,最近推送在2026年11月,更新活跃。
  • 文档README详细,包含性能基准、快速开始和架构说明,并有docs目录。
  • 社区467星、19个fork,45个开放issue,社区规模中等。
  • 上手难度提供Docker一键启动,内置控制台,无需配置文件即可上手。

同类项目怎么选

  • LiteLLMPython实现,功能类似但性能开销较大,基准测试中在高负载下出现错误。
  • Bifrost同为AI网关,但Antirion声称在相同硬件上开销更低、吞吐更高。

使用前注意

  • · 采用Apache-2.0许可证,商用需遵守许可条款。
  • · 需要自托管Docker环境,并自行管理数据持久化。
  • · 部分高级功能(如集群、SSO)可能需要额外配置PostgreSQL和Valkey。
  • · 性能数据来自项目方基准测试,实际表现可能因环境而异。

主题标签

ai-gatewayanthropicguardrailsllmllm-gatewayobservabilityopenairusta2aapi-gatewaylitellm-alternativellm-proxymcpmcp-gatewayopenai-proxyrate-limitingself-hostedbifrost-alternative