ENTERPILOT GitHub avatar

GoModel

Go
大模型统一网关ENTERPILOT最近推送 2026年11月19日
模型推理与部署MIT1,324135141 issues7 天 +7

AI 分析 · 由大模型根据 README 与仓库数据生成 · 2026年11月18日

用 Go 写的 AI 网关,统一多家大模型 API 并做路由、缓存和用量追踪。

GoModel 是一个用 Go 实现的 AI 网关、控制面和代理,对外提供 OpenAI 兼容(/v1)和 Anthropic 兼容(/v1/messages)两套接口,可接入 OpenAI、Anthropic、Gemini、Groq、xAI、Ollama、vLLM 等众多模型服务。它定位为 LiteLLM 的替代品,内置可观测性、护栏、流式输出、成本追踪、智能路由、粘性会话、故障切换、实时日志和用量统计,并自称可用于生产环境。

推荐指数

4.0

功能覆盖较全、部署简单的 Go 版 AI 网关,适合需要统一多模型入口的团队,但项目较新、未关闭 issue 偏多,建议先小范围验证。

近 7 天

+7

新增 Star

总 Star 排名

#2940

雷达追踪的 3,958 个 AI 仓库中

创建于

2025

2025年12月6日

核心亮点

  • 1双协议兼容

    同时提供 OpenAI 兼容和 Anthropic 兼容接口,官方 SDK 改 base URL 即可用。

  • 2多供应商接入

    README 列出 OpenAI、Anthropic、Gemini、Groq、Ollama、vLLM、Bedrock 等数十家供应商。

  • 3成本与预算

    按请求估算成本,支持用户、团队、密钥维度的软性预算上限。

  • 4缓存与路由

    支持精确和语义缓存、智能路由、粘性会话与故障切换。

  • 5自带管理面板

    提供 Dashboard 查看用量分析、实时日志和花费明细。

适用场景

  • 多模型统一入口

    例如:后端只对接 GoModel 的 /v1,由网关按配置转发到 OpenAI 或 Anthropic。

  • 控制 API 成本

    例如:为不同团队设置预算和速率限制,在面板查看各模型花费。

  • 本地与云端混合

    例如:把 Ollama、vLLM 自托管模型和云端 API 放在同一网关后统一调用。

  • 故障切换

    例如:主供应商报错时自动切到备用供应商,保证服务可用。

它是怎么工作的

  1. 第 1 步

    启动网关

    通过 Docker 或安装脚本启动 GoModel,默认监听 8080 端口。

  2. 第 2 步

    配置供应商

    在 Dashboard 或 .env、config.yaml 中填入各供应商的 API Key。

  3. 第 3 步

    客户端改地址

    把 OpenAI 或 Anthropic SDK 的 base URL 指向网关地址。

  4. 第 4 步

    网关转发处理

    请求经缓存、路由、限流、预算检查后转发到目标模型并记录用量。

  5. 第 5 步

    查看用量

    在管理面板或 Usage API 查看成本、日志和剩余额度。

快速上手

  1. 1

    Docker 启动

    一条命令拉起网关并挂载数据卷。

    docker run --rm -p 8080:8080 -v gomodel_data:/app/data enterpilot/gomodel
  2. 2

    打开面板

    浏览器访问管理后台,添加供应商和密钥。

  3. 3

    发起调用

    用 curl 调用 OpenAI 兼容接口测试。

    curl http://localhost:8080/v1/responses -H "Content-Type: application/json" -d '{"model":"gpt-5-chat-latest","input":"Hello!"}'

适合谁

  • 需要统一管理多家大模型 API 的团队
  • 希望追踪 token 成本和设置预算的工程团队
  • 偏好 Go 技术栈、想要轻量自托管网关的开发者

不太适合

  • 只需要调用单一模型、不想多一层代理的个人项目
  • 对项目成熟度和 issue 响应速度要求很高的生产团队

成熟度

  • 活跃度2025 年 12 月创建,最近一次推送在 2026 年 11 月,仍在活跃开发。
  • 文档有独立文档站、配置参考、API 文档和 .env 模板。
  • 社区约 1.3k star、136 fork,有 Discord,但未关闭 issue 达 149 个。
  • 上手难度Docker 一条命令启动,带管理面板,配置方式灵活。

同类项目怎么选

  • LiteLLMPython 实现,生态更成熟,GoModel 主打 Go 的性能和资源占用。
  • Portkey Gateway同为 AI 网关,README 称其 GitHub 版本已不再维护。
  • One API偏重多模型密钥分发和额度管理,GoModel 更强调可观测性和路由策略。

使用前注意

  • · 采用 MIT 许可,商用前仍建议确认依赖组件的许可。
  • · 项目创建时间较短,生产使用前应做压力和故障演练。
  • · 未关闭 issue 数量较多,遇到问题可能需自行排查。
  • · 预算为软限制,并发和进行中的请求可能超出上限。

主题标签

proxyai-gatewayanthropicgogolanggroqllmllm-gatewayobservabilityollamaopenaiopenai-compatibleopenai-compatible-apiopenai-compatible-proxy-serverlitellm-alternativelitellm