AI 分析 · 由大模型根据 README 与仓库数据生成 · 2026年11月18日
用 Go 写的 AI 网关,统一多家大模型 API 并做路由、缓存和用量追踪。
GoModel 是一个用 Go 实现的 AI 网关、控制面和代理,对外提供 OpenAI 兼容(/v1)和 Anthropic 兼容(/v1/messages)两套接口,可接入 OpenAI、Anthropic、Gemini、Groq、xAI、Ollama、vLLM 等众多模型服务。它定位为 LiteLLM 的替代品,内置可观测性、护栏、流式输出、成本追踪、智能路由、粘性会话、故障切换、实时日志和用量统计,并自称可用于生产环境。
推荐指数
功能覆盖较全、部署简单的 Go 版 AI 网关,适合需要统一多模型入口的团队,但项目较新、未关闭 issue 偏多,建议先小范围验证。
近 7 天
+7
新增 Star
总 Star 排名
#2940
雷达追踪的 3,958 个 AI 仓库中
创建于
2025
2025年12月6日
核心亮点
1双协议兼容
同时提供 OpenAI 兼容和 Anthropic 兼容接口,官方 SDK 改 base URL 即可用。
2多供应商接入
README 列出 OpenAI、Anthropic、Gemini、Groq、Ollama、vLLM、Bedrock 等数十家供应商。
3成本与预算
按请求估算成本,支持用户、团队、密钥维度的软性预算上限。
4缓存与路由
支持精确和语义缓存、智能路由、粘性会话与故障切换。
5自带管理面板
提供 Dashboard 查看用量分析、实时日志和花费明细。
适用场景
多模型统一入口
例如:后端只对接 GoModel 的 /v1,由网关按配置转发到 OpenAI 或 Anthropic。
控制 API 成本
例如:为不同团队设置预算和速率限制,在面板查看各模型花费。
本地与云端混合
例如:把 Ollama、vLLM 自托管模型和云端 API 放在同一网关后统一调用。
故障切换
例如:主供应商报错时自动切到备用供应商,保证服务可用。
它是怎么工作的
第 1 步
启动网关
通过 Docker 或安装脚本启动 GoModel,默认监听 8080 端口。
第 2 步
配置供应商
在 Dashboard 或 .env、config.yaml 中填入各供应商的 API Key。
第 3 步
客户端改地址
把 OpenAI 或 Anthropic SDK 的 base URL 指向网关地址。
第 4 步
网关转发处理
请求经缓存、路由、限流、预算检查后转发到目标模型并记录用量。
第 5 步
查看用量
在管理面板或 Usage API 查看成本、日志和剩余额度。
快速上手
- 1
Docker 启动
一条命令拉起网关并挂载数据卷。
docker run --rm -p 8080:8080 -v gomodel_data:/app/data enterpilot/gomodel - 2
打开面板
浏览器访问管理后台,添加供应商和密钥。
- 3
发起调用
用 curl 调用 OpenAI 兼容接口测试。
curl http://localhost:8080/v1/responses -H "Content-Type: application/json" -d '{"model":"gpt-5-chat-latest","input":"Hello!"}'
适合谁
- 需要统一管理多家大模型 API 的团队
- 希望追踪 token 成本和设置预算的工程团队
- 偏好 Go 技术栈、想要轻量自托管网关的开发者
不太适合
- 只需要调用单一模型、不想多一层代理的个人项目
- 对项目成熟度和 issue 响应速度要求很高的生产团队
成熟度
- 活跃度2025 年 12 月创建,最近一次推送在 2026 年 11 月,仍在活跃开发。
- 文档有独立文档站、配置参考、API 文档和 .env 模板。
- 社区约 1.3k star、136 fork,有 Discord,但未关闭 issue 达 149 个。
- 上手难度Docker 一条命令启动,带管理面板,配置方式灵活。
同类项目怎么选
- LiteLLMPython 实现,生态更成熟,GoModel 主打 Go 的性能和资源占用。
- Portkey Gateway同为 AI 网关,README 称其 GitHub 版本已不再维护。
- One API偏重多模型密钥分发和额度管理,GoModel 更强调可观测性和路由策略。
使用前注意
- · 采用 MIT 许可,商用前仍建议确认依赖组件的许可。
- · 项目创建时间较短,生产使用前应做压力和故障演练。
- · 未关闭 issue 数量较多,遇到问题可能需自行排查。
- · 预算为软限制,并发和进行中的请求可能超出上限。
