coaidev GitHub avatar

coai

TypeScript
多模型网关平台coaidev最近推送 2026年3月12日
模型推理与部署Apache-2.09,3471,22448 issues7 天 +1

AI 分析 · 由大模型根据 README 与仓库数据生成 · 2026年11月18日

多租户 AI 平台,统一接入 200+ 模型,内置管理与计费。

CoAI.Dev 是一个面向企业和开发团队的多租户 AI 一站式解决方案,内置管理后台和计费系统。它统一接入 35+ 供应商的 200+ 模型,提供优先级路由、负载均衡、成本管理、对话分享、云同步、文件解析、联网搜索和模型缓存等能力,适合构建和运营 LLM 应用。

推荐指数

4.0

功能全面的多租户 AI 网关与运营平台,适合需要统一管理模型和计费的企业团队。

近 7 天

+1

新增 Star

总 Star 排名

#731

雷达追踪的 3,958 个 AI 仓库中

创建于

2023

2023年7月18日

核心亮点

  • 1多模型统一接入

    支持 OpenAI、Anthropic、Gemini、Midjourney 等 35+ 供应商的 200+ 模型。

  • 2企业级渠道管理

    支持优先级路由、权重负载均衡、失败重试、模型重定向和用户分组。

  • 3内置计费系统

    支持订阅和弹性计费,可按请求或 token 计费,并管理兑换码和礼品码。

  • 4丰富文件解析

    开箱支持 PDF、Docx、Pptx、Excel 和图片解析,可对接 S3、R2、MinIO 等存储。

  • 5联网搜索与缓存

    基于 SearXNG 实现全模型联网搜索,并支持模型缓存减少重复请求和计费。

适用场景

  • 企业统一 AI 网关

    例如:公司内部多个应用通过同一套 OpenAI 兼容 API 调用不同供应商的模型,由平台统一做路由和成本控制。

  • AI 应用运营平台

    例如:站长部署后向用户提供多模型聊天服务,通过订阅或按量计费获得收入。

  • 多租户 SaaS 构建

    例如:开发团队基于多租户能力为不同客户分配独立额度和模型权限。

  • 模型对比与测试

    例如:开发者利用模型市场和预设系统快速切换模型,对比不同模型在相同提示下的输出。

它是怎么工作的

  1. 第 1 步

    配置渠道

    在后台添加各供应商的 API 密钥和渠道,设置优先级、权重和用户分组。

  2. 第 2 步

    统一接入

    客户端使用 OpenAI 标准格式调用平台接口,平台按路由规则转发到对应模型。

  3. 第 3 步

    计费与缓存

    根据请求或 token 计费,命中模型缓存时直接返回结果且不计费。

  4. 第 4 步

    管理与运营

    通过后台管理用户、订阅、兑换码、公告和模型市场等运营功能。

快速上手

  1. 1

    阅读部署文档

    访问官方部署指南了解 Docker 等部署方式。

  2. 2

    部署服务

    按文档启动 CoAI.Dev 服务并访问管理后台。

  3. 3

    配置模型渠道

    在后台添加供应商 API 密钥和渠道,设置路由规则。

  4. 4

    开始调用

    使用 OpenAI 兼容接口或内置聊天界面测试模型调用。

适合谁

  • 需要统一管理多家模型供应商的企业团队
  • 希望搭建 AI 聊天服务并实现计费运营的站长
  • 需要多租户和额度管理的 SaaS 开发者
  • 需要文件解析和联网搜索能力的应用开发者

不太适合

  • 只需要简单调用单个模型 API 的个人开发者
  • 不想维护后台和计费系统的轻量用户

成熟度

  • 活跃度最近一次推送在 2026 年 3 月,star 数超过 9000,持续活跃。
  • 文档README 功能说明详细,有独立文档站和部署指南,但部分高级功能文档需进一步查看。
  • 社区有 Discord 社区,fork 数超过 1200,issue 数 48 个,社区有一定规模。
  • 上手难度功能多、配置项复杂,需要一定部署和运维经验,开箱即用程度中等。

同类项目怎么选

  • One API侧重 API 网关和密钥分发,CoAI.Dev 额外提供完整聊天前端、计费和运营后台。
  • ChatGPT-Next-Web主要是聊天客户端,CoAI.Dev 是多租户平台,包含网关、计费和管理系统。
  • LobeChat侧重聊天界面和插件生态,CoAI.Dev 更强调企业级渠道管理和计费运营。

使用前注意

  • · 采用 Apache-2.0 许可证,商业二次开发友好,但需遵守许可证条款。
  • · 部分高级功能(如 TTS、RAG、支付)仅在商业版提供,开源版功能有限。
  • · 部署和配置涉及多个组件(数据库、存储、搜索等),需要一定运维成本。
  • · 模型缓存和计费逻辑需根据业务仔细配置,避免计费误差。

主题标签

chatgptgolangreactapichatcross-platformgeminiopenaiproxyai-gatewayllm-gateway