bestruirui GitHub avatar

octopus

TypeScript
大模型聚合网关bestruirui最近推送 2026年10月23日
模型推理与部署AGPL-3.02,75044817 issues7 天 +3

AI 分析 · 由大模型根据 README 与仓库数据生成 · 2026年11月18日

自托管的 LLM API 聚合网关,统一接入多家模型渠道。

Octopus 是一个为个人打造的 LLM API 聚合网关,用 TypeScript 编写、以单个二进制文件部署。它把多个 LLM 服务商的渠道集中到一个管理面板里,统一处理协议转换、模型与价格同步、故障切换和请求统计,让开发者用一个入口管理所有模型接口和凭据。

推荐指数

4.0

功能完整、部署简单的个人 LLM 网关,适合需要集中管理多模型渠道的开发者。

近 7 天

+3

新增 Star

总 Star 排名

#1862

雷达追踪的 3,958 个 AI 仓库中

创建于

2025

2025年11月18日

核心亮点

  • 1多渠道聚合

    把多个 LLM 服务商渠道接入同一面板统一管理。

  • 2协议转换

    在 OpenAI Chat、OpenAI Responses 与 Anthropic 格式之间转换。

  • 3自动故障切换

    上游渠道失败时自动切换到可用渠道。

  • 4单二进制部署

    前端构建产物嵌入 Go 二进制,无外部运行时依赖。

  • 5请求可视化

    前端可实时查看请求从发出到返回的完整路径。

适用场景

  • 个人多模型统一入口

    例如:把 OpenAI、Anthropic 等渠道接入 Octopus,客户端只配置一个地址。

  • 编码助手后端

    例如:为 Claude Code、Codex 等工具提供统一的 API 入口和故障切换。

  • 用量与成本统计

    例如:在面板中查看各渠道的请求量、token 消耗和费用。

它是怎么工作的

  1. 第 1 步

    配置渠道

    在管理面板中添加各 LLM 服务商的 Base URL 和凭据。

  2. 第 2 步

    协议转换

    按渠道类型自动拼接端点并转换请求/响应格式。

  3. 第 3 步

    路由与容错

    请求分发到可用渠道,失败时自动切换。

  4. 第 4 步

    记录统计

    把请求日志、token 和费用写入所选数据库。

快速上手

  1. 1

    Docker 运行

    挂载数据目录并映射 8080 端口启动容器。

    docker run -d --name octopus -v /path/to/data:/app/data -p 8080:8080 bestrui/octopus
  2. 2

    下载二进制

    从 Releases 下载对应平台文件后启动。

    ./octopus start
  3. 3

    登录面板

    访问 http://localhost:8080,用 admin/admin 登录并立即改密码。

适合谁

  • 需要集中管理多个 LLM 渠道的个人开发者
  • 使用 Claude Code、Codex 等编码助手的用户
  • 希望自托管、掌控 API 凭据的人

不太适合

  • 需要企业级多租户和审计能力的团队
  • 不想自行部署和维护服务的用户

成熟度

  • 活跃度最近一次推送在 2026-10-23,仓库创建不足一年已有 2746 star。
  • 文档README 覆盖部署、配置、数据库和环境变量,较完整。
  • 社区449 fork、17 个开放 issue,社区规模中等。
  • 上手难度提供 Docker 和二进制两种方式,默认配置即可启动。

同类项目怎么选

  • LiteLLMPython 实现,侧重统一 SDK 与代理,渠道和模型覆盖更广。
  • One API同样做多渠道聚合,但 Octopus 强调单二进制部署和请求可视化。

使用前注意

  • · 采用 AGPL-3.0 许可,商用或修改分发需注意开源义务。
  • · 首次登录默认账号密码为 admin/admin,必须立即修改。
  • · MySQL 和 PostgreSQL 需手动建库,应用只自动建表。
  • · 自托管需自行保障服务安全和上游凭据管理。

主题标签

aiai-gatewayanthropicclaudeclaude-codecodexopenaiself-hostedllm-gatewaycodex-appcodex-clicodex-desktopopencodepigolangllm-router