tashfeenahmed GitHub avatar

freellmapi

TypeScript
免费大模型聚合网关tashfeenahmed最近推送 2026年11月18日
模型推理与部署MIT54.7k7,70751 issues

AI 分析 · 由大模型根据 README 与仓库数据生成 · 2026年11月18日

把 87 家免费 LLM 提供商的 1300 多个端点统一成一个 OpenAI 兼容接口。

FreeLLMAPI 是一个 TypeScript 项目,聚合数十家提供商的免费额度,对外暴露单个 /v1 接口,兼容 OpenAI 客户端。它内置路由器,按请求选择可用模型,遇到限流自动切换到下一家,并记录每个密钥的用量以守住免费额度上限。密钥加密存储,也支持接入自定义的 OpenAI 兼容端点。

推荐指数

4.0

适合个人做多模型实验和免费额度聚合,但依赖第三方目录源,生产使用需谨慎。

总 Star 排名

#98

雷达追踪的 3,958 个 AI 仓库中

创建于

2026

2026年4月21日

核心亮点

  • 1统一接口

    所有提供商收敛到一个 OpenAI 兼容的 /v1 端点,现有客户端改 base URL 即可用。

  • 2智能路由与故障转移

    路由器按请求挑选可用模型,某家限流时自动切到下一家。

  • 3额度追踪

    按密钥记录用量,帮助控制在各提供商的免费额度上限内。

  • 4密钥加密

    存储的提供商密钥经过加密,不直接明文保存。

  • 5目录自动更新

    从签名目录源拉取模型清单,免费版延迟 30 天,付费版当天更新。

适用场景

  • 个人模型对比实验

    例如:用同一段提示词轮流调用不同免费模型,比较输出质量。

  • 免费额度聚合

    例如:把多家免费额度叠在一起,支撑日常轻量推理请求。

  • 兼容 OpenAI 的客户端接入

    例如:把本地编码助手或聊天客户端的 base URL 指向本服务。

它是怎么工作的

  1. 第 1 步

    添加提供商密钥

    在界面或配置中填入各提供商的 API 密钥,密钥加密存储。

  2. 第 2 步

    请求进入 /v1

    OpenAI 兼容客户端把请求发到本地服务的 /v1 端点。

  3. 第 3 步

    路由选模型

    路由器根据可用性和额度选择当前最合适的模型端点。

  4. 第 4 步

    失败自动切换

    遇到限流或错误时自动转到下一家提供商重试。

  5. 第 5 步

    记录用量

    按密钥累计用量,避免超出各免费层上限。

快速上手

  1. 1

    Docker 自托管

    按文档用 Docker Compose 启动服务。

  2. 2

    或安装桌面端

    提供 macOS、Microsoft Store、Google Play、App Store 版本。

  3. 3

    填入提供商密钥

    在界面中添加至少一个提供商的 API 密钥。

  4. 4

    指向 /v1

    把 OpenAI 客户端的 base URL 改为本地服务地址。

适合谁

  • 想低成本试用多家免费模型的个人开发者
  • 已有 OpenAI 兼容客户端、想换后端的用户
  • 需要自动故障转移的轻量实验项目

不太适合

  • 要求稳定 SLA 的生产系统
  • 不愿管理多家提供商密钥的用户

成熟度

  • 活跃度5.3 万 star、7 千多 fork,最近一次推送在 2026 年 11 月。
  • 文档README 结构完整,含安装、API、架构等多份文档,并有中文版。
  • 社区star 和 fork 数很高,开放 issue 仅 45 个,有 CI 和贡献指南。
  • 上手难度提供 Docker 和桌面端安装,接口兼容 OpenAI,上手门槛低。

同类项目怎么选

  • OpenRouter商业聚合平台,统一计费,免费模型有限,不是自托管。
  • LiteLLM同样做多提供商统一接口,但侧重代理与成本管理,免费额度聚合不是重点。

使用前注意

  • · 项目声明仅供个人实验,不建议用于生产。
  • · 免费模型目录依赖 freellmapi.co 的签名源,免费版更新延迟 30 天,实时目录需付费订阅。
  • · 需要自行申请并管理多家提供商的 API 密钥。
  • · 许可证为 MIT,但各提供商免费额度条款需自行遵守。