beam-cloud GitHub avatar

beta9

Go
无服务器GPU推理平台beam-cloud最近推送 2026年11月19日
模型推理与部署AGPL-3.01,85517757 issues7 天 +7

AI 分析 · 由大模型根据 README 与仓库数据生成 · 2026年11月18日

开源无服务器运行时,用 Python 部署和扩展 GPU 推理、沙箱与后台任务。

Beam(仓库名 beta9)是一个面向 AI 工作负载的开源无服务器运行时,提供 Python 接口来部署和扩展 AI 应用,减少基础设施管理工作。它支持无服务器 GPU 推理、隔离沙箱和后台任务队列,可自托管,也可使用其托管云服务。

推荐指数

4.0

适合想自托管或快速上线 GPU 推理与后台任务的团队,Python 接口简单,但需接受 AGPL 许可。

近 7 天

+7

新增 Star

总 Star 排名

#2398

雷达追踪的 3,958 个 AI 仓库中

创建于

2023

2023年11月15日

核心亮点

  • 1冷启动快

    自研容器运行时与调度器,README 称容器可在 1 秒内启动。

  • 2Python 接口

    用装饰器定义端点、任务队列和沙箱,无需写基础设施配置。

  • 3弹性伸缩

    默认无服务器,支持按队列深度自动扩缩容到零。

  • 4GPU 支持

    可用其云上 4090、H100 等 GPU,也可接入自有 GPU。

  • 5可自托管

    Beta9 是 Beam 云平台的开源引擎,可免费自行部署。

适用场景

  • 模型推理服务

    例如:用 @endpoint 装饰器把自定义模型部署成带自动扩缩容的推理接口。

  • LLM 代码沙箱

    例如:创建 Sandbox 容器,远程执行大模型生成的 Python 代码并取回结果。

  • 后台任务队列

    例如:用 @task_queue 替代 Celery,处理图片并设置失败重试。

  • 批量并行计算

    例如:把任务分发到上百个容器并行执行。

它是怎么工作的

  1. 第 1 步

    编写 Python 代码

    用 endpoint、task_queue、Sandbox 等接口定义工作负载。

  2. 第 2 步

    打包镜像

    通过 Image 指定 Python 版本和依赖,构建运行环境。

  3. 第 3 步

    调度到容器

    自研调度器把任务分配到容器,并按需扩缩容。

  4. 第 4 步

    运行与返回

    容器执行任务,结果通过接口或 webhook 返回。

快速上手

  1. 1

    安装客户端

    用 pip 安装 Beam 客户端。

    pip install beam-client
  2. 2

    注册账号

    在 Beam 官网创建账号并完成引导。

  3. 3

    运行示例

    参考 README 中的 Sandbox 或 endpoint 示例代码。

适合谁

  • 需要弹性 GPU 推理的 AI 开发团队
  • 想用 Python 简化部署的后端开发者
  • 希望自托管无服务器平台的运维团队

不太适合

  • 不接受 AGPL 许可的商业项目
  • 需要非 Python 技术栈的团队

成熟度

  • 活跃度最近一次推送在 2026 年 11 月,仍在持续开发。
  • 文档有独立文档站、快速开始和 Colab 示例。
  • 社区约 1855 star、176 fork,50 个开放 issue,规模中等。
  • 上手难度pip 安装加 Python 装饰器即可上手,自托管需更多运维工作。

同类项目怎么选

  • Modal托管式无服务器平台,闭源,无需自运维。
  • RunPod偏 GPU 云主机与无服务器 GPU,托管为主。
  • Knative通用 Kubernetes 无服务器框架,不专门面向 AI 工作负载。

使用前注意

  • · 采用 AGPL-3.0 许可,商用或修改分发前需确认合规。
  • · 自托管需要自行维护容器运行时、调度器和 GPU 环境。
  • · README 中的性能数据(如 1 秒冷启动)来自项目自述,未独立验证。
  • · 使用其托管云 GPU 会产生费用。

主题标签

gpuml-platformcudafine-tuninggenerative-ailarge-language-modelsllmdistributed-computingllm-inferenceself-hostedautoscalercloudrundeveloper-productivityfaasfunctions-as-a-servicepaasserverlessserverless-containers