ray-project GitHub avatar

ray

Python
分布式AI计算引擎ray-project最近推送 2026年11月19日
训练与微调Apache-2.044.3k8,2903,810 issues7 天 +59

AI 分析 · 由大模型根据 README 与仓库数据生成 · 2026年11月17日

统一扩展 Python 与 AI 应用的分布式计算框架,含核心运行时和 ML 库。

Ray 是一个 AI 计算引擎,由核心分布式运行时和一组 AI 库组成,用于加速机器学习负载。它提供 Data、Train、Tune、RLlib、Serve 等库,覆盖数据处理、分布式训练、超参调优、强化学习和模型服务。核心抽象包括无状态任务、有状态 Actor 和跨集群对象,支持从笔记本到集群的同一份代码扩展。

推荐指数

5.0

Python 分布式 AI 计算的事实标准之一,生态完整、文档齐全,适合需要扩展 ML 工作负载的团队。

近 7 天

+59

新增 Star

总 Star 排名

#126

雷达追踪的 3,958 个 AI 仓库中

创建于

2016

2016年10月26日

核心亮点

  • 1统一运行时

    核心分布式运行时提供任务、Actor、对象三种抽象,可运行任意 Python 工作负载。

  • 2AI 库齐全

    内置 Data、Train、Tune、RLlib、Serve,覆盖数据处理到模型服务全流程。

  • 3无缝扩展

    同一份代码可从笔记本扩展到集群,无需重写应用。

  • 4环境兼容

    支持任意机器、集群、云厂商和 Kubernetes,并有社区集成生态。

  • 5可观测性

    提供 Ray Dashboard 监控集群,以及分布式调试器排查问题。

适用场景

  • 分布式模型训练

    例如:用 Ray Train 把 PyTorch 训练脚本从单机扩展到多机多卡。

  • 超参数调优

    例如:用 Ray Tune 并行搜索上百组超参数,缩短调优时间。

  • 模型在线服务

    例如:用 Ray Serve 部署 LLM 推理服务,按请求量弹性扩缩容。

  • 强化学习训练

    例如:用 RLlib 在集群上并行训练强化学习策略。

它是怎么工作的

  1. 第 1 步

    启动集群

    在本地或云上启动 Ray 集群,获得统一的计算资源池。

  2. 第 2 步

    定义任务与 Actor

    用 @ray.remote 装饰函数或类,把计算拆成可并行执行的任务或有状态 Actor。

  3. 第 3 步

    调度执行

    核心运行时负责任务调度、对象存储和跨节点数据传输。

  4. 第 4 步

    调用 AI 库

    在运行时之上使用 Data、Train、Tune、RLlib、Serve 等库完成具体 ML 流程。

  5. 第 5 步

    监控调试

    通过 Dashboard 和分布式调试器观察集群状态并排查问题。

快速上手

  1. 1

    安装 Ray

    用 pip 安装 Ray 核心包。

    pip install ray
  2. 2

    运行示例

    参考官方文档的 Ray Core 入门示例,定义远程任务并在本地执行。

  3. 3

    扩展到集群

    按安装页面指引连接或启动集群,同一份代码即可分布式运行。

适合谁

  • 需要把 Python 计算扩展到多机的开发者
  • 做分布式训练或超参调优的 ML 工程师
  • 需要部署模型服务或 LLM 推理的团队
  • 研究强化学习的团队

不太适合

  • 只做单机小规模脚本、无扩展需求的用户
  • 不想引入分布式系统复杂度的初学者

成熟度

  • 活跃度创建于 2016 年,最近一次推送在 2026 年 11 月,持续活跃开发。
  • 文档README 链接完整官方文档、架构白皮书和多篇论文,覆盖各库。
  • 社区44k+ star、8k+ fork,有论坛、Slack、StackOverflow 等多渠道支持。
  • 上手难度pip 安装简单,但分布式概念和集群运维需要一定学习成本。

同类项目怎么选

  • Dask更偏数据并行和 DataFrame 计算,AI 训练与服务库不如 Ray 完整。
  • Apache Spark以批处理 SQL 和 DataFrame 为主,对 Python 原生 ML 工作负载和在线服务的支持较弱。
  • Horovod专注分布式深度学习训练,不提供数据处理、调优和服务等统一运行时。

使用前注意

  • · 采用 Apache-2.0 许可,商用需保留版权与许可声明。
  • · 集群部署和运维需要额外基础设施知识,云上使用可能产生成本。
  • · 开放 issue 数量较多(3800+),遇到问题需自行排查或依赖社区响应。
  • · README 中推广了 Anyscale 托管服务,自建与托管需按需选择。

主题标签

raydistributedparallelmachine-learningreinforcement-learningdeep-learningpythonrllibhyperparameter-searchoptimizationdata-sciencehyperparameter-optimizationservingdeploymentpytorchtensorflowllm-servinglarge-language-modelsllmllm-inference