apache GitHub avatar

tvm

Python
深度学习编译器框架apache最近推送 2026年11月19日
模型推理与部署Apache-2.013.9k4,056511 issues7 天 +14

AI 分析 · 由大模型根据 README 与仓库数据生成 · 2026年11月18日

Apache TVM 是开源机器学习编译框架,把模型编译成可部署的最小模块。

Apache TVM 是一个开源的机器学习编译框架,采用 Python 优先的开发方式,便于快速定制编译流水线。它支持通用部署,能将模型打包成最小可部署模块。项目采用 Apache 提交者模式,由社区维护。

推荐指数

5.0

成熟且活跃的 ML 编译基础设施,适合需要跨硬件部署和深度优化的团队。

近 7 天

+14

新增 Star

总 Star 排名

#521

雷达追踪的 3,971 个 AI 仓库中

创建于

2016

2016年10月13日

核心亮点

  • 1Python 优先

    大部分编译变换可用 Python 定制,降低上手门槛。

  • 2跨层表示

    TensorIR 负责张量级、Relax 负责图级,联合优化计算图与算子。

  • 3通用部署

    可将模型编译为最小可部署模块,适配多种后端。

  • 4社区治理

    Apache 提交者模式,项目由社区共同维护和拥有。

适用场景

  • 跨硬件模型部署

    例如:把训练好的模型编译到 GPU、OpenCL 或 Metal 等后端运行。

  • 自定义编译优化

    例如:用 Python 编写自定义变换,优化特定算子的性能。

  • 构建垂直编译器

    例如:基于 TVM 为 LLM 等特定领域搭建 Python 优先的垂直编译器。

它是怎么工作的

  1. 第 1 步

    导入模型

    将训练框架中的模型转换为 TVM 可处理的表示。

  2. 第 2 步

    图级优化

    用 Relax 表示计算图并进行图级变换。

  3. 第 3 步

    张量级优化

    用 TensorIR 表示张量程序并做调度与优化。

  4. 第 4 步

    编译部署

    生成最小可部署模块,在目标硬件上运行。

快速上手

  1. 1

    阅读文档

    访问 TVM 文档站查看安装说明和教程。

  2. 2

    入门教程

    从 Getting Started with TVM 教程开始。

  3. 3

    参与贡献

    参考贡献者指南了解社区流程。

适合谁

  • 需要将模型部署到多种硬件的开发者
  • 希望深度定制编译流水线的工程师
  • 研究机器学习编译的研究人员
  • 构建领域专用编译器的团队

不太适合

  • 只想直接调用推理 API 的普通应用开发者
  • 不涉及模型部署与优化的数据科学家

成熟度

  • 活跃度最近更新于 2026 年 11 月,持续活跃开发。
  • 文档有独立文档站,包含安装、教程和贡献指南。
  • 社区近 1.4 万 star、4 千 fork,采用 Apache 社区治理模式。
  • 上手难度编译框架概念较多,需要一定学习成本。

同类项目怎么选

  • MLIR通用编译器基础设施,TVM 更聚焦机器学习编译与部署。
  • ONNX Runtime侧重推理运行时,TVM 提供编译优化与自定义流水线能力。
  • XLA主要服务于 TensorFlow 生态,TVM 更强调 Python 优先和跨后端部署。

使用前注意

  • · 采用 Apache-2.0 许可,商用需遵守许可条款。
  • · 编译与优化流程较复杂,建议先通读官方文档。
  • · 不同硬件后端的支持程度和性能表现可能有差异。

主题标签

compilertensordeep-learninggpuopenclmetalperformancejavascriptrocmtvmvulkanspirvmachine-learning