siliconflow GitHub avatar

onediff

Jupyter Notebook
扩散模型加速库siliconflow最近推送 2025年12月4日
模型推理与部署Apache-2.01,961128128 issues

AI 分析 · 由大模型根据 README 与仓库数据生成 · 2026年11月18日

一行代码加速扩散模型推理,支持 Diffusers 和 ComfyUI。

OneDiff 是一个开箱即用的扩散模型加速库,提供对 HuggingFace Diffusers 和 ComfyUI 等流行 UI/库的加速支持,以及 PyTorch 代码编译工具和优化的 GPU 内核。

推荐指数

4.0

适合需要加速扩散模型推理的开发者,集成简单,但需注意平台和编译依赖。

总 Star 排名

#2323

雷达追踪的 3,958 个 AI 仓库中

创建于

2022

2022年9月21日

核心亮点

  • 1一行代码加速

    通过简单修改即可获得推理加速,无需深入优化细节。

  • 2多生态支持

    支持 HF Diffusers、ComfyUI 和 Stable Diffusion WebUI。

  • 3编译优化

    提供 PyTorch 模块编译和 GPU 内核优化,减少推理时间。

  • 4生产环境适配

    支持分布式运行和避免编译时间,适合在线服务。

适用场景

  • 图像生成工作流加速

    例如:在 ComfyUI 中使用 OneDiff 节点,将 SDXL 生成速度提升至多 3 倍。

  • 模型部署优化

    例如:在 Diffusers 管道中启用 OneDiff,减少在线服务的推理延迟。

  • 视频生成加速

    例如:对 Stable Video Diffusion 应用 OneDiff 和 DeepCache,实现 3 倍加速。

它是怎么工作的

  1. 第 1 步

    安装依赖

    安装 PyTorch、Diffusers 和编译器后端(Nexfort 或 OneFlow)。

  2. 第 2 步

    集成 OneDiff

    在代码中导入 OneDiff 并应用加速配置,或使用 ComfyUI 节点。

  3. 第 3 步

    编译优化

    OneDiff 对模型进行编译和内核优化,生成高效执行计划。

  4. 第 4 步

    运行推理

    执行加速后的模型,获得更快的生成速度。

快速上手

  1. 1

    安装 PyTorch 和 Diffusers

    根据官方文档安装兼容版本的 PyTorch 和 Diffusers。

  2. 2

    安装编译器后端

    选择安装 Nexfort 或 OneFlow 作为编译器后端。

  3. 3

    安装 OneDiff

    通过 pip 安装 onediff 包。

    pip install onediff
  4. 4

    应用加速

    在 Diffusers 脚本中导入 OneDiff 并启用加速,或使用 ComfyUI 节点。

适合谁

  • 使用 Diffusers 或 ComfyUI 的开发者
  • 需要优化扩散模型推理速度的团队
  • 部署图像/视频生成服务的工程师

不太适合

  • 仅使用 Windows 且不愿使用 WSL 的用户
  • 不需要加速或对性能不敏感的初学者

成熟度

  • 活跃度最近更新于 2025 年 12 月,持续维护。
  • 文档README 详细,有独立文档和示例。
  • 社区近 2000 star,128 个开放 issue,有 Discord 社区。
  • 上手难度需要安装编译后端和配置环境,有一定门槛。

同类项目怎么选

  • TensorRTNVIDIA 的推理优化库,通用性强但配置复杂,OneDiff 更专注于扩散模型且开箱即用。
  • DeepCache一种特定的缓存加速技术,OneDiff 集成了多种优化并支持更广泛的模型。

使用前注意

  • · 仅支持 Linux,Windows 需通过 WSL 使用。
  • · 需要安装额外的编译器后端(Nexfort 或 OneFlow),增加依赖复杂度。
  • · 加速效果因模型和硬件而异,需实际测试。
  • · Apache-2.0 许可,可商用。

主题标签

comfyuidiffuserspytorchsdxlstable-diffusionaigc-servingcomfyui-workflowcudainference-enginelcmlcm-loraperformance-optimizationsd-webuistable-video-diffusiondiffusion-modelslorasdxl-turbo