modelscope GitHub avatar

ms-swift

Python
Swift 大模型微调框架modelscope最近推送 2026年11月19日
训练与微调Apache-2.016.1k1,811585 issues7 天 +34

AI 分析 · 由大模型根据 README 与仓库数据生成 · 2026年11月17日

ModelScope 出品的大模型微调框架,统一支持 600+ 文本模型和 400+ 多模态模型的训练、推理与部署。

ms-swift 是魔搭社区提供的大模型与多模态大模型微调及部署框架,覆盖预训练、微调、人类对齐、推理、评估、量化和部署全流程。它支持 600+ 纯文本大模型和 400+ 多模态大模型,并集成 Megatron 并行、GRPO 系列强化学习算法以及 vLLM/SGLang/LMDeploy 推理加速。

推荐指数

5.0

功能覆盖全面、模型支持广泛、社区活跃,是当前最值得尝试的开源微调框架之一。

近 7 天

+34

新增 Star

总 Star 排名

#446

雷达追踪的 3,958 个 AI 仓库中

创建于

2023

2023年8月1日

核心亮点

  • 1模型覆盖广

    支持 600+ 文本大模型和 400+ 多模态大模型,热门模型 Day-0 适配。

  • 2训练技术全

    集成 LoRA/QLoRA 等轻量微调、GRPO 系列强化学习、Megatron 并行和序列并行。

  • 3全流程支持

    从训练、推理、评估到量化、部署,提供一站式工具链。

  • 4硬件兼容多

    支持 NVIDIA、AMD、华为昇腾、MetaX、摩尔线程以及 Apple MPS 和 CPU。

  • 5内置数据集

    自带 150+ 数据集,覆盖预训练、微调、对齐和多模态任务,支持自定义。

适用场景

  • 大模型指令微调

    例如:用 LoRA 对 Qwen3 进行 SFT,在单张 24GB 显卡上完成训练。

  • 多模态模型训练

    例如:对 Qwen3-VL 进行图文混合数据微调,支持图像、视频和音频输入。

  • 强化学习对齐

    例如:使用 GRPO 算法对 DeepSeek-R1 进行偏好优化,提升推理能力。

  • 模型量化部署

    例如:将微调后的模型导出为 AWQ 量化格式,并用 vLLM 加速推理。

它是怎么工作的

  1. 第 1 步

    准备数据

    使用内置数据集或按格式准备自定义数据集。

  2. 第 2 步

    选择模型与训练方式

    指定模型 ID 和训练方法(如 LoRA、全参数、GRPO 等)。

  3. 第 3 步

    启动训练

    通过命令行或 Web-UI 配置参数并启动训练任务。

  4. 第 4 步

    评估与量化

    使用 EvalScope 评估模型效果,并按需进行量化导出。

  5. 第 5 步

    部署推理

    使用 vLLM、SGLang 或 LMDeploy 部署为 OpenAI 兼容接口。

快速上手

  1. 1

    安装

    通过 pip 安装 ms-swift。

    pip install ms-swift -U
  2. 2

    启动 Web-UI

    运行 web-ui 命令打开图形界面进行训练和推理。

    swift web-ui
  3. 3

    命令行微调

    使用 swift sft 命令对指定模型进行 LoRA 微调。

    swift sft --model Qwen/Qwen2.5-7B-Instruct --train_type lora --dataset AI-ModelScope/alpaca-gpt4-data-zh#500

适合谁

  • 需要统一流程微调多种大模型的算法工程师
  • 研究多模态模型训练的研究人员
  • 希望快速上手大模型微调的开发者
  • 需要国产硬件适配的训练团队

不太适合

  • 仅需推理部署、无需训练的用户
  • 对框架底层完全自定义有强需求的团队

成熟度

  • 活跃度最近更新于 2026 年 11 月,持续高频迭代。
  • 文档提供中英文文档、论文和丰富示例。
  • 社区16k+ star、1.8k fork,有 Discord 和微信群,但 open issue 较多(580)。
  • 上手难度提供 Web-UI 和命令行,但功能繁多,新手需一定学习成本。

同类项目怎么选

  • LLaMA-Factory同样支持多种微调方法,但模型覆盖和多模态支持相对较少,ms-swift 集成 Megatron 和 GRPO 系列更全面。
  • Axolotl配置驱动,侧重文本模型微调,多模态和国产硬件支持不如 ms-swift。
  • Unsloth专注训练加速和显存优化,模型支持范围较窄,ms-swift 功能更全但轻量性不如 Unsloth。

使用前注意

  • · 采用 Apache-2.0 许可,商用需遵守许可条款。
  • · 部分高级功能(如 Megatron 并行)需要多卡环境,硬件门槛较高。
  • · 训练大模型需要相应显存,7B 模型量化训练最低约 9GB。
  • · open issue 数量较多,遇到问题可能需要自行排查或社区求助。

主题标签

llmlorasftmultimodalpeftligerembeddinggrpomegatronqwen3rerankermoeqwen3-vlqwen3-omnideepseekglmkimiqwenjev