AI 分析 · 由大模型根据 README 与仓库数据生成 · 2026年11月17日
ModelScope 出品的大模型微调框架,统一支持 600+ 文本模型和 400+ 多模态模型的训练、推理与部署。
ms-swift 是魔搭社区提供的大模型与多模态大模型微调及部署框架,覆盖预训练、微调、人类对齐、推理、评估、量化和部署全流程。它支持 600+ 纯文本大模型和 400+ 多模态大模型,并集成 Megatron 并行、GRPO 系列强化学习算法以及 vLLM/SGLang/LMDeploy 推理加速。
推荐指数
功能覆盖全面、模型支持广泛、社区活跃,是当前最值得尝试的开源微调框架之一。
近 7 天
+34
新增 Star
总 Star 排名
#446
雷达追踪的 3,958 个 AI 仓库中
创建于
2023
2023年8月1日
核心亮点
1模型覆盖广
支持 600+ 文本大模型和 400+ 多模态大模型,热门模型 Day-0 适配。
2训练技术全
集成 LoRA/QLoRA 等轻量微调、GRPO 系列强化学习、Megatron 并行和序列并行。
3全流程支持
从训练、推理、评估到量化、部署,提供一站式工具链。
4硬件兼容多
支持 NVIDIA、AMD、华为昇腾、MetaX、摩尔线程以及 Apple MPS 和 CPU。
5内置数据集
自带 150+ 数据集,覆盖预训练、微调、对齐和多模态任务,支持自定义。
适用场景
大模型指令微调
例如:用 LoRA 对 Qwen3 进行 SFT,在单张 24GB 显卡上完成训练。
多模态模型训练
例如:对 Qwen3-VL 进行图文混合数据微调,支持图像、视频和音频输入。
强化学习对齐
例如:使用 GRPO 算法对 DeepSeek-R1 进行偏好优化,提升推理能力。
模型量化部署
例如:将微调后的模型导出为 AWQ 量化格式,并用 vLLM 加速推理。
它是怎么工作的
第 1 步
准备数据
使用内置数据集或按格式准备自定义数据集。
第 2 步
选择模型与训练方式
指定模型 ID 和训练方法(如 LoRA、全参数、GRPO 等)。
第 3 步
启动训练
通过命令行或 Web-UI 配置参数并启动训练任务。
第 4 步
评估与量化
使用 EvalScope 评估模型效果,并按需进行量化导出。
第 5 步
部署推理
使用 vLLM、SGLang 或 LMDeploy 部署为 OpenAI 兼容接口。
快速上手
- 1
安装
通过 pip 安装 ms-swift。
pip install ms-swift -U - 2
启动 Web-UI
运行 web-ui 命令打开图形界面进行训练和推理。
swift web-ui - 3
命令行微调
使用 swift sft 命令对指定模型进行 LoRA 微调。
swift sft --model Qwen/Qwen2.5-7B-Instruct --train_type lora --dataset AI-ModelScope/alpaca-gpt4-data-zh#500
适合谁
- 需要统一流程微调多种大模型的算法工程师
- 研究多模态模型训练的研究人员
- 希望快速上手大模型微调的开发者
- 需要国产硬件适配的训练团队
不太适合
- 仅需推理部署、无需训练的用户
- 对框架底层完全自定义有强需求的团队
成熟度
- 活跃度最近更新于 2026 年 11 月,持续高频迭代。
- 文档提供中英文文档、论文和丰富示例。
- 社区16k+ star、1.8k fork,有 Discord 和微信群,但 open issue 较多(580)。
- 上手难度提供 Web-UI 和命令行,但功能繁多,新手需一定学习成本。
同类项目怎么选
- LLaMA-Factory同样支持多种微调方法,但模型覆盖和多模态支持相对较少,ms-swift 集成 Megatron 和 GRPO 系列更全面。
- Axolotl配置驱动,侧重文本模型微调,多模态和国产硬件支持不如 ms-swift。
- Unsloth专注训练加速和显存优化,模型支持范围较窄,ms-swift 功能更全但轻量性不如 Unsloth。
使用前注意
- · 采用 Apache-2.0 许可,商用需遵守许可条款。
- · 部分高级功能(如 Megatron 并行)需要多卡环境,硬件门槛较高。
- · 训练大模型需要相应显存,7B 模型量化训练最低约 9GB。
- · open issue 数量较多,遇到问题可能需要自行排查或社区求助。
