01-ai GitHub avatar

Yi

Jupyter Notebook
通义千问大模型01-ai最近推送 2024年11月27日
模型推理与部署Apache-2.07,83250032 issues

AI 分析 · 由大模型根据 README 与仓库数据生成 · 2026年11月18日

01.AI 从头训练的中英双语大模型系列,提供模型权重与使用资源。

Yi 是 01.AI 团队从头训练的开源大语言模型系列,主打中英双语能力,训练语料达 3T。仓库提供模型权重、技术报告、微调与量化指南,以及快速上手示例,适合研究与开发使用。

推荐指数

4.0

双语能力突出、文档齐全的开源模型系列,适合需要中英文本处理与模型实验的开发者。

总 Star 排名

#847

雷达追踪的 3,958 个 AI 仓库中

创建于

2023

2023年11月4日

核心亮点

  • 1中英双语

    针对中英文优化,在多项中英文基准测试中表现靠前。

  • 2从头训练

    使用自建数据集与训练流程,非 Llama 权重衍生。

  • 3多种尺寸

    提供 6B、9B、34B 等不同参数规模的 Base 与 Chat 模型。

  • 4生态完善

    支持 Hugging Face、ModelScope 等平台,并有量化、微调、部署指南。

  • 5文档齐全

    包含技术报告、学习中心、Cookbook 及中英文 README。

适用场景

  • 中英文文本生成与理解

    例如:用 Yi-34B-Chat 搭建双语客服问答原型。

  • 模型微调实验

    例如:基于 Yi-6B-Base 在自有数据上做指令微调。

  • 本地部署与量化

    例如:用 llama.cpp 量化 Yi-9B 在消费级显卡上运行。

  • 学术研究与评测

    例如:对比 Yi 与其他开源模型在 C-Eval 上的表现。

它是怎么工作的

  1. 第 1 步

    选择模型

    根据任务和算力从 Base 或 Chat 系列中选取合适尺寸。

  2. 第 2 步

    获取权重

    从 Hugging Face 或 ModelScope 下载模型权重。

  3. 第 3 步

    加载推理

    使用 Transformers 或 llama.cpp 等工具加载模型进行推理。

  4. 第 4 步

    微调量化

    按需使用仓库提供的微调与量化指南调整模型。

  5. 第 5 步

    部署服务

    通过 vLLM、Docker 等方式部署为 API 服务。

快速上手

  1. 1

    安装依赖

    使用 pip 安装 transformers 等基础库。

    pip install transformers
  2. 2

    下载模型

    从 Hugging Face 拉取 Yi 模型权重。

  3. 3

    运行示例

    参考 README 中的 Python 代码加载模型并生成文本。

  4. 4

    可选 Docker

    使用仓库提供的 Docker 镜像快速启动。

适合谁

  • 需要中英双语大模型的研究者与开发者
  • 想基于开源模型做微调或量化实验的团队
  • 寻找可本地部署大模型的技术人员

不太适合

  • 需要开箱即用 API 服务的非技术用户
  • 算力资源有限、无法运行 6B 以上模型的个人

成熟度

  • 活跃度最近一次推送在 2024 年 11 月,更新频率一般。
  • 文档README 详细,含技术报告、学习中心和 Cookbook。
  • 社区约 7.8k star、500 fork,有 Discord 和讨论区,但 issue 数较少。
  • 上手难度提供 pip、Docker、llama.cpp 等多种上手方式,但大模型部署仍需一定门槛。

同类项目怎么选

  • Qwen阿里通义千问系列,同样主打中英双语,模型尺寸和生态更丰富。
  • LlamaMeta 开源模型,英文能力突出,中文需额外微调。
  • Baichuan百川智能开源的中文大模型系列,侧重中文场景。

使用前注意

  • · 模型权重较大,运行 34B 版本需要较高显存。
  • · 采用 Apache-2.0 许可,商用前建议确认具体模型卡说明。
  • · 部分下游工具(如量化、部署)需额外配置环境。
  • · 模型训练数据截止时间较早,知识可能不是最新。

主题标签

large-language-models