AI 分析 · 由大模型根据 README 与仓库数据生成 · 2026年11月18日
TigerBot 是一个多语言多任务的大语言模型系列,提供从 7B 到 180B 的预训练和对话模型,支持中文和英文。
TigerBot 由虎博科技开源,是一个多语言、多任务的大语言模型项目。它基于 Llama-2 继续预训练,发布了 7B、13B、70B 和 180B 的 base 与 chat 模型,并提供了模型下载、评测和 API 服务。项目还涉及医疗等垂直领域,如近期发布的 MedCT 中文临床术语体系。
推荐指数
适合需要中文能力较强的开源大模型的研究者和开发者,模型系列完整,但需注意硬件要求和许可条款。
总 Star 排名
#2124
雷达追踪的 3,958 个 AI 仓库中
创建于
2023
2023年5月12日
核心亮点
1多尺寸模型
提供 7B、13B、70B、180B 的 base 和 chat 模型,适应不同算力场景。
2中文优化
基于高质量中文数据训练,在多项中文基准评测中表现优于 Llama-2。
3长上下文支持
70B 和 13B chat 模型支持 100K 上下文长度,便于处理长文档。
4医疗领域扩展
发布 MedCT 中文临床术语体系和医疗 NER 模型,拓展垂直应用。
5开源可商用
采用 Apache-2.0 许可,允许免费商用(需遵守协议)。
适用场景
中文对话应用开发
例如:使用 TigerBot-70B-chat 构建智能客服或聊天机器人,处理中文用户咨询。
长文档理解与问答
例如:利用 100K 上下文模型,输入长篇报告或论文,进行摘要或问答。
医疗文本处理研究
例如:基于 MedCT 术语体系和医疗 NER 模型,进行临床文本实体识别实验。
多语言任务研究
例如:在学术研究中对比 TigerBot 与 Llama-2 在中英文基准上的表现。
它是怎么工作的
第 1 步
基座预训练
在 Llama-2 基础上,使用 500B tokens 的多语言数据继续预训练,优化中文数据清洗。
第 2 步
指令微调与对齐
使用约 20M 指令完成数据进行 SFT,并用人类标注数据进行拒绝采样和 DPO 对齐。
第 3 步
长上下文外推
通过 YaRN 方法对 RoPE 进行插值,将推理上下文扩展至 100K。
第 4 步
部署与推理
提供基于 Streamlit 的 Web 演示和 API 服务,支持本地或云端部署。
快速上手
- 1
下载模型
从 Hugging Face 或 ModelScope 下载对应尺寸的模型权重。
- 2
启动 Web 演示
使用 Streamlit 运行交互式界面,需指定模型路径和参数。
export PYTHONPATH='./' ; export CUDA_VISIBLE_DEVICES=0 ; streamlit run apps/web_demo.py -- --model_path tigerbot-70b-chat-v6 --rope_scaling yarn --rope_factor 8 --max_input_length 37888 --max_generate_length 62112 - 3
调用 API
参考官方 API 文档,使用 HTTP 请求调用 TigerBot 服务。
适合谁
- 需要中文能力较强的开源大模型的研究者
- 希望基于开源模型进行领域微调的开发者
- 有 GPU 资源(如 A100)的团队
- 对长上下文或医疗 NLP 感兴趣的人员
不太适合
- 没有 GPU 或算力有限的个人开发者
- 需要即开即用、无需部署的轻量级应用开发者
- 对模型许可有严格限制的商业用户(需仔细阅读 Apache-2.0 条款)
成熟度
- 活跃度最近更新在 2024 年 12 月,有持续发布新模型和功能。
- 文档README 详细,包含模型下载、评测和示例,但部分链接可能失效。
- 社区2258 stars 和 189 forks,有一定关注度,但 issue 数 45 表明社区互动一般。
- 上手难度需要自行下载模型和配置环境,对硬件有要求,上手门槛中等。
同类项目怎么选
- Llama-2TigerBot 基于 Llama-2 继续预训练,中文能力更强,但模型尺寸和生态不同。
- ChatGLMChatGLM 是另一系列中文开源模型,架构和训练数据不同,侧重对话优化。
- QwenQwen 提供多尺寸模型,同样支持中英文,但训练数据和评测体系有差异。
使用前注意
- · 模型尺寸较大(最大 180B),需要高性能 GPU 和足够显存。
- · Apache-2.0 许可允许商用,但需保留版权声明和免责条款。
- · 长上下文功能可能需要调整推理参数,效果受输入长度影响。
- · 部分链接(如论文、API 文档)可能随时间变化,建议以仓库最新信息为准。
