AI 分析 · 由大模型根据 README 与仓库数据生成 · 2026年11月17日
微软开源的生成式 AI 红队测试工具,用于发现模型和应用的安全与安全风险。
PyRIT 是 Python Risk Identification Tool for generative AI 的缩写,由微软 AI 红队和开源社区共同维护。它通过自动扫描、自适应多轮攻击和人工主导测试,帮助安全人员和工程师主动识别生成式 AI 系统的安全与安全弱点。工具集包含命令行扫描器、浏览器图形界面和可扩展的 Python 框架三部分。
推荐指数
背靠微软红队实践、生态完整,是评估生成式 AI 安全风险时值得优先考虑的开源工具。
近 7 天
+148
新增 Star
总 Star 排名
#1278
雷达追踪的 3,958 个 AI 仓库中
创建于
2023
2023年12月12日
核心亮点
1三种使用形态
命令行扫描器、CoPyRIT 图形界面和 Python 框架可按需选用。
2多轮自适应攻击
支持自动扫描与自适应多轮对话式攻击,贴近真实攻击路径。
3模型覆盖广
可连接 OpenAI、Anthropic、Azure、Gemini、Bedrock、Ollama 等多家服务。
4可测完整应用
通过 HTTP、WebSocket、Playwright 浏览器或自定义目标测试端到端应用。
5微软红队出品
由微软 AI 红队主导开发,并提供白皮书说明设计原则。
适用场景
模型上线前安全评估
例如:用命令行扫描器对候选模型跑一组可重复的提示注入与越狱测试。
应用层红队测试
例如:用 Playwright 目标驱动浏览器中的 AI 应用,检查多轮对话中的风险。
安全研究
例如:在 Python 框架中组合自定义攻击策略与评分器,复现和量化攻击效果。
团队交互式排查
例如:通过 CoPyRIT 图形界面手动探索目标系统并查看结果。
它是怎么工作的
第 1 步
配置目标
选择内置模型目标,或通过 HTTP、WebSocket、Playwright、自定义目标接入被测系统。
第 2 步
编排攻击
使用扫描器或 Python 框架组合攻击策略、转换器和多轮对话流程。
第 3 步
执行测试
自动或人工主导地发送提示,记录模型响应。
第 4 步
评估结果
借助评分组件判断响应是否触发风险,并在界面或报告中查看。
快速上手
- 1
阅读官方文档
按官网的安装与配置指南选择与安装版本匹配的文档。
- 2
安装 PyRIT
按文档说明安装包并配置依赖。
- 3
配置模型凭据
参照 provider 配置指南填入所选模型服务的密钥。
- 4
运行扫描或界面
用命令行扫描器跑一次评估,或启动 CoPyRIT 图形界面交互测试。
适合谁
- AI 安全工程师与红队成员
- 需要评估模型或 AI 应用风险的研究人员
- 做合规与安全测试的开发团队
不太适合
- 只想调用模型做业务功能的普通开发者
- 没有安全测试需求、仅做模型效果评测的团队
成熟度
- 活跃度最近更新在 2026 年 11 月,star 约 4900,仍在活跃迭代。
- 文档有独立官网、分版本文档、白皮书和贡献指南。
- 社区fork 超 1000,有 Discord 社区和 help wanted 议题。
- 上手难度需配置模型凭据并理解攻击组件,非安全背景用户上手有门槛。
同类项目怎么选
- Garak同为 LLM 漏洞扫描工具,偏重探针式静态扫描,PyRIT 更强调多轮自适应攻击与可编程框架。
- Promptfoo侧重提示与应用的评测和回归测试,红队攻击编排能力不如 PyRIT 深入。
使用前注意
- · 采用 MIT 许可,商用前仍需确认所用模型服务商的使用条款。
- · 测试会产生模型调用费用,大规模扫描需评估成本。
- · 部分功能依赖具体目标与模型,能力因接入方式而异。
- · 红队测试应仅在获得授权的系统上进行,避免越界使用。
