microsoft GitHub avatar

PyRIT

Python
AI红队测试工具包microsoft最近推送 2026年11月19日
数据与评测MIT4,9411,082272 issues7 天 +148

AI 分析 · 由大模型根据 README 与仓库数据生成 · 2026年11月17日

微软开源的生成式 AI 红队测试工具,用于发现模型和应用的安全与安全风险。

PyRIT 是 Python Risk Identification Tool for generative AI 的缩写,由微软 AI 红队和开源社区共同维护。它通过自动扫描、自适应多轮攻击和人工主导测试,帮助安全人员和工程师主动识别生成式 AI 系统的安全与安全弱点。工具集包含命令行扫描器、浏览器图形界面和可扩展的 Python 框架三部分。

推荐指数

4.0

背靠微软红队实践、生态完整,是评估生成式 AI 安全风险时值得优先考虑的开源工具。

近 7 天

+148

新增 Star

总 Star 排名

#1278

雷达追踪的 3,958 个 AI 仓库中

创建于

2023

2023年12月12日

核心亮点

  • 1三种使用形态

    命令行扫描器、CoPyRIT 图形界面和 Python 框架可按需选用。

  • 2多轮自适应攻击

    支持自动扫描与自适应多轮对话式攻击,贴近真实攻击路径。

  • 3模型覆盖广

    可连接 OpenAI、Anthropic、Azure、Gemini、Bedrock、Ollama 等多家服务。

  • 4可测完整应用

    通过 HTTP、WebSocket、Playwright 浏览器或自定义目标测试端到端应用。

  • 5微软红队出品

    由微软 AI 红队主导开发,并提供白皮书说明设计原则。

适用场景

  • 模型上线前安全评估

    例如:用命令行扫描器对候选模型跑一组可重复的提示注入与越狱测试。

  • 应用层红队测试

    例如:用 Playwright 目标驱动浏览器中的 AI 应用,检查多轮对话中的风险。

  • 安全研究

    例如:在 Python 框架中组合自定义攻击策略与评分器,复现和量化攻击效果。

  • 团队交互式排查

    例如:通过 CoPyRIT 图形界面手动探索目标系统并查看结果。

它是怎么工作的

  1. 第 1 步

    配置目标

    选择内置模型目标,或通过 HTTP、WebSocket、Playwright、自定义目标接入被测系统。

  2. 第 2 步

    编排攻击

    使用扫描器或 Python 框架组合攻击策略、转换器和多轮对话流程。

  3. 第 3 步

    执行测试

    自动或人工主导地发送提示,记录模型响应。

  4. 第 4 步

    评估结果

    借助评分组件判断响应是否触发风险,并在界面或报告中查看。

快速上手

  1. 1

    阅读官方文档

    按官网的安装与配置指南选择与安装版本匹配的文档。

  2. 2

    安装 PyRIT

    按文档说明安装包并配置依赖。

  3. 3

    配置模型凭据

    参照 provider 配置指南填入所选模型服务的密钥。

  4. 4

    运行扫描或界面

    用命令行扫描器跑一次评估,或启动 CoPyRIT 图形界面交互测试。

适合谁

  • AI 安全工程师与红队成员
  • 需要评估模型或 AI 应用风险的研究人员
  • 做合规与安全测试的开发团队

不太适合

  • 只想调用模型做业务功能的普通开发者
  • 没有安全测试需求、仅做模型效果评测的团队

成熟度

  • 活跃度最近更新在 2026 年 11 月,star 约 4900,仍在活跃迭代。
  • 文档有独立官网、分版本文档、白皮书和贡献指南。
  • 社区fork 超 1000,有 Discord 社区和 help wanted 议题。
  • 上手难度需配置模型凭据并理解攻击组件,非安全背景用户上手有门槛。

同类项目怎么选

  • Garak同为 LLM 漏洞扫描工具,偏重探针式静态扫描,PyRIT 更强调多轮自适应攻击与可编程框架。
  • Promptfoo侧重提示与应用的评测和回归测试,红队攻击编排能力不如 PyRIT 深入。

使用前注意

  • · 采用 MIT 许可,商用前仍需确认所用模型服务商的使用条款。
  • · 测试会产生模型调用费用,大规模扫描需评估成本。
  • · 部分功能依赖具体目标与模型,能力因接入方式而异。
  • · 红队测试应仅在获得授权的系统上进行,避免越界使用。

主题标签

ai-red-teamgenerative-aired-team-toolsresponsible-aiai-attacksai-evalsai-evaluationai-evaluation-toolsai-red-team-toolai-red-teamingai-safetyai-safety-researchai-securityai-security-testingai-security-toolai-security-toolkitred-teamred-teaming-toolssafety-testingsecurity