FailproofAI GitHub avatar

failproofai

TypeScript
智能体可靠性工具FailproofAI最近推送 2026年11月17日
AI 开发工具NOASSERTION9,63257964 issues7 天 +1,257

AI 分析 · 由大模型根据 README 与仓库数据生成 · 2026年11月17日

为 AI Agent 运行框架提供运行记录与策略拦截,防止危险工具调用。

Failproof 是一个面向 AI Agent 运行框架(harness)的可观测与策略执行工具。它接入 Claude Code、Codex、Hermes、OpenClaw 等 12 种 harness,记录每一次运行,并在危险工具调用执行前将其拦截。内置 40 条策略,本地运行,宣称零延迟。

推荐指数

4.0

适合已在用主流 Agent CLI 且需要审计与拦截能力的团队,接入成本低,但策略拦截能力因 harness 而异。

近 7 天

+1,257

新增 Star

总 Star 排名

#707

雷达追踪的 3,931 个 AI 仓库中

创建于

2026

2026年4月6日

核心亮点

  • 1多框架统一接入

    一套策略 API 和会话历史覆盖 12 种 harness。

  • 2执行前拦截

    在工具调用真正运行前阻断,12 种 harness 均已验证。

  • 3内置 40 条策略

    开箱即用的策略集,减少自行编写规则的工作。

  • 4本地运行

    数据留在本地,README 称零延迟。

  • 5Python SDK 兜底

    不在支持列表中的 Agent 可通过 SDK 上报追踪与会话。

适用场景

  • 编码 Agent 安全管控

    例如:在 Claude Code 中阻止删除生产目录的命令执行。

  • 运行审计与排障

    例如:回看某次 Codex 会话中每个工具调用的记录,定位失败原因。

  • 多框架统一治理

    例如:团队同时使用 Cursor 和 OpenCode,用同一套策略统一管理。

它是怎么工作的

  1. 第 1 步

    接入 harness

    通过 hook 机制挂载到受支持的 Agent 运行框架上。

  2. 第 2 步

    捕获运行

    记录每次会话与工具调用,形成会话历史。

  3. 第 3 步

    策略判定

    按内置或自定义策略检查即将执行的工具调用。

  4. 第 4 步

    执行或拦截

    放行安全调用,阻断危险调用并留下审计记录。

快速上手

  1. 1

    安装包

    通过 npm 安装 failproofai 包。

    npm install failproofai
  2. 2

    查看文档

    按官方文档完成对应 harness 的 hook 配置。

  3. 3

    配置策略

    启用内置策略或按需自定义规则。

适合谁

  • 使用 Claude Code、Codex 等编码 CLI 的开发者
  • 需要对 Agent 行为做审计的团队
  • 要给 Agent 加安全护栏的工程团队

不太适合

  • 使用自研 Agent 且需要开箱即用拦截的用户
  • 只需要简单日志、不需要策略执行的场景

成熟度

  • 活跃度近期仍有提交,star 数较高。
  • 文档有独立文档站和多语言 README。
  • 社区有 Discord 和 Reddit 渠道,但 issue 数 63 说明仍在活跃磨合。
  • 上手难度需按 harness 分别配置 hook,拦截能力存在差异。

使用前注意

  • · 许可证为 MIT + Commons Clause,商用前需确认条款。
  • · 策略拦截能力因 harness 不同,部分仅支持轮次结束拦截。
  • · 自研 Agent 需自行实现 hook 才能获得拦截能力。
  • · README 称零延迟,实际性能需自行验证。

主题标签

claude-codereliabilityagent-reliabilityhooksagent-failureai-agentcodexllmllm-failuresnpm-packageagent-harnessagent-observabilityagent-tracingenforcementevalsguardrailshermesllm-observabilityobservabilityopenclaw