精选产品
67AI 评分(两次独立评分的平均)

Google 在 Gemini 平台预览语义治理策略,可在智能体执行前拦截工具调用

原标题:Check what your AI agents do before they do it, with Semantic governance policies

Google Developers Blog发布时间 (北京时间)

AI 速览

根据原文整理

Google 在 Gemini 平台预览语义治理策略,在智能体工具调用执行前用自然语言规则和用户意图双重检查拦截。

发布状态
预览版
检查数量
两项检查
退款上限示例
80 美元
发布
Google 在 Gemini 平台推出预览版语义治理策略,通过 Agent Gateway 在工具调用执行前拦截。
机制
每次工具调用须同时通过自然语言规则和用户意图两项检查,任一不过即被替换为拒绝消息。
可用范围
智能体可经 Gemini API、Anthropic Messages API、Claude 模型或 OpenAI 兼容接口调用模型。
审计
判定结果、LLM 裁判理由及所用 token 写入 Cloud Logging,可先开 dry run 模式测试。
局限
判定来自概率性 LLM 可能波动,流式响应不评估,需与其他管控措施配合使用。

原文讲了什么

  1. 拦截场景示例
  2. 两项检查机制
  3. 策略编写方式
  4. 与其他管控区别
  5. 上手步骤

为什么值得看企业可用自然语言规则约束智能体工具调用,防止未发布财报等敏感数据外泄。

由 AI 阅读原文后整理,可能有疏漏,细节以原文为准。

Google / GeminiAgent 智能体部署工程安全对齐产品更新#产品更新#Agent#安全/对齐#Google#部署/工程