观察中

SPILLWAY:分离目标准入与净化防御提示注入

报道
1
信源
1
首次报道
11/17 08:00
最近更新
11/17 08:00

论文作者提出名为 SPILLWAY 的防御方法,用于抵御工具型智能体的提示注入攻击。其做法是把“动作目标是否放行”与“指令净化”分开处理,用工具返回的类型化字段做确定性校验,无需为每个任务生成计划。 作者称,在三个骨干模型和七个任务套件上,标准模板化注入均无法把动作重定向到攻击者目标,平均效用与 NRP、ERS 综合得分在同类防御中最高;面对已发布的强化学习攻击者,范围内平均攻击成功率为 0.007,且几乎不增加模型调用。这些效果均为论文报告的结果。

最新进展SPILLWAY:将目标准入与净化分离,防御工具型智能体的提示注入攻击

热度48 小时内每个独立信源只算一次,24 小时减半

48 小时参与信源
1
6 小时新加入
0
24 小时新报道
0
热点排名
—

热度曲线会在事件持续一段时间后出现。

事件进展1 个阶段

  1. SPILLWAY:分离目标准入与净化防御提示注入

    Hugging Face 每日论文 等 1 篇报道

全部报道1 篇

  • SPILLWAY:将目标准入与净化分离,防御工具型智能体的提示注入攻击

    SPILLWAY 把"动作目标是否放行"与"指令净化"拆开,用工具返回的类型化字段做确定性校验,无需为每个任务生成计划。在三个骨干模型和七个任务套件上,标准模板化注入均无法把动作重定向到攻击者目标,平均效用与 NRP、ERS 综合得分在同类防御中最高。面对已发布的强化学习攻击者,范围内平均攻击成功率为 .007,且几乎不增加模型调用。

    Hugging Face 每日论文

#Agent 智能体#安全对齐#MCP 与工具调用#论文研究