论文39

SPILLWAY:将目标准入与净化分离,防御工具型智能体的提示注入攻击

原标题:SPILLWAY: Separating Target Admission from Sanitization to Defend Tool-Using Agents against Prompt Injection

Hugging Face 每日论文发布时间 (北京时间)

SPILLWAY 把"动作目标是否放行"与"指令净化"拆开,用工具返回的类型化字段做确定性校验,无需为每个任务生成计划。在三个骨干模型和七个任务套件上,标准模板化注入均无法把动作重定向到攻击者目标,平均效用与 NRP、ERS 综合得分在同类防御中最高。面对已发布的强化学习攻击者,范围内平均攻击成功率为 .007,且几乎不增加模型调用。

来源仅允许展示摘要,全文请到原文阅读。
Agent 智能体安全对齐MCP 与工具调用论文研究#论文/研究#安全/对齐#Agent#MCP/工具调用