论文39
SPILLWAY:将目标准入与净化分离,防御工具型智能体的提示注入攻击
原标题:SPILLWAY: Separating Target Admission from Sanitization to Defend Tool-Using Agents against Prompt Injection
SPILLWAY 把"动作目标是否放行"与"指令净化"拆开,用工具返回的类型化字段做确定性校验,无需为每个任务生成计划。在三个骨干模型和七个任务套件上,标准模板化注入均无法把动作重定向到攻击者目标,平均效用与 NRP、ERS 综合得分在同类防御中最高。面对已发布的强化学习攻击者,范围内平均攻击成功率为 .007,且几乎不增加模型调用。
来源仅允许展示摘要,全文请到原文阅读。
