精选论文74

微软研究揭示 Lazarus 后门:重编程休眠神经元即可控制 AI 智能体

原标题:Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents

Microsoft Research· Dimitris Papailiopoulos发布时间 (北京时间)

微软研究者发现名为 Lazarus 的后门技术,通过重编程 LLM 中不到 10 个休眠神经元,无需训练即可给基于该模型的智能体植入后门,模型仍能通过标准评测,直到触发条件出现才执行攻击者命令。

推荐理由微软研究者披露一种无需训练、改动不到 10 个休眠神经元即可给智能体植入后门的方法,并说明现有检测与溯源手段的边界。

来源仅允许展示摘要,全文请到原文阅读。
Microsoft / CopilotAgent 智能体安全对齐论文研究#论文/研究#安全/对齐#Agent#Microsoft