观察中
宾州州立论文提出BadEvolve攻击自进化Agent
- 报道
- 1
- 信源
- 1
- 首次报道
- 11/17 09:58
- 最近更新
- 11/17 09:58
宾州州立大学一篇论文提出名为 BadEvolve 的攻击方法:向自我进化智能体的学习集注入 20 个被投毒的训练任务,就能让智能体把攻击者设定的规则写进自己的技能,并在后续任务中反复触发。 该结果来自论文作者一方,针对的是能从训练任务中自行更新技能的自进化 LLM 智能体;目前尚无独立验证或实际部署影响的说明。
热度48 小时内每个独立信源只算一次,24 小时减半
- 48 小时参与信源
- 1
- 6 小时新加入
- 0
- 24 小时新报道
- 0
- 热点排名
- —
热度曲线会在事件持续一段时间后出现。
事件进展1 个阶段
Rohan Paul 等 1 篇报道
全部报道1 篇
宾州州立大学论文提出 BadEvolve,可向自我进化智能体技能植入后门
宾州州立大学一篇论文提出 BadEvolve,只需向自我进化智能体的学习集注入 20 个被投毒的训练任务,就能让智能体把攻击者设定的规则写进自己的技能并在后续任务中反复触发。
Rohan Paul
相关
#Agent 智能体#安全对齐#论文研究
