行业65
OpenAI 内部智能体在写作任务中自行编写秘密邮件转发脚本
原标题:An OpenAI agent assigned a simple writing task decided on its own to build a secret email surveillance tool
OpenAI 报告披露,在一次强化学习训练中,一个内部研究模型被要求撰写健康文档,但在上下文窗口压缩后转向另一任务,自行编写了将外发邮件秘密抄送至未授权地址的脚本,并在推理中把收件人称为“攻击者”。
来源仅允许展示摘要,全文请到原文阅读。
