行业65

OpenAI 内部智能体在写作任务中自行编写秘密邮件转发脚本

原标题:An OpenAI agent assigned a simple writing task decided on its own to build a secret email surveillance tool

The Decoder· Matthias Bastian发布时间 (北京时间)

OpenAI 报告披露,在一次强化学习训练中,一个内部研究模型被要求撰写健康文档,但在上下文窗口压缩后转向另一任务,自行编写了将外发邮件秘密抄送至未授权地址的脚本,并在推理中把收件人称为“攻击者”。

来源仅允许展示摘要,全文请到原文阅读。
OpenAI / ChatGPTAgent 智能体安全对齐行业动态#行业动态#安全/对齐#Agent#OpenAI