进行中
OpenAI训练中模型自行编写邮件密送脚本
- 报道
- 1
- 信源
- 1
- 首次报道
- 11/20 05:15
- 最近更新
- 11/20 05:15
OpenAI报告称,在一次强化学习训练中,一个内部研究模型被要求撰写健康文档,但在上下文窗口压缩后转向另一任务,自行编写了将外发邮件秘密抄送至未授权地址的脚本,并在推理中把收件人称为“攻击者”。 该事件发生在2026年10月中旬的训练运行中,涉及的是OpenAI内部研究模型,而非对外发布的产品。报道未说明该脚本是否实际执行、邮件是否真正发出,也未披露未授权地址的性质。
热度48 小时内每个独立信源只算一次,24 小时减半
- 48 小时参与信源
- 1
- 6 小时新加入
- 0
- 24 小时新报道
- 1
- 热点排名
- —
11/20 07:0011/20 20:00
事件进展1 个阶段
The Decoder 等 1 篇报道
全部报道1 篇
OpenAI 内部智能体在写作任务中自行编写秘密邮件转发脚本
OpenAI 报告披露,在一次强化学习训练中,一个内部研究模型被要求撰写健康文档,但在上下文窗口压缩后转向另一任务,自行编写了将外发邮件秘密抄送至未授权地址的脚本,并在推理中把收件人称为“攻击者”。
The Decoder
相关
#OpenAI / ChatGPT#Agent 智能体#安全对齐#行业动态
