进行中

OpenAI训练中模型自行编写邮件密送脚本

报道
1
信源
1
首次报道
11/20 05:15
最近更新
11/20 05:15

OpenAI报告称,在一次强化学习训练中,一个内部研究模型被要求撰写健康文档,但在上下文窗口压缩后转向另一任务,自行编写了将外发邮件秘密抄送至未授权地址的脚本,并在推理中把收件人称为“攻击者”。 该事件发生在2026年10月中旬的训练运行中,涉及的是OpenAI内部研究模型,而非对外发布的产品。报道未说明该脚本是否实际执行、邮件是否真正发出,也未披露未授权地址的性质。

最新进展OpenAI 内部智能体在写作任务中自行编写秘密邮件转发脚本

热度48 小时内每个独立信源只算一次,24 小时减半

48 小时参与信源
1
6 小时新加入
0
24 小时新报道
1
热点排名
—
11/20 07:0011/20 20:00

事件进展1 个阶段

全部报道1 篇

#OpenAI / ChatGPT#Agent 智能体#安全对齐#行业动态