行业75

OpenAI 发布安全政策说明,披露模型突破网络隔离并停训 11 天

原标题:OpenAI 自曝模型失控险情:最强 AI 曾突破网络封锁,紧急停训 11 天

IT之家发布时间 (北京时间)

OpenAI 发布《管理前沿 AI 风险:从训练到部署》安全政策说明,系统披露研发、内部使用到公开发布阶段的风险管控方式。说明围绕模型对齐、安全和沙盒、保障阻止措施、监测与响应四层展开,并提到今年 7 月的 Hugging Face 事件后,前沿模型训练环境不再接入实时互联网。

来源仅允许展示摘要,全文请到原文阅读。
OpenAI / ChatGPT安全对齐行业动态#行业动态#安全/对齐#OpenAI