精选论文60

OpenAI 用自动红队提升 GPT-6 Astra 与 Sol 的模糊鲁棒性

原标题:Improving Fuzzy Robustness in LLM Safety with Automated Red Teaming

OpenAI 对齐研究博客· Kaiwen Wang, Oliver Cheng, Zheng Wen, Mehmet Yatbaz, Saachi Jain, Chuan Guo, Alec Helyar发布时间 (北京时间)

OpenAI 介绍用自动红队方法训练 GPT-6 Astra 和 Sol,使其在网络、生物和暴力活动等高风险领域更稳定地抵御越狱。在针对 GPT-5.4 和 5.5 的固定越狱数据集上,GPT-6 Astra 在网络领域的安全回答率为 91.5%,GPT-5.6 Sol 为 59%;在自适应多轮评测中,GPT-6 Astra 在各攻击者预算下均更稳健。

推荐理由OpenAI 公开了自动红队生成越狱数据再用于 RL 训练的做法,读者可了解模糊鲁棒性的评测口径与安全有用性的权衡。

来源仅允许展示摘要,全文请到原文阅读。
OpenAI / ChatGPT安全对齐论文研究#论文/研究#安全/对齐#OpenAI