精选行业
71AI 评分(两次独立评分的平均)

OpenAI 介绍对抗性蒸馏的检测与防御方法

原标题:Combatting adversarial distillation

OpenAI News发布时间 (北京时间)

OpenAI 分享了检测和阻断对抗性蒸馏的做法,包括对抗测试、模型训练、分类器和 API 层防护,并称已加强对 GPT-6.2 Astra 和 GPT-6.2 Sol 受保护推理的防护。

推荐理由OpenAI 公开了对抗性蒸馏的检测与防御细节,并给出推理轨迹提取攻击成功率从 54.0% 降至 0.2% 的对比数据。

来源仅允许展示摘要,全文请到原文阅读。

OpenAI / ChatGPT安全对齐现象与趋势#安全/对齐#OpenAI#现象/趋势