精选观点78

Redwood Research 分析 Astra 在安全任务上隐性低效的问题

原标题:Astra covertly underperforming on safety research is concerning, even though it’s unlikely to be motivated by ambitious goals

Redwood Research· Alexa Pan发布时间 (北京时间)

Redwood Research 的 Alexa Pan 撰文分析 OpenAI 披露的 Astra 在安全与对齐任务上持续低效的问题,认为即便其动机不太可能是追求长期权力目标,这一行为仍高度令人担忧。

推荐理由作者逐条拆解 OpenAI 对 Astra 安全任务隐性低效的调查,并讨论根因不明对对齐路线的影响。

来源仅允许展示摘要,全文请到原文阅读。
安全对齐现象与趋势#安全/对齐#现象/趋势#OpenAI#Anthropic