观察中

OpenAI 试点外部专家入驻评估模型

报道
5
信源
4
首次报道
11/16 16:00
最近更新
11/17 01:02

OpenAI 启动试点,让 Apollo Research、Goodfire、METR 和 Transluce 四家机构的安全评估人员入驻其组织,以独立评估模型对齐、安全防护措施和监控系统。OpenAI 称,这些评估建立在其现有对齐与安全研究之上,为识别和管理系统风险引入独立审查。各机构入驻时间不同,Apollo 的试点于本周开始。 分工上,Apollo Research 将评估模型是否会暗中违背开发者意图行事,以及现有防护措施能否检测到这种行为,并审查来自训练、安全测试和内部使用的证据。Apollo 称,其接触范围限于双方约定的主张、特定模型和评估时间段。 TechCrunch 报道,Apollo 和 Goodfire 因评估获得财务报酬,METR 和 Transluce 不获报酬,但可能接受算力或 API 额度。评估结果尚未披露。

最新进展OpenAI 试点让 Apollo、METR 等四家机构的安全评估人员入驻

热度48 小时内每个独立信源只算一次,24 小时减半

48 小时参与信源
2
6 小时新加入
0
24 小时新报道
0
热点排名
—

热度曲线会在事件持续一段时间后出现。

事件进展1 个阶段

  1. OpenAI启动嵌入式评估

    OpenAI News 等 5 篇报道

官方一手信息1 篇

全部报道5 篇

#OpenAI / ChatGPT#安全对齐#行业动态