观察中
OpenAI 试点外部专家入驻评估模型
- 报道
- 5
- 信源
- 4
- 首次报道
- 11/16 16:00
- 最近更新
- 11/17 01:02
OpenAI 启动试点,让 Apollo Research、Goodfire、METR 和 Transluce 四家机构的安全评估人员入驻其组织,以独立评估模型对齐、安全防护措施和监控系统。OpenAI 称,这些评估建立在其现有对齐与安全研究之上,为识别和管理系统风险引入独立审查。各机构入驻时间不同,Apollo 的试点于本周开始。 分工上,Apollo Research 将评估模型是否会暗中违背开发者意图行事,以及现有防护措施能否检测到这种行为,并审查来自训练、安全测试和内部使用的证据。Apollo 称,其接触范围限于双方约定的主张、特定模型和评估时间段。 TechCrunch 报道,Apollo 和 Goodfire 因评估获得财务报酬,METR 和 Transluce 不获报酬,但可能接受算力或 API 额度。评估结果尚未披露。
热度48 小时内每个独立信源只算一次,24 小时减半
- 48 小时参与信源
- 2
- 6 小时新加入
- 0
- 24 小时新报道
- 0
- 热点排名
- —
热度曲线会在事件持续一段时间后出现。
事件进展1 个阶段
OpenAI News 等 5 篇报道
官方一手信息1 篇
OpenAI 启动与 Apollo Research、METR、Transluce 和 Goodfire 合作的首阶段嵌入式评估
OpenAI 与 Apollo Research、METR、Transluce 和 Goodfire 启动首阶段嵌入式评估,独立评估模型对齐、安全防护措施和监控系统。
OpenAI News一手
全部报道5 篇
OpenAI 试点让 Apollo、METR 等四家机构的安全评估人员入驻
OpenAI 周一宣布启动试点,让 Apollo Research、Goodfire、METR 和 Transluce 的安全评估人员入驻其组织,其中 Apollo 的试点本周开始。
TechCrunch · AI
OpenAI 启动首轮嵌入式评估,与 Apollo Research、METR_Evals、TransluceAI 和 GoodfireAI 合作,让外部专家深入接触其内部模型与系统,调查对齐问题并测试安全防护措施。OpenAI 表示,这些评估建立在其持续进行的对齐与安全研究之上,为识别和管理系统风险引入独立审查。
Greg Brockman
@ApolloResearch 将评估我们的模型是否会暗中违背开发者的意图行事——以及我们的防护措施能否检测到这种行为。 它将审查来自训练、安全测试和内部使用的证据,以检验这种行为以及我们捕捉它的能力。
OpenAI
OpenAI 正与 ApolloResearch、METR_Evals、TransluceAI 和 GoodfireAI 合作开展嵌入式评估,让外部专家深入接触其内部模型和系统,以调查对齐问题并测试安全防护措施。OpenAI 表示,这些评估建立在其现有的对齐与安全研究之上,为识别和管理系统风险引入独立审查。
OpenAI
OpenAI 启动与 Apollo Research、METR、Transluce 和 Goodfire 合作的首阶段嵌入式评估
OpenAI 与 Apollo Research、METR、Transluce 和 Goodfire 启动首阶段嵌入式评估,独立评估模型对齐、安全防护措施和监控系统。
OpenAI News一手
