观察中

METR 试点评估仅限单次 RL 运行

报道
2
信源
1
首次报道
11/17 00:08
最近更新
11/17 00:08

METR 表示,其试点评估的范围仅限于单次强化学习(RL)训练运行,不涵盖 OpenAI 迄今已披露的对齐失准事件。METR 称,这比其此前提出的范围更窄,但仍希望借此提供一些关于对齐的新证据。 为支持评审和实验,OpenAI 将提供整个 RL 过程中的对话记录、监控记录和模型快照。METR 也可借助对 OpenAI 员工的访谈来指导工作,但其报告不能引用或引述个人观点。

最新进展METR 获 OpenAI 训练数据访问权

热度48 小时内每个独立信源只算一次,24 小时减半

48 小时参与信源
1
6 小时新加入
0
24 小时新报道
0
热点排名
—

热度曲线会在事件持续一段时间后出现。

事件进展1 个阶段

全部报道2 篇

  • METR 获 OpenAI 训练数据访问权

    OpenAI 将提供整个 RL 过程中的对话记录、监控记录和模型快照,以支持我们的评审和实验。 我们也可以借助对 OpenAI 员工的访谈来指导工作,不过我们的报告不能引用或引述个人观点。

    METR

  • METR 试点评估聚焦单一 RL 训练

    该试点的范围仅限于单次 RL 训练,不涵盖 OpenAI 迄今已披露的失准事件。这比我们此前提出的范围更窄,但我们希望它能提供一些关于对齐的新证据。 https://x.com/METR_Evals/status/2110519544875983177

    METR

#OpenAI / ChatGPT#安全对齐#行业动态