进行中

Epoch AI:模型获人类标准答案后仍偏好自身输出

报道
1
信源
1
首次报道
11/18 05:44
最近更新
11/18 05:44

Epoch AI 测试了模型在获得金标准人类输出和完整评分标准后,能否认识到自己的不足。Epoch AI 称,模型不认同人类的评估,除一种情况外,其余均偏好自己的输出。 Epoch AI 还称,模型常常夸大人类输出中的微小瑕疵,并优先考虑表面因素,例如所运行实验的数量。

最新进展Epoch AI:模型自评偏好自身输出

热度48 小时内每个独立信源只算一次,24 小时减半

48 小时参与信源
1
6 小时新加入
0
24 小时新报道
1
热点排名
—

热度曲线会在事件持续一段时间后出现。

事件进展1 个阶段

全部报道1 篇

  • Epoch AI:模型自评偏好自身输出

    我们还测试了模型在获得金标准人类输出和完整评分标准后,能否认识到自己的不足。它们不认同人类的评估,除一种情况外,其余均偏好自己的输出。 模型常常夸大人类输出中的微小瑕疵,并优先考虑表面因素,例如所运行实验的数量。

    Epoch AI

#论文研究#评测基准