进行中

微软论文:LLM遭错误反驳易改答案,提出Self-Disagreement训练法

报道
1
信源
1
首次报道
11/19 00:24
最近更新
11/19 00:24

微软一篇新论文发现,当用户或其他智能体用错误论据质疑答案时,大语言模型常常放弃原本正确的答案;增加准确率训练、采样或自我反思都无法解决这一问题。 论文提出 Self-Disagreement 训练方法:让同一个模型先给出答案,再写出最强反驳理由,然后对该理由作出裁决并重新作答;标准答案检查器同时奖励最终答案和裁决。上述发现和方法均出自该论文。

最新进展微软论文:LLM 遭错误反驳时会放弃正确答案,准确率训练无法修复

热度48 小时内每个独立信源只算一次,24 小时减半

48 小时参与信源
1
6 小时新加入
0
24 小时新报道
1
热点排名
—

热度曲线会在事件持续一段时间后出现。

事件进展1 个阶段

全部报道1 篇

  • 微软论文:LLM 遭错误反驳时会放弃正确答案,准确率训练无法修复

    微软新论文发现,当用户或其他智能体用错误论据质疑答案时,LLM 常常放弃原本正确的答案,增加准确率训练、采样或自我反思都无法解决。论文提出 Self-Disagreement 方法,让同一个模型先给出答案,再写出最强反驳理由,然后对该理由作出裁决并重新作答,标准答案检查器同时奖励最终答案和裁决。

    Rohan Paul

#Microsoft / Copilot#数据与训练#安全对齐#论文研究