进行中
微软论文:LLM遭错误反驳易改答案,提出Self-Disagreement训练法
- 报道
- 1
- 信源
- 1
- 首次报道
- 11/19 00:24
- 最近更新
- 11/19 00:24
微软一篇新论文发现,当用户或其他智能体用错误论据质疑答案时,大语言模型常常放弃原本正确的答案;增加准确率训练、采样或自我反思都无法解决这一问题。 论文提出 Self-Disagreement 训练方法:让同一个模型先给出答案,再写出最强反驳理由,然后对该理由作出裁决并重新作答;标准答案检查器同时奖励最终答案和裁决。上述发现和方法均出自该论文。
热度48 小时内每个独立信源只算一次,24 小时减半
- 48 小时参与信源
- 1
- 6 小时新加入
- 0
- 24 小时新报道
- 1
- 热点排名
- —
热度曲线会在事件持续一段时间后出现。
事件进展1 个阶段
Rohan Paul 等 1 篇报道
全部报道1 篇
微软论文:LLM 遭错误反驳时会放弃正确答案,准确率训练无法修复
微软新论文发现,当用户或其他智能体用错误论据质疑答案时,LLM 常常放弃原本正确的答案,增加准确率训练、采样或自我反思都无法解决。论文提出 Self-Disagreement 方法,让同一个模型先给出答案,再写出最强反驳理由,然后对该理由作出裁决并重新作答,标准答案检查器同时奖励最终答案和裁决。
Rohan Paul
相关
#Microsoft / Copilot#数据与训练#安全对齐#论文研究
