行业
38
AI 评分(两次独立评分的平均)腾讯混元姚顺雨团队 AMA:Hy4 仍有很大改进空间,计划训练更大规模模型
原标题:腾讯混元姚顺雨团队:Hy4 仍有很大改进空间,计划训练更大规模模型
腾讯混元团队在 Reddit 的 120 分钟 AMA 中表示,Hy3 和 Hy4 已表明做得扎实的小模型也能超过更大模型且成本更低,但 Hy4 仍有很大改进空间,尤其是通过后训练。团队正投入大规模强化学习,并计划训练更大规模模型,同时称可能考虑 240 亿至 310 亿参数稠密模型,但大概不会发布 100B 以下专做编程的模型。
来源仅允许展示摘要,全文请到原文阅读。
