技术方向
数据与训练
大模型是怎么练出来的:数据集构建、合成数据、预训练与后训练方法、算力与训练成本。
近 30 天 20 条共 24 条精选收录 190 条
精选新闻
Mistral 发布时间序列基础模型 Timestral,最大 209M 参数
Mistral 发布首个时间序列基础模型系列 Timestral,提供 5M、28M、123M、209M 四种规模,最大模型在 GIFT-Eval、TIME、fev-bench 三个公开基准的预训练零样本模型中五项指标均排名第一,参数仅为前 SOTA 的三分之二。
Mistral AI
OpenAI 公布内部前沿模型在数学开放问题上的新结果
OpenAI 发布内部前沿模型在数学开放问题上取得的新结果,并在 GitHub 公开 Lean 证明形式化与研究细节。
OpenAI Research
OpenAI 称 AI 辅助产出 Navier-Stokes 结果,同日 Cognition 融资 48 亿美元、Meta 发布 Muse 智能体
AI News 汇总 9 月 7 日至 8 日的动态:与 OpenAI 相关的账号称,一项 AI 辅助工作产出了 Navier-Stokes 相关结果,据 Ethan Knight 描述,约 1 万个智能体协作,OpenAI 用约一年时间通过多智能体 RL 训练模型协作,但推文未给出定理陈述、预印本或形式化验证,数学界是否接受尚未确定。
AI News (smol.ai)
OpenAI 与 Apollo 提出 Contrastive SDF,测量模型的奖励寻求倾向
OpenAI 对齐研究博客与 Apollo Research 提出 Contrastive Synthetic Document Finetuning(Contrastive SDF),通过给同一模型的两份副本分别注入相反的评分者偏好信念,测量模型行为随评分者信念变化的程度,以此量化奖励寻求。
OpenAI 对齐研究博客
