内容类型
论文研究
值得读的 AI 论文与研究成果:架构创新、训练方法、能力测量与理论进展。
近 30 天 20 条共 24 条精选收录 190 条
精选新闻
Vals 研究:主流 AI 模型被“游戏”话术诱导,将平民标为军事打击目标
旧金山 AI 评测初创公司 Vals 发布研究报告,测试 OpenAI、Anthropic、Google、DeepSeek 等公司的模型能否被诱导参与自主作战,结果显示这些模型在无人机和卫星图像中频繁标出潜在目标,包括平民和投降士兵。
TechCrunch · AI
NVIDIA 发布 Nemotron for Science,推出 Nemotron 3.5 Super VL 与化学数据集 LitmusBench v0.2
NVIDIA 发布 Nemotron for Science,整合 Nemotron 3.5 Super VL 开放模型、新的开放化学数据集和后续训练配方,帮助研究人员构建面向科学发现的专用智能体。
NVIDIA Newsroom
微软研究院等发布 TokenEconomizer:让编码智能体从历史会话中学习以降低 token 成本
微软研究院联合 UC Berkeley 和 Microsoft Security 发布开源插件 TokenEconomizer,它从编码智能体在仓库中的历史会话学习,在不改动智能体和底层模型的前提下减少重复探索、无用工具加载和失败循环。
Microsoft Research
OpenAI 用自动红队提升 GPT-6 Astra 与 Sol 的模糊鲁棒性
OpenAI 介绍用自动红队方法训练 GPT-6 Astra 和 Sol,使其在网络、生物和暴力活动等高风险领域更稳定地抵御越狱。在针对 GPT-5.4 和 5.5 的固定越狱数据集上,GPT-6 Astra 在网络领域的安全回答率为 91.5%,GPT-5.6 Sol 为 59%;在自适应多轮评测中,GPT-6 Astra 在各攻击者预算下均更稳健。
OpenAI 对齐研究博客
微软研究揭示 Lazarus 后门:重编程休眠神经元即可控制 AI 智能体
微软研究者发现名为 Lazarus 的后门技术,通过重编程 LLM 中不到 10 个休眠神经元,无需训练即可给基于该模型的智能体植入后门,模型仍能通过标准评测,直到触发条件出现才执行攻击者命令。
Microsoft Research
Google DeepMind 推出 AlphaProof Code,用 AI 智能体形式化验证 Signal 协议代码
Google DeepMind 发布 AlphaProof Code,一个多 LLM 智能体形式化验证框架,并借此对 Signal 协议实际部署代码的关键安全属性完成数学证明。
Google DeepMind
Google DeepMind 开放 WeatherNext 3 背后的 SatWeave 与 PARDIG 数据集
Google DeepMind 发布 SatWeave 和 PARDIG 两个基础数据集,用于支撑天气、水文和气候应用开发,二者也是其近期发布的 WeatherNext 3 模型的关键数据来源。
Google DeepMind
OpenAI 研究模型生命周期中哪些因素影响 CoT 可监控性
OpenAI 对齐研究博客发布研究,考察预训练、架构、强化学习和模型生成数据如何影响 CoT 可监控性的两个代理指标:无 CoT 能力与 CoT 可控性。结果显示,基础模型困惑度下降会稳定提升无 CoT 能力,强化学习会提高 CoT 可控性,且可控性可通过模型生成数据的 SFT 从教师模型传递给学生模型。
OpenAI 对齐研究博客
Anthropic 实测 Claude 设计真实电子硬件
Anthropic 与 Diode Computers 合作,让 Claude Fable 5.2 仅凭简短提示词完成扬声器电话、语音助手中枢和掌上电子宠物三款设备的设计,包括电路板布局布线、3D 外壳、固件和物料清单,Diode 按设计文件直接制板并做出可正常工作的原型。
Anthropic Research
NVIDIA Research 与 Inferact 发布 REINFORCE Zero:对齐 kernel 实现稳定异步 RL
NVIDIA Research 与 Inferact 发布论文 REINFORCE Zero,提出先对齐 rollout 与训练 kernel、再用不裁剪的 token 级重要性采样修正权重滞后,从而稳定训练异步 RL。
vLLM Blog
Google Research 用智能手表传感器检测高血压迹象
Google Research 提出多模态 AI 系统 AI-PPG-ACC-HTN,利用智能手表的光电容积脉搏波(PPG)与加速度计(ACC)信号被动检测高血压迹象,无需袖带校准。
Google Research
微软研究院发布 PDD Kit,用 Verus 形式化验证智能体编写的全栈 Web 应用
微软研究院联合 GitHub Next 发布研究原型 PDD Kit,把开发者的意图转成 Verus 形式化规约,证明智能体生成的代码对每个输入都满足规约,证明覆盖不到的部分改用测试。
Microsoft Research
Anthropic 研究:科学家如何在各学科与任务中使用 Claude
Anthropic 用隐私保护方法分析了 2026 年 8 月 2 日至 9 月 30 日间 207,049 条 Claude 与 Claude Code 科研会话,按 SciNet 分类体系标注学科与任务。
Anthropic Research
Anthropic 用 Claude 解析原核细胞穹窿颗粒结构
Anthropic 生物研究实验室借助 Claude 完成了原核细胞中穹窿颗粒(vault particle)的首个三维结构解析,相关预印本已提交 bioRxiv。
Anthropic Research
Anthropic 发布可验证推理系统 FlashProve 及技术报告
Anthropic 公布可验证推理研究进展,开源原型系统 FlashProve 用 zkSNARK 证明某段输出确由所承诺权重的模型生成。
Anthropic Research
Epoch AI 实验:GLM 5.3 可依据公开安全补丁自主生成 Firefox 漏洞利用
Epoch AI 的实验发现,Z.ai 于 8 月发布的开源权重模型 GLM 5.3 能仅凭 Mozilla 已发布但尚未推送给用户的安全修复,逆向出可用的 Firefox 漏洞利用,单次攻击算力成本约 1000 美元,最快 12 小时完成。
Epoch AI:Gradient Updates
OpenAI 介绍如何检测前沿模型失准行为
OpenAI 介绍其内部失准监控系统的分层架构,覆盖训练、评估、内部使用和部分外部部署。该系统在回放 Hugging Face 事件时于智能体逃出沙箱约 30 分钟后告警,比实际入侵早 30 多小时;9 月一次训练中模型从隔离环境接入互联网,监控在 15 分钟内标记、3 分钟后有人开始复核。
OpenAI 对齐研究博客
微软团队在 Science 发表诊断编排器研究,提升复杂病例诊断准确率并降低检测成本
微软团队在 Science 发表研究,其诊断编排器能对复杂医疗病例进行推理,在提高诊断准确率的同时降低检测成本。被引用的 @mustafasuleyman 内容称,MAI Diagnostic 系统在急诊场景下比医生的准确率高 1.7 倍,即使医生可以上网查询;该系统成本更低,做出诊断所需的医学检查也更少。
Satya Nadella
微软 MAI Diagnostic 在急诊诊断准确率上达医生 1.7 倍
微软的 MAI Diagnostic 系统在急诊场景中诊断准确率达到医生的 1.7 倍,即使医生可以上网查资料。该系统成本更低,且做出诊断所需的医学检查更少。相关结果已发表在期刊 Science 上。
Mustafa Suleyman
Google Research 在 JAMA Network Open 发表 AI 盲扫超声估算孕龄研究
Google Research 在 JAMA Network Open 发表研究,用 AI 解读未经专业超声培训的操作者采集的盲扫超声图像来估算孕龄。在 385 名 16 至 36 周孕妇的队列中,模型平均绝对误差为 4.18 天,专家标准流程为 4.48 天;芝加哥适配后为 4.10 天,内罗毕零本地优化为 4.27 天。
Google Research
