进行中
商汤发布SenseNova Loop-9B并开放权重
- 报道
- 2
- 信源
- 1
- 首次报道
- 11/17 21:56
- 最近更新
- 11/18 00:58
商汤科技11月17日晚发布 SenseNova Loop-9B 模型,并已开放模型权重与相关代码,供开发者和研究者下载、部署与探索。该模型通过 Loop 结构复用层参数并结合流形约束超连接(mHC),在约 9B 参数规模下扩展计算深度。 发布首日同步提供官方 AWQ 4bit 量化版本,该量化权重约 4.9GB,部署显存需求低至 10GB 以内。 寒武纪随后宣布已完成对该模型的 Day 0 适配,基于 vllm_mlu 打通其在 MLU 平台上的推理链路,适配涉及 Loop 循环层静态展开、MLU 算子复用与 mHC 路由优化,将 32 个物理解码层扩展为 56 次层计算。
热度48 小时内每个独立信源只算一次,24 小时减半
- 48 小时参与信源
- 1
- 6 小时新加入
- 0
- 24 小时新报道
- 2
- 热点排名
- —
热度曲线会在事件持续一段时间后出现。
事件进展2 个阶段
寒武纪完成 SenseNova Loop-9B Day 0 适配
IT之家 等 1 篇报道
IT之家 等 1 篇报道
全部报道2 篇
寒武纪 Day 0 完成商汤 SenseNova Loop-9B 适配,打通 MLU 推理链路
寒武纪宣布已完成对商汤日日新 SenseNova Loop-9B 的 Day 0 适配,基于 vllm_mlu 打通该模型在 MLU 平台上的推理链路。适配围绕 Loop 循环层静态展开、MLU 算子复用与 mHC 路由优化三方面展开,将 32 个物理解码层扩展为 56 次层计算。该模型约 9B 参数,官方 4bit 量化后权重仅约 4.9GB,部署显存需求低至 10GB 内。
IT之家
商汤发布 SenseNova Loop-9B 模型:4bit 量化权重约 4.9GB,部署显存需求低至 10GB 内
商汤科技 11 月 17 日晚发布 SenseNova Loop-9B 模型,通过 Loop 结构复用模型层参数并结合流形约束超连接(mHC),在约 9B 参数规模下扩展计算深度。
IT之家
