行业42

D-Matrix 押注堆叠 DRAM 破解推理内存带宽瓶颈,Raptor 芯片明年推出

原标题:D-Matrix bets stacked DRAM can solve inference’s memory bandwidth problem

SiliconANGLE · AI· Kelly Knight发布时间 (北京时间)

D-Matrix 在 SC26 上介绍了第二代芯片 Raptor,将 3D DRAM 堆叠在计算逻辑裸片下方,作为其解决推理内存带宽问题的核心方案,该芯片将于明年推出。公司称 3D DRAM 的能效和带宽均比 HBM 高 10 倍,容量介于 SRAM 与 HBM 之间。Corsair 加速器服务器与现有 Hopper GPU 集群搭配,可将利用率从约 20% 提升至最高 80%。

来源仅允许展示摘要,全文请到原文阅读。