进行中

Parasail 将率先规模化部署 Positron Titan 服务器

报道
1
信源
1
首次报道
11/20 02:38
最近更新
11/20 02:38

推理云服务商 Parasail 宣布,将率先规模化部署 Positron 的下一代 Titan 服务器,首期规模为 5MW。Titan 服务器不使用稀缺的 HBM,而采用廉价的智能手机式 DRAM 来承载超大模型,单台服务器可容纳最多 32 万亿参数的模型。 Parasail 称,目标是到 2027 年底实现每天数万亿 token 的成本优化算力。上述部署规模和效果目前均为 Parasail 方面的说法。

最新进展Parasail 将率先规模化部署 Positron Titan 服务器,首期 5MW

热度48 小时内每个独立信源只算一次,24 小时减半

48 小时参与信源
1
6 小时新加入
0
24 小时新报道
1
热点排名
—
11/20 03:0011/20 11:00

事件进展1 个阶段

全部报道1 篇

  • Parasail 将率先规模化部署 Positron Titan 服务器,首期 5MW

    推理云 Parasail 宣布将率先规模化部署 Positron 的下一代 Titan 服务器,首期规模为 5MW。Titan 用廉价的智能手机式 DRAM 承载超大模型,而不用稀缺的 HBM,单台服务器可容纳最多 32 万亿参数的模型。作者认为,每瓦内存容量正成为判断 AI 硬件最有用的指标之一。

    Rohan Paul

#部署工程#数据与训练#行业动态