精选产品62

vLLM-Omni 在 NVIDIA Vera Rubin 上支持 MiniMax H3-Image,4K 生成中位延迟 0.87 秒

原标题:H3-Image Day-0 Support: 4K in 0.87s with Vera Rubin

vLLM Blog· vLLM-Omni team发布时间 (北京时间)

vLLM-Omni 团队将 MiniMax H3-Image 接入 NVIDIA Vera Rubin,四卡 SP4 配置下原生 4096×4096 文生图中位延迟为 0.87 秒,四副本单卡部署可达 6115 张/小时。

推荐理由原文给出 H3-Image 在 Rubin 等十种 NVIDIA 硬件上的延迟与吞吐实测,并说明 DiT、VAE 解码的优化路径,可供部署选型参考。

来源仅允许展示摘要,全文请到原文阅读。
MiniMaxNVIDIA 英伟达开源生态部署工程产品更新#产品更新#部署/工程#开源生态