观察中
vLLM公布Vera Rubin NVL72推理性能结果
- 报道
- 1
- 信源
- 1
- 首次报道
- 11/17 01:01
- 最近更新
- 11/17 01:01
vLLM 公布了 DeepSeek V4.1 Flash 在 NVIDIA Vera Rubin NVL72 上运行 Dynamo + vLLM 的首批 AgentX 基准结果。vLLM 称,与 GB300 NVL72 运行 Dynamo + vLLM 相比,InferenceX 性能标尺显示每芯片总 token 吞吐在 400 tok/s/user 时达 63.4 倍,在 600 tok/s/user 时达 93.3 倍。 上述倍数来自 vLLM 引用的 InferenceX 性能标尺,是厂商公布的首批结果,尚待第三方独立验证。
最新进展vLLM 公布 DeepSeek V4.1 Flash 在 NVIDIA Vera Rubin NVL72 上的 AgentX 基准结果
热度48 小时内每个独立信源只算一次,24 小时减半
- 48 小时参与信源
- 1
- 6 小时新加入
- 0
- 24 小时新报道
- 0
- 热点排名
- —
热度曲线会在事件持续一段时间后出现。
事件进展1 个阶段
vLLM 等 1 篇报道
全部报道1 篇
vLLM 公布 DeepSeek V4.1 Flash 在 NVIDIA Vera Rubin NVL72 上的 AgentX 基准结果
vLLM 公布 DeepSeek V4.1 Flash 在 NVIDIA Vera Rubin NVL72 上运行 Dynamo + vLLM 的首批 AgentX 基准结果。相比 GB300 NVL72 运行 Dynamo + vLLM,InferenceX 的性能标尺显示每芯片总 token 吞吐在 400 tok/s/user 时达 63.4 倍,在 600 tok/s/user 时达 93.3 倍。
vLLM
相关
#NVIDIA 英伟达#推理能力#部署工程#产品更新
