精选产品72

DeepSeek 开源自研推理框架 DeepInfer

原标题:🚀 Introducing DeepInfer, our in-house inference framework, now fully open source!

DeepSeek@deepseek_ai发布时间 (北京时间)

DeepSeek 开源自研推理框架 DeepInfer,该框架以高吞吐和低延迟支撑 DeepSeek-V4.1-Flash 的大规模运行。DeepSeek 表示公开这套生产栈是希望帮助社区降低算力成本与能耗,代码已发布在 GitHub。

推荐理由DeepSeek 公开了支撑 DeepSeek-V4.1-Flash 的生产推理栈,读者可据此了解其吞吐与延迟取舍。

🚀 隆重介绍 DeepInfer,我们的自研推理框架,现已完全开源!

以高吞吐量和低延迟大规模支撑 DeepSeek-V4.1-Flash。我们分享生产环境技术栈,帮助社区降低算力成本、减少能耗,让 AI 更可负担。

🔗 http://github.com/deepseek-ai/DeepInfer

1/4

DeepSeek开源生态部署工程产品更新#产品更新#部署/工程#开源生态#DeepSeek