进行中

vLLM发布Kimi K3.1 Pro的DSpark草稿模型

报道
2
信源
1
首次报道
11/18 01:01
最近更新
11/18 01:01

vLLM联合Inferact与Red Hat AI Speculators团队,为Kimi K3.1 Pro推出新的DSpark投机解码草稿模型,并在Hugging Face上线模型权重和可直接使用的vLLM配置,仓库为huggingface.co/Inferact/Kimi-K3.1-Pro-DSpark。 vLLM称,在HumanEval上,该模型的接受长度较预览版最高提升30%;每个草稿层采用2K滑动窗口,使草稿KV内存在100万token上下文下仍保持有界。上述对比条件为DSpark k=7、temperature 1.0、top_p 0.95。

最新进展vLLM 在 Hugging Face 发布 Kimi-K3.1-Pro-DSpark 权重与即用配置

热度48 小时内每个独立信源只算一次,24 小时减半

48 小时参与信源
1
6 小时新加入
0
24 小时新报道
2
热点排名
—

热度曲线会在事件持续一段时间后出现。

事件进展1 个阶段

全部报道2 篇

#开源生态#部署工程#产品更新#Kimi / 月之暗面#Hugging Face#推理能力