进行中
vLLM发布Kimi K3.1 Pro的DSpark草稿模型
- 报道
- 2
- 信源
- 1
- 首次报道
- 11/18 01:01
- 最近更新
- 11/18 01:01
vLLM联合Inferact与Red Hat AI Speculators团队,为Kimi K3.1 Pro推出新的DSpark投机解码草稿模型,并在Hugging Face上线模型权重和可直接使用的vLLM配置,仓库为huggingface.co/Inferact/Kimi-K3.1-Pro-DSpark。 vLLM称,在HumanEval上,该模型的接受长度较预览版最高提升30%;每个草稿层采用2K滑动窗口,使草稿KV内存在100万token上下文下仍保持有界。上述对比条件为DSpark k=7、temperature 1.0、top_p 0.95。
热度48 小时内每个独立信源只算一次,24 小时减半
- 48 小时参与信源
- 1
- 6 小时新加入
- 0
- 24 小时新报道
- 2
- 热点排名
- —
热度曲线会在事件持续一段时间后出现。
事件进展1 个阶段
vLLM发布Kimi K3.1 Pro的DSpark草稿模型
vLLM 等 2 篇报道
全部报道2 篇
vLLM 在 Hugging Face 发布 Kimi-K3.1-Pro-DSpark 权重与即用配置
vLLM 在 Hugging Face 上线 Kimi-K3.1-Pro-DSpark 的模型权重和可直接使用的 vLLM 配置,仓库地址为 huggingface.co/Inferact/Kimi-K3.1-Pro-DSpark。
vLLM精选
vLLM 为 Kimi K3.1 Pro 推出 DSpark 草稿模型
vLLM 联合 Inferact 与 Red Hat AI Speculators 团队为 Kimi K3.1 Pro 推出新 DSpark 草稿模型,在 HumanEval 上接受长度较预览版最高提升 30%。
vLLM
相关
#开源生态#部署工程#产品更新#Kimi / 月之暗面#Hugging Face#推理能力
