精选产品80

vLLM 在腾讯混元 Hy4 发布当天提供支持

原标题:🎉 Day-0 support for @TencentHunyuan’s Hy4 in vLLM!

vLLM@vllm_project发布时间 (北京时间)

vLLM 宣布在腾讯混元 Hy4 发布当天即提供 Day-0 支持,可在一个模型中处理文本、图像和视频,用于读取视觉文档、比较图像并对视频片段做推理。据混元官方引用信息,Hy4 是原生多模态 MoE 旗舰模型,总参数 770B、激活 49B,支持 1M 上下文,并同步发布系统卡与开源权重。

推荐理由vLLM 在 Hy4 开源当天即支持该模型,读者可据此了解这一多模态 MoE 模型的部署入口与输入形态。

🎉 在 vLLM 中为 @TencentHunyuan 的 Hy4 提供 Day-0 支持!

文本、图像和视频集于一个模型:阅读视觉文档、比较图像,并结合文本对视频片段进行推理。

1/4

今天我们发布 Hy4 的开放权重。 我们的原生多模态旗舰 MoE(总参数 770B / 激活 49B,1M 上下文)。 同时发布 Hy4 System Card,附有全面的安全评估报告。 ➡️ 本周五太平洋时间上午 8–10 点,来 r/LocalLLaMA 参加 Hy 团队的直播 AMA——欢迎提出任何关于 Hy 模型的问题,与我们直接交流! GitHub: https://github.com/Tencent-Hunyuan/Hy4 Weights: https://huggingface.co/tencent/Hy4 GGUF:https://huggingface.co/AngelSlim/Hy4-GGUF License: https://huggingface.co/tencent/Hy4/blob/main/LICENSE System Card: https://hy.tencent.ai/Hy4_system_card.pdf
查看原文

Today, we’re releasing the open weights for Hy4. Our natively multimodal flagship MoE (770B total / 49B active, 1M context). Alongside the Hy4 System Card with a comprehensive safety evaluation report. ➡️ Join the Hy team for a live AMA this Friday, 8–10 AM PT on r/LocalLLaMA—drop any questions about Hy models and chat with us directly! GitHub: https://github.com/Tencent-Hunyuan/Hy4 Weights: https://huggingface.co/tencent/Hy4 GGUF:https://huggingface.co/AngelSlim/Hy4-GGUF License: https://huggingface.co/tencent/Hy4/blob/main/LICENSE System Card: https://hy.tencent.ai/Hy4_system_card.pdf

查看原帖
多模态开源生态部署工程产品更新#产品更新#多模态#开源生态#部署/工程