模型78

阿里巴巴发布 Qwen4-Max,优化训练与注意力机制

原标题:Alibaba launches Qwen4-Max with training, attention optimizations

SiliconANGLE · AI· Maria Deutscher发布时间 (北京时间)

阿里巴巴发布新一代大模型 Qwen4-Max,采用 Qwen4 架构并升级注意力机制,官方称输出质量高于前代且成本更低。模型骨干总参数 2.4 万亿、每次仅激活 710 亿,另有 3280 亿 N-gram 参数充当缓存;残差通道由单通道改为四通道并带门控。

同一件事,精选收录的是《阿里发布 Qwen4-Max:MoE 架构、原生视觉与 1M token 上下文》

来源仅允许展示摘要,全文请到原文阅读。
千问 Qwen推理能力数据与训练模型发布#模型发布#数据/训练#推理

同一件事的其他报道8 篇