精选模型
78AI 评分(两次独立评分的平均)

Thinking Machines Lab 发布 Inkling 2 Mini 本地多模态模型

原标题:Welcome Inkling 2 Mini, Cutting-edge Performance for your Local Setup

Hugging Face Blog发布时间 (北京时间)

Thinking Machines Lab 发布 Inkling 2 Mini,这是一个面向本地部署的多模态 MoE 模型,物理参数约 26B、每 token 激活 3B,支持 1M token 上下文和图像输入。

推荐理由文章给出循环 Transformer 的层复用机制与多框架推理入口,可据此判断本地部署的取舍。

来源仅允许展示摘要,全文请到原文阅读。

多模态端侧 AI开源生态模型发布#模型发布#开源/仓库#多模态#端侧#Hugging Face