模型
78AI 评分(两次独立评分的平均)

Thinking Machines 发布开源模型 Inkling 2 Mini,循环复用层可在笔记本本地运行

原标题:New open model Inkling 2 Mini thinks in loops to solve problems with fewer words and still runs on a laptop

The Decoder· Matthias Bastian发布时间 (北京时间)

AI 速览

根据原文整理

Thinking Machines 称,Inkling 2 Mini 通过复用部分网络层,用更少的 token 得出答案。

总参数量
264 亿
激活参数
54 亿
Mac 内存门槛
32 GB
架构
每处理一个 token,模型的 24 层中有 12 层连续运行三次。
跑分
DeepSWE v1.1 得分 48.2%,在千亿参数以下的开放模型中领先。
规格
模型支持文本和图像,采用 Apache 2.0 许可证。
获取
权重和可调循环次数的研究版均可从 Hugging Face 下载。

为什么值得看开发者可在满足内存要求的 Mac 或 DGX Spark 上本地运行模型。

由 AI 阅读原文后整理,可能有疏漏,细节以原文为准。

同一件事,精选收录的是《Thinking Machines Lab 发布 Inkling 2 Mini 本地多模态模型》

推理能力多模态开源生态模型发布#模型发布#推理#多模态#开源生态#Hugging Face

同一件事的其他报道4 篇