进行中

Unsloth 发布 Inkling 2 Mini GGUF 版

报道
2
信源
2
首次报道
11/20 08:00
最近更新
11/21 04:13

Unsloth 发布了 Thinking Machines 的 Inkling 2 Mini 模型的 GGUF 版本,可在 Unsloth 和 llama.cpp 上运行。Unsloth 称,这是能在 16GB 内存上运行的最强 26.4B MoE 模型。 该模型采用 Apache 2.0 许可和 looped transformer 架构。Unsloth 称,它在 DeepSWE v1.1 上得分 48.2%;被引推文称,它在 AA Index 上得 20.1 分。Unsloth 同时提供了 Hugging Face 上的 GGUF 仓库和本地运行指南。

最新进展Unsloth 提供 Inkling 2 Mini GGUF,26.4B MoE 模型可在 16GB 内存运行

热度48 小时内每个独立信源只算一次,24 小时减半

48 小时参与信源
2
6 小时新加入
1
24 小时新报道
2
热点排名
—

热度曲线会在事件持续一段时间后出现。

事件进展2 个阶段

官方一手信息1 篇

全部报道2 篇

  • Unsloth 提供 Inkling 2 Mini GGUF,26.4B MoE 模型可在 16GB 内存运行

    Unsloth 发布 Thinking Machines 的 Inkling 2 Mini GGUF 版本,可在 Unsloth 和 llama.cpp 上运行,称其是能在 16GB 内存上运行的最强 26.4B MoE 模型。该模型采用 Apache 2.0 许可和 looped transformer 架构,在 DeepSWE v1.1 上得分 48.2%,被引推文称其在 AA Index 上得 20.1 分。Unsloth 同时提供了 Hugging Face 上的 GGUF 仓库和本地运行指南。

    Unsloth AI精选

  • Thinking Machines Lab 发布 Inkling 2 Mini 本地多模态模型

    Thinking Machines Lab 发布 Inkling 2 Mini,这是一个面向本地部署的多模态 MoE 模型,物理参数约 26B、每 token 激活 3B,支持 1M token 上下文和图像输入。

    Hugging Face Blog一手精选

#端侧 AI#开源生态#多模态#模型发布#产品更新