精选模型75
NVIDIA 发布 Nemotron-3.5-Bolt-E4B 小模型,可在 6GB 内存本地运行
原标题:NVIDIA releases Nemotron-3.5-Bolt-E4B, a new model that runs locally on 6GB RAM. 💚
NVIDIA 发布 Nemotron-3.5-Bolt-E4B,这是一款可在 6GB 内存设备上本地运行的小模型,能用于手机等边缘设备。该模型基于 Gemma 4 训练,支持视觉,官方称其在同尺寸模型中性能领先。Unsloth 已放出 GGUF 权重和本地运行指南。
推荐理由这条内容说明小模型在端侧运行的门槛,并给出可直接下载的 GGUF 权重和本地运行指南。
NVIDIA 发布 Nemotron-3.5-Bolt-E4B,一款可在 6GB 内存上本地运行的新模型。💚
Bolt-E4B 可在手机等边缘设备上运行,并在同等规模下提供顶级性能。它基于 Gemma 4 训练,支持视觉。
GGUF:https://huggingface.co/unsloth/NVIDIA-Nemotron-3.5-Bolt-E4B-GGUF
指南:https://unsloth.ai/docs/models/nemotron-3.5-bolt
现已推出:NVIDIA Nemotron 3.5 Bolt E4B 4GB ⚡️ 我们最新的小型开放模型专为本地助手、互动角色和机器人打造,它们能够进行对话并使用工具完成任务。 观看 Reachy Mini 聊天和移动,由 Bolt 负责对话,NVIDIA Cosmos 负责视觉。两个模型均在 Jetson Orin Nano 8GB 上本地运行。 了解更多:https://research.nvidia.com/labs/nemotron/NVIDIA-Nemotron-3.5-Bolt-E4B-4GB/
查看原文
Available now: NVIDIA Nemotron 3.5 Bolt E4B 4GB ⚡️ Our newest small open model is built for local assistants, interactive characters and robots that can carry on a conversation and use tools to get things done. Watch Reachy Mini chat and move, with Bolt handling conversation and NVIDIA Cosmos handling vision. Both models run locally on Jetson Orin Nano 8GB. Learn more: https://research.nvidia.com/labs/nemotron/NVIDIA-Nemotron-3.5-Bolt-E4B-4GB/
