技术方向

端侧 AI

直接跑在手机、电脑等设备上的 AI:小模型、在本机运行模型的工具与端侧芯片。

近 30 天 4 条共 4 条精选收录 26 条

精选新闻

  • Google AI Edge Gallery 上线端侧语音识别与语音合成

    Google 在 Google AI Edge Gallery 中推出端侧自动语音识别(ASR)和语音合成(TTS)能力,可完全离线运行并与 Gemini Nano、Gemma 4 等端侧小模型配合。

    Google Developers Blog

  • Liquid AI 的 LFM3 系列上线 LM Studio,约 1 GB 内存可运行

    Liquid AI 发布新一代 Liquid Foundation Models(LFM3),共 6 个模型实例,覆盖文本、音频、视觉和 omni 模态,以及生成模型和决策模型。其中 LFM3-1.7B 支持 256k 上下文窗口,LFM3-VL-2B 支持视频输入,LFM3-Audio-2B 支持工具调用、语音对话和 18 种语言推理,d1-2B 与 d1-Omni-2B 为单次输出类型化结果和校准概率的决策模型。LM Studio 宣布该系列已上线,约 1 GB 内存即可运行。

    LM Studio

  • NVIDIA 发布 Nemotron-3.5-Bolt-E4B 小模型,可在 6GB 内存本地运行

    NVIDIA 发布 Nemotron-3.5-Bolt-E4B,这是一款可在 6GB 内存设备上本地运行的小模型,能用于手机等边缘设备。该模型基于 Gemma 4 训练,支持视觉,官方称其在同尺寸模型中性能领先。Unsloth 已放出 GGUF 权重和本地运行指南。

    Unsloth AI

  • Recursive_SI 发布首个模型 Flint,LM Studio 首日上线支持

    LM Studio 在 Flint 发布当天上线支持该模型。Flint 是 Recursive_SI 的首个模型,采用 40B MoE 架构、2.5B 激活参数,支持 262K token 上下文窗口,采用 Apache 2.0 许可,面向本地智能体编码训练,本地运行约需 24GB 内存。据引用内容,该模型在 MacBook Pro 上可达 125+ tokens/sec,在 RTX Spark 上可达 150+,权重已在 Hugging Face 开放。

    LM Studio