Generated-Computers GitHub avatar

Locals

Python
Mac 多 Agent 运行器Generated-Computers最近推送 2026年11月18日
模型推理与部署Apache-2.0651438 issues7 天 +4

AI 分析 · 由大模型根据 README 与仓库数据生成 · 2026年11月18日

在 Mac 上同时运行多个 AI 代理的本地推理服务器,速度最高提升 3 倍。

Locals 是一个面向 AI 代理的本地推理服务器,专为工具调用、长对话和多代理并行设计,而非普通聊天。它支持 OpenCode、Cline、Aider、OpenHands、Claude Code 等编码代理,以及任何兼容 OpenAI、Anthropic 或 Ollama 接口的应用。所有计算都在本机完成,数据不出电脑。

推荐指数

4.0

适合在 Apple Silicon Mac 上跑多代理编码任务的开发者,能明显提升并行吞吐,但仅限 macOS。

近 7 天

+4

新增 Star

总 Star 排名

#3593

雷达追踪的 3,958 个 AI 仓库中

创建于

2026

2026年10月13日

核心亮点

  • 1多代理并行

    多个代理的请求合并计算,8 个代理同时工作接近 2 个串行的时间。

  • 2工具调用可靠

    在 GPU 上应用语法约束,工具调用参数类型符合 schema,截断回复也能解析。

  • 3兼容主流代理

    可直接配合 OpenCode、Cline、Aider、OpenHands、Claude Code 使用。

  • 4本地隐私

    模型和推理全部在本机运行,数据不离开电脑。

  • 5新模型支持快

    已内置 LFM3、Flint、Qwenputer 等模型的专用代码和工具调用格式。

适用场景

  • 多代理并行编码

    例如:同时启动 6 个 OpenCode 代理处理不同文件,全部在较短时间内完成。

  • 长上下文代码分析

    例如:用 LFM3 模型读取 24 万 token 的请求,找出其中隐藏的关键信息。

  • 本地工具调用代理

    例如:代理调用计算、文件读写等工具,参数类型严格校验,减少解析错误。

  • 替换云端 API

    例如:将原本调用 OpenAI 或 Anthropic 的应用指向 Locals 本地端点,离线运行。

它是怎么工作的

  1. 第 1 步

    安装并启动

    通过安装脚本或 uv 安装后,运行 locals code 命令启动本地服务器。

  2. 第 2 步

    自动选模型

    首次运行根据 Mac 配置下载合适模型(约 3 GB),后台加载。

  3. 第 3 步

    代理接入

    编码代理通过 OpenAI、Anthropic 或 Ollama 兼容接口连接本地服务器。

  4. 第 4 步

    批量推理

    多个代理的请求在 GPU 上合并计算,使用专用内核提升并行吞吐。

  5. 第 5 步

    语法约束输出

    工具调用按模型格式在 GPU 上应用语法,保证参数类型和解析正确。

快速上手

  1. 1

    一键安装

    使用官方脚本安装 Locals。

    curl -LsSf https://raw.githubusercontent.com/Generated-Computers/Locals/main/install.sh | sh
  2. 2

    或用 uv 安装

    从 PyPI 安装,需 Python 3.12。

    uv tool install --python 3.12 locals
  3. 3

    启动编码代理

    在新终端中运行,自动下载模型并打开 OpenCode。

    locals code ~/my-project

适合谁

  • 使用 Apple Silicon Mac 的开发者
  • 需要同时运行多个编码代理的人
  • 希望本地运行、数据不外传的团队
  • 使用 OpenCode、Cline、Aider 等工具的用户

不太适合

  • 使用 Windows 或 Linux 的开发者
  • 只需要简单聊天、不需要代理功能的用户
  • 追求最大模型选择范围而非代理优化的用户

成熟度

  • 活跃度创建于 2026 年 10 月,最近一次推送在 2026 年 11 月,更新频繁。
  • 文档README 详细,含基准测试、论文链接和多种模型说明,但部分文档仍在完善。
  • 社区651 星、43 叉、8 个开放 issue,属于早期项目,社区规模中等。
  • 上手难度提供一键安装脚本和单命令启动,首次使用自动下载模型,上手简单。

同类项目怎么选

  • mlx-lm苹果官方的 MLX 推理库,通用聊天推理,未针对多代理并行和工具调用优化。
  • Ollama跨平台本地模型运行工具,接口简单,但多代理并行吞吐和工具调用约束不如 Locals 专注。
  • llama.cpp通用 C++ 推理引擎,跨平台,需自行配置代理集成和并行优化。

使用前注意

  • · 仅支持 macOS 和 Apple Silicon,其他平台无法使用。
  • · 首次运行需下载约 3 GB 模型,需保证磁盘和网络条件。
  • · 部分新模型(如 Flint)需要 24 GB 以上内存,且可能尚未进入 PyPI 正式版。
  • · 采用 Apache-2.0 许可,商用需遵守许可条款。

主题标签

agentsapple-siliconartificial-intelligenceinference-accelerationinference-enginemacosmlx-lmcoding-agents