AI 分析 · 由大模型根据 README 与仓库数据生成 · 2026年11月18日
在 Mac 上同时运行多个 AI 代理的本地推理服务器,速度最高提升 3 倍。
Locals 是一个面向 AI 代理的本地推理服务器,专为工具调用、长对话和多代理并行设计,而非普通聊天。它支持 OpenCode、Cline、Aider、OpenHands、Claude Code 等编码代理,以及任何兼容 OpenAI、Anthropic 或 Ollama 接口的应用。所有计算都在本机完成,数据不出电脑。
推荐指数
适合在 Apple Silicon Mac 上跑多代理编码任务的开发者,能明显提升并行吞吐,但仅限 macOS。
近 7 天
+4
新增 Star
总 Star 排名
#3593
雷达追踪的 3,958 个 AI 仓库中
创建于
2026
2026年10月13日
核心亮点
1多代理并行
多个代理的请求合并计算,8 个代理同时工作接近 2 个串行的时间。
2工具调用可靠
在 GPU 上应用语法约束,工具调用参数类型符合 schema,截断回复也能解析。
3兼容主流代理
可直接配合 OpenCode、Cline、Aider、OpenHands、Claude Code 使用。
4本地隐私
模型和推理全部在本机运行,数据不离开电脑。
5新模型支持快
已内置 LFM3、Flint、Qwenputer 等模型的专用代码和工具调用格式。
适用场景
多代理并行编码
例如:同时启动 6 个 OpenCode 代理处理不同文件,全部在较短时间内完成。
长上下文代码分析
例如:用 LFM3 模型读取 24 万 token 的请求,找出其中隐藏的关键信息。
本地工具调用代理
例如:代理调用计算、文件读写等工具,参数类型严格校验,减少解析错误。
替换云端 API
例如:将原本调用 OpenAI 或 Anthropic 的应用指向 Locals 本地端点,离线运行。
它是怎么工作的
第 1 步
安装并启动
通过安装脚本或 uv 安装后,运行 locals code 命令启动本地服务器。
第 2 步
自动选模型
首次运行根据 Mac 配置下载合适模型(约 3 GB),后台加载。
第 3 步
代理接入
编码代理通过 OpenAI、Anthropic 或 Ollama 兼容接口连接本地服务器。
第 4 步
批量推理
多个代理的请求在 GPU 上合并计算,使用专用内核提升并行吞吐。
第 5 步
语法约束输出
工具调用按模型格式在 GPU 上应用语法,保证参数类型和解析正确。
快速上手
- 1
一键安装
使用官方脚本安装 Locals。
curl -LsSf https://raw.githubusercontent.com/Generated-Computers/Locals/main/install.sh | sh - 2
或用 uv 安装
从 PyPI 安装,需 Python 3.12。
uv tool install --python 3.12 locals - 3
启动编码代理
在新终端中运行,自动下载模型并打开 OpenCode。
locals code ~/my-project
适合谁
- 使用 Apple Silicon Mac 的开发者
- 需要同时运行多个编码代理的人
- 希望本地运行、数据不外传的团队
- 使用 OpenCode、Cline、Aider 等工具的用户
不太适合
- 使用 Windows 或 Linux 的开发者
- 只需要简单聊天、不需要代理功能的用户
- 追求最大模型选择范围而非代理优化的用户
成熟度
- 活跃度创建于 2026 年 10 月,最近一次推送在 2026 年 11 月,更新频繁。
- 文档README 详细,含基准测试、论文链接和多种模型说明,但部分文档仍在完善。
- 社区651 星、43 叉、8 个开放 issue,属于早期项目,社区规模中等。
- 上手难度提供一键安装脚本和单命令启动,首次使用自动下载模型,上手简单。
同类项目怎么选
- mlx-lm苹果官方的 MLX 推理库,通用聊天推理,未针对多代理并行和工具调用优化。
- Ollama跨平台本地模型运行工具,接口简单,但多代理并行吞吐和工具调用约束不如 Locals 专注。
- llama.cpp通用 C++ 推理引擎,跨平台,需自行配置代理集成和并行优化。
使用前注意
- · 仅支持 macOS 和 Apple Silicon,其他平台无法使用。
- · 首次运行需下载约 3 GB 模型,需保证磁盘和网络条件。
- · 部分新模型(如 Flint)需要 24 GB 以上内存,且可能尚未进入 PyPI 正式版。
- · 采用 Apache-2.0 许可,商用需遵守许可条款。
