AI 分析 · 由大模型根据 README 与仓库数据生成 · 2026年11月17日
本地优先的一体化 AI 应用,可连接本地或云端大模型,与文档对话并运行 AI 智能体。
AnythingLLM 是一个开箱即用的一体化 AI 应用,目标是让用户搭建私有的、功能完整的 ChatGPT 式环境。它支持接入本地或云端大模型,导入文档后即可对话,并内置智能体、多用户、向量数据库和文档处理流程,默认本地运行、无需额外配置。
推荐指数
功能完整、生态成熟、上手门槛低,是自建私有 AI 工作台的首选之一。
近 7 天
+227
新增 Star
总 Star 排名
#68
雷达追踪的 3,931 个 AI 仓库中
创建于
2023
2023年6月4日
核心亮点
1多模型接入
支持 OpenAI、Anthropic、Gemini、Ollama、LM Studio、本地 llama.cpp 等大量模型来源。
2文档对话
支持 PDF、TXT、DOCX 等格式,拖拽上传后带来源引用回答。
3内置智能体
工作区内可运行智能体,支持网页浏览、MCP 兼容与无代码 Agent 构建。
4多用户与权限
Docker 版支持多用户实例和按用户控制访问。
5本地优先
内置本地模型引擎,可用 CPU 或 GPU 运行,数据不必外传。
适用场景
企业内部知识库
例如:把公司制度与产品文档导入工作区,员工用自然语言提问并看到引用来源。
个人私有助手
例如:在本地电脑用 Ollama 加载模型,处理私人笔记而不上传云端。
团队多用户部署
例如:用 Docker 部署一套实例,为不同成员分配独立工作区和权限。
自动化任务
例如:用定时任务按 cron 周期运行带智能体的提示词,定期汇总信息。
它是怎么工作的
第 1 步
选择模型
在设置中接入本地引擎或云端 LLM 提供商的 API。
第 2 步
导入文档
上传或拖入文档,系统切分并写入向量数据库。
第 3 步
检索增强
提问时先检索相关片段,再交给模型生成回答并附来源。
第 4 步
智能体执行
需要时调用工具完成浏览网页、运行任务等操作。
快速上手
- 1
下载桌面版
Mac、Windows、Linux 可直接安装使用。
- 2
或 Docker 部署
适合服务器与多用户场景,参考仓库内 Docker 使用文档。
- 3
配置模型
在设置中选择本地引擎或填入云端 API Key。
- 4
上传文档开聊
新建工作区,拖入文档后开始提问。
适合谁
- 希望数据不出本地的个人开发者
- 需要私有知识库问答的团队
- 想统一管理多家模型 API 的使用者
- 需要多用户权限的运维或 IT 人员
不太适合
- 只想调用单一云端 API 的轻量用户
- 不愿维护部署与模型资源的人
成熟度
- 活跃度最近一次推送在 2026 年 11 月,持续活跃开发。
- 文档有独立文档站、多语言 README 和演示视频。
- 社区约 6.8 万 star、7700+ fork,并有 Discussions 与 Reddit 社区。
- 上手难度桌面版安装即用,但多用户等高级功能需 Docker 部署。
同类项目怎么选
- Open WebUI更偏聊天界面与 Ollama 生态,文档知识库与多用户管理侧重不同。
- LibreChat聚焦多模型聊天界面,智能体与文档流水线能力相对更轻。
- Dify更偏 LLM 应用与工作流编排平台,面向开发者构建应用。
使用前注意
- · 采用 MIT 许可,商用前仍建议核对仓库 LICENSE 原文。
- · 多用户、白标、嵌入聊天组件等功能仅 Docker 版提供。
- · 本地运行大模型对 CPU/GPU 与内存有要求,性能取决于硬件。
- · 接入云端模型会产生 API 费用,需自行管理密钥。
