ohmplatform GitHub avatar

FreedomGPT

TypeScript
本地离线大模型客户端ohmplatform最近推送 2024年6月14日
模型推理与部署GPL-3.02,67736276 issues7 天 +4

AI 分析 · 由大模型根据 README 与仓库数据生成 · 2026年11月18日

基于 Electron 和 React 的桌面应用,在 Mac/Windows 本地离线运行 LLM 模型。

FreedomGPT 是一个用 Electron 和 React 构建的桌面聊天应用,让用户在本地机器上运行大语言模型,实现离线且私密的对话。它依赖 llama.cpp 作为推理后端,支持手动下载 Liberty Edge 模型并设置路径。

推荐指数

3.0

适合想本地离线跑 LLM 的开发者尝试,但项目更新较慢,需自行编译 llama.cpp。

近 7 天

+4

新增 Star

总 Star 排名

#1893

雷达追踪的 3,958 个 AI 仓库中

创建于

2023

2023年3月21日

核心亮点

  • 1本地离线运行

    模型在本地执行,对话数据不出设备。

  • 2跨平台桌面应用

    基于 Electron,支持 Mac 和 Windows,README 也给出 Linux 步骤。

  • 3聊天式界面

    提供类似 ChatGPT 的对话交互界面。

  • 4基于 llama.cpp

    使用 llama.cpp 作为推理库,需自行编译。

适用场景

  • 隐私敏感的本地对话

    例如:在无网络环境下用本地模型处理内部文档问答。

  • 离线环境使用 LLM

    例如:在飞机上或隔离网络中通过桌面应用与模型聊天。

  • 学习本地 LLM 部署

    例如:开发者通过编译 llama.cpp 和配置模型路径了解本地推理流程。

它是怎么工作的

  1. 第 1 步

    克隆仓库并安装依赖

    使用 git clone --recursive 拉取代码,并用 yarn 安装 Node 依赖。

  2. 第 2 步

    编译 llama.cpp

    在 llama.cpp 目录下用 make(macOS/Linux)或 CMake(Windows)编译推理库。

  3. 第 3 步

    启动 Electron 应用

    在项目根目录运行 yarn start 打开聊天界面。

  4. 第 4 步

    加载本地模型

    在 AI Models 界面手动设置已下载的 Liberty Edge 模型文件路径。

快速上手

  1. 1

    克隆并安装依赖

    递归克隆仓库并安装 Node 依赖。

    git clone --recursive https://github.com/ohmplatform/FreedomGPT.git freedom-gpt && cd freedom-gpt && npx yarn install
  2. 2

    编译 llama.cpp(macOS)

    进入 llama.cpp 目录执行 make。

    cd llama.cpp && make
  3. 3

    编译 llama.cpp(Windows)

    使用 CMake 生成并构建 Release 版本。

    cd llama.cpp && cmake . && cmake --build . --config Release
  4. 4

    启动应用

    回到项目根目录运行应用。

    npx yarn start

适合谁

  • 想在本地离线运行 LLM 的开发者
  • 对 Electron + React 桌面应用感兴趣的人
  • 需要隐私保护、不愿将对话发往云端的用户

不太适合

  • 希望开箱即用、不想编译 C++ 库的用户
  • 需要移动端应用的用户

成熟度

  • 活跃度最近一次推送为 2024 年 6 月,距今较久,更新不活跃。
  • 文档README 包含安装和编译步骤,但缺少详细使用文档和故障排查。
  • 社区有 2676 星和 362 分支,76 个开放 issue,社区有一定规模但不算活跃。
  • 上手难度需要手动编译 llama.cpp 和配置模型路径,对普通用户门槛较高。

同类项目怎么选

  • OllamaOllama 是命令行工具,提供更简单的模型管理和运行方式,不绑定桌面 GUI。
  • LM StudioLM Studio 是闭源桌面应用,提供图形化模型下载和管理,无需编译。
  • JanJan 是开源桌面应用,同样支持本地模型,但内置模型管理更完善。

使用前注意

  • · 采用 GPL-3.0 许可证,商用或分发需遵守相应条款。
  • · 需要自行编译 llama.cpp,对 Windows 用户还需安装 CMake。
  • · 模型需手动下载并设置路径,应用不内置模型下载。
  • · README 提到挖矿收益功能,需自行下载 XMRig 二进制,涉及额外安全与合规风险。

主题标签

electrongptllmreact