psalias2006 GitHub avatar

gpu-hot

JavaScript
GPU 实时监控面板psalias2006最近推送 2026年8月25日
模型推理与部署MIT1,648878 issues7 天 +5

AI 分析 · 由大模型根据 README 与仓库数据生成 · 2026年11月18日

自托管的 NVIDIA GPU 实时监控面板,用 Docker 一条命令启动。

GPU Hot 是一个基于 Web 的 NVIDIA GPU 实时监控仪表盘,轻量、可自托管。它通过 NVML 采集 GPU 指标,用 WebSocket 推送到浏览器展示,支持单机或多机集群聚合,仓库以 Python/FastAPI 后端加 JavaScript 前端实现。

推荐指数

4.0

部署极简、功能覆盖日常 GPU 监控需求,适合自建小规模监控面板。

近 7 天

+5

新增 Star

总 Star 排名

#2569

雷达追踪的 3,958 个 AI 仓库中

创建于

2025

2025年10月5日

核心亮点

  • 1一条命令启动

    docker run 加 --gpus all 即可跑起来,无需额外配置。

  • 2多机聚合

    hub 模式可把多台 GPU 服务器的数据汇总到一个面板。

  • 3指标较全

    利用率、温度、显存、功耗、风扇、频率、PCIe、节流状态等。

  • 4空闲低占用

    无客户端连接时自动暂停轮询,空闲 CPU 接近零。

  • 5开放接口

    提供 HTTP JSON 快照和 WebSocket 推送,便于二次集成。

适用场景

  • 单机开发调试

    例如:在本地工作站跑 docker run 后打开 1312 端口查看训练时 GPU 占用。

  • 小集群运维

    例如:多台 GPU 服务器各起一个节点,再用 hub 机器统一查看。

  • 监控接入

    例如:用 GET /api/gpu-data 拉取指标接入自有告警或看板。

它是怎么工作的

  1. 第 1 步

    采集指标

    后端通过 NVML 轮询 GPU 数据,老卡可回退到 nvidia-smi。

  2. 第 2 步

    推送前端

    数据经 WebSocket 推送到浏览器,前端批量渲染卡片和图表。

  3. 第 3 步

    多机聚合

    hub 模式定时从各节点 URL 拉取数据并合并展示。

  4. 第 4 步

    按需轮询

    没有客户端连接时暂停采集,降低空闲开销。

快速上手

  1. 1

    单机运行

    需要 Docker 和 NVIDIA Container Toolkit。

    docker run -d --gpus all -p 1312:1312 ghcr.io/psalias2006/gpu-hot:latest
  2. 2

    打开面板

    浏览器访问本地 1312 端口。

  3. 3

    源码构建

    克隆仓库后用 docker-compose 构建启动。

    docker-compose up --build

适合谁

  • 有 NVIDIA GPU 的个人开发者
  • 需要自建监控的小团队运维
  • 想快速看训练任务 GPU 状态的算法工程师

不太适合

  • 使用 AMD/Intel GPU 的用户
  • 需要长期指标存储与告警体系的团队

成熟度

  • 活跃度2025 年创建,最近一次推送在 2026 年 8 月,仍在维护。
  • 文档README 覆盖部署、配置、API 和排障,结构清晰。
  • 社区约 1.6k star、87 fork、8 个开放 issue,社区规模中等。
  • 上手难度Docker 一条命令即可运行,几乎无需配置。

同类项目怎么选

  • nvitop终端交互式监控工具,不是 Web 面板,也不支持多机聚合。
  • Netdata通用系统监控平台,GPU 只是其中一类采集项,体量更大。
  • DCGM Exporter + Grafana面向 Prometheus 生态的指标导出方案,需要自行搭建存储和看板。

使用前注意

  • · 仅支持 NVIDIA GPU,且宿主机需装好驱动和 NVIDIA Container Toolkit。
  • · 查看进程名需加 --init --pid=host,容器会接触宿主机进程信息,注意权限风险。
  • · 默认不提供长期指标存储和告警,历史图表只在页面内展示。
  • · MIT 许可,可自由修改和商用。

主题标签

chartscudadockerflaskgpugpu-monitoringnvidianvidia-smipythonreal-time-monitoringsystem-monitoringdashboardnvidia-dockerreal-timedevopsllmmlops