GitHub 市场
GitHub 上值得关注的 AI 项目和 Skills
每天追踪 GitHub 上的 AI 开源项目和可直接安装的 Agent Skill,按类别、增长和更新时间整理,每周一出一期精选。
Skill install terminal example: run npx skills add vercel-labs/agent-skills, select Codex and install globally.
每周精选 · 11/9–11/15
GitHub 雷达周刊 · 2026 年第 47 周
本周(11/9–11/15)榜单由智能体基础设施与技能生态主导:DeepSeek Harness 相关项目持续升温,手机端客户端 dsh-Go 单周涨星 7716;Anthropic 的 skills 合集与社区技能集合同步走高,说明「给 Agent 装技能」正成为主流用法。安全方向也出现对照:rea 做逆向分析,bla 则做逆向防护。
精选推荐
先看一组高关注、可信的项目和 Skill,再进入下方分区浏览。
OmniRoute
多模型统一接入网关
CLIProxyAPI
模型接口代理服务
gputaskman
GPU 任务管理器
OrcaRouter-Lite
自托管大模型路由
airllm
大模型推理工具
sub2api
大模型订阅中转服务
GPT_API_free
免费大模型接口服务
kimi-k3-in-c
轻量大模型推理引擎
sglang
大模型推理服务框架
9router
多模型编程网关
inferssd
SSD 流式 MoE 推理引擎
TensorFold
跨平台大模型推理引擎
omlx
苹果芯片推理服务
llmfit
本地大模型选型工具
openvino
AI 推理优化工具包
bifrost
大模型统一网关
mlc-llm
通用大模型部署引擎
DSHA
安卓本地 DeepSeek 运行器
workbuddy-manager
CodeBuddy 账号池网关
cactus
端侧智能推理框架
本周飙升
按热度排序:最近 7 天新增的 Star 和 Fork,越近权重越高,新项目加分;超大仓库要涨得够快才上榜。
mw00/ project-mayaproject-maya
C++本地大模型推理平台 · mw00
本地大模型推理平台
★ 3.0K+231 本周模型推理与部署11月18日更新
在自有 GPU 上私有运行多种大型混合专家模型,提供推理引擎、服务端、仪表盘及兼容 OpenAI 和 Anthropic 的 API,适合需要本地部署与量化工具的用户。
simplexai-labs/ PolyStrataPolyStrata
C++本地大模型运行工具 · simplexai-labs
本地大模型运行工具
★ 1.2K+181 本周模型推理与部署11月18日更新
为 Windows 和 Linux 提供一键安装的本地大模型推理工具,可运行多种开源模型,并在本机提供兼容 OpenAI 与 Anthropic 的 API。适合希望在自有电脑上部署和调用模型的用户。
NerverDevs/ nervecenternervecenter
TypeScript中转站账号管理面板 · NerverDevs
中转站账号管理面板
★ 520+144 本周模型推理与部署10月25日更新
面向 new-api、sub2api 等 API 中转站的账号管理面板,集中查看余额、API Key、用量与倍率,并支持多模型比价,适合自建中转服务的用户。
davemessew/ AgentFluxAgentFlux
TypeScriptdavemessew
Agentic AI platform for visual workflows and autonomous agents. Run it with Docker on your own computer or server.
★ 281+102 本周模型推理与部署10月30日更新
Agentic AI platform for visual workflows and autonomous agents. Run it with Docker on your own computer or server.
trymirai/ uzuuzu
Rust高性能推理引擎 · trymirai
高性能推理引擎
★ 3.4K+110 本周模型推理与部署11月19日更新
用 Rust 编写的高性能 AI 模型推理引擎,支持 Metal 加速,面向需要在本地或服务端高效运行大模型与语音合成模型的开发者。
hyperionaidev/ smolmaxxingsmolmaxxing
C端侧大模型运行工具 · hyperionaidev
端侧大模型运行工具
★ 1.0K模型推理与部署11月19日更新
用 C 语言实现的本地大模型推理方案,专注在尽可能小的设备上运行不同 LLM,支持量化算法,适合嵌入式与边缘 AI 开发者。
新项目
30 天内创建、已经获得关注的 AI 项目。
RunanywhereAI/ trnrttrnrt
PythonTrainium 推理引擎 · RunanywhereAI
Trainium 推理引擎
★ 1.6K模型推理与部署11月18日更新
面向 AWS Trainium 芯片的开源大模型推理引擎,支持百万级上下文和 OpenAI 兼容接口,适合在 AWS 上自建推理服务的团队。
synchopate/ llama-modchipllama-modchip
PythonCPU 大模型推理优化 · synchopate
CPU 大模型推理优化
★ 1.4K模型推理与部署11月19日更新
在 64GB 纯 CPU 环境运行 284B DeepSeek 与 30B MoE 模型的推理优化方案,结合 AVX512、投机解码等技术,适合无 GPU 的本地部署玩家。
huawei-csl/ MACaQMACaQ
C++通用模型量化工具 · huawei-csl
通用模型量化工具
★ 370模型推理与部署11月17日更新
与模型无关的 SOTA 量化方案,支持 GGUF 及本地推理,可配合 llama.cpp、vLLM、Diffusers 和 PyTorch 量化运行文本、图像、视频与音频模型。
jammaru/ sakuttosakutto
TypeScript本地大模型翻译插件 · jammaru
本地大模型翻译插件
★ 272模型推理与部署11月19日更新
浏览器扩展,用本地运行的 PLaMo 模型在设备上完成网页翻译,无需服务器、免费且保护隐私,适合注重数据安全的多语言阅读用户。
OmniJev/ FlideFlide
Python决策模型推理引擎 · OmniJev
决策模型推理引擎
★ 543模型推理与部署11月16日更新
面向决策模型的高性能推理引擎,支持 Gemma、Qwen 等模型,基于 PyTorch、Triton 与 CUDA 做确定性推理和 KV 缓存优化,适合部署低延迟 Agent 服务。
affifuddin-hazam/ ghost-inferghost-infer
HTMLaffifuddin-hazam
Fast local LLM inference for the GPU you already have: one Rust binary, GGUF models, an OpenAI-compatible server and a chat page with a ghost.
★ 242模型推理与部署11月17日更新
Fast local LLM inference for the GPU you already have: one Rust binary, GGUF models, an OpenAI-compatible server and a chat page with a ghost.
高 Star 仓库
按 GitHub Stars 优先展示更受开发者关注的项目和 Skill 仓库。
ollama/ ollamaollama
Go本地大模型运行工具 · ollama
本地大模型运行工具
★ 188K+863 本周模型推理与部署11月19日更新
帮助开发者与个人用户运行和管理开放模型,支持本地对话、命令行操作及 REST 接口,可通过 Python 和 JavaScript 接入应用。([github.com](https://github.com/ollama/ollama))
vllm-project/ vllmvllm
Python大模型高效推理引擎 · vllm-project
大模型高效推理引擎
★ 97K+415 本周模型推理与部署11月19日更新
面向大模型部署开发者提供高吞吐、节省显存的推理与服务能力,通过高效注意力缓存管理和连续批处理提升服务效率,并提供兼容接口。([github.com](https://github.com/vllm-project/vllm/blob/main/docs/README.md?utm_source=openai))
BerriAI/ litellmlitellm
Python大模型统一接入网关 · BerriAI
大模型统一接入网关
★ 64K+382 本周模型推理与部署11月19日更新
统一接入百余种大模型接口,提供兼容 OpenAI 的调用方式,以及成本追踪、负载均衡、日志和安全护栏,适合构建多模型应用的开发团队。([github.com](https://github.com/BerriAI/litellm))
ultralytics/ yolov5yolov5
Python目标检测与分割工具 · ultralytics
目标检测与分割工具
★ 58K+28 本周模型推理与部署11月17日更新
基于 PyTorch 的计算机视觉工具,支持目标检测、实例分割和图像分类,并提供训练与模型导出能力,适合视觉算法研究者和应用开发者。([github.com](https://github.com/ultralytics/yolov5))
tashfeenahmed/ freellmapifreellmapi
TypeScript免费大模型聚合网关 · tashfeenahmed
免费大模型聚合网关
★ 55K模型推理与部署11月18日更新
把 87 家免费 LLM 提供商的 1300 多个模型端点统一到一个 /v1 接口,支持智能路由、自动故障转移和密钥加密,适合个人做模型对比实验。
QuantumNous/ new-apinew-api
Go自托管大模型网关 · QuantumNous
自托管大模型网关
★ 52K+409 本周模型推理与部署11月18日更新
为 OpenAI、Claude、Gemini 等兼容接口提供统一的自托管 AI 网关,支持模型路由、访问控制、用量跟踪与成本核算,适合需要集中管理模型 API 的团队。
最近更新
最近有代码推送的项目和 Skill 仓库,适合关注变化较快的方向。
llm-d/ llm-dllm-d
PythonKubernetes 大模型推理平台 · llm-d
Kubernetes 大模型推理平台
★ 5.3K+72 本周模型推理与部署11月19日更新
在 Kubernetes 上利用现代加速器实现高性能分布式大模型推理,支持智能路由与模型服务,适合需要集群化部署 LLM 的运维和平台团队。
BenedictKing/ ccxccx
Go多模型API代理 · BenedictKing
多模型API代理
★ 4.0K+3 本周模型推理与部署11月19日更新
用 Go 编写的 API 代理,面向 Claude、Codex 和 Gemini 等服务统一转发请求,适合需要通过代理接入多种模型 API 的开发者。
mybigday/ llama.rnllama.rn
Cllama.cpp 移动端绑定 · mybigday
llama.cpp 移动端绑定
★ 1.1K模型推理与部署11月19日更新
llama.cpp 的 React Native 绑定,让开发者在 iOS 和 Android 应用中直接本地运行大语言模型,适合做端侧 AI 应用的移动开发者。
alibaba/ rtp-llmrtp-llm
Python大模型推理引擎 · alibaba
大模型推理引擎
★ 1.4K+9 本周模型推理与部署11月19日更新
阿里巴巴开源的高性能大语言模型推理与服务引擎,面向需要部署模型并支撑多类应用的开发者,重点提供推理运行能力。
LMCache/ LMCacheLMCache
PythonLLM 键值缓存加速层 · LMCache
LLM 键值缓存加速层
★ 12K+47 本周模型推理与部署11月19日更新
为大模型推理提供高性能 KV Cache 层,可配合 vLLM 等引擎降低显存占用、提升吞吐,适合部署和优化 LLM 服务的工程师。
vllm-project/ vllm-ascendvllm-ascend
Python昇腾推理硬件插件 · vllm-project
昇腾推理硬件插件
★ 3.1K+35 本周模型推理与部署11月19日更新
为 vLLM 提供面向华为昇腾硬件的社区维护插件,支持在昇腾平台运行和服务大语言模型,适合使用该硬件部署模型推理服务的开发者。
找不到你要的项目或 Skill?
告诉我们仓库地址和用途,帮助补充你希望收录的项目。
请求收录
接着逛逛 RZH.AI
模型和排行榜也按同样的方式整理好了,每个数字都能看到出处。