AI 概览 · 由大模型根据 SKILL.md 与仓库数据生成 · 2026年11月18日
MNN 工程技能集:算子、后端优化与模型接入流程
这是 alibaba/MNN 仓库内的一组 AI Agent 工作流技能,围绕端侧推理引擎的开发与维护,把新增算子、模型接入、各后端优化、问题排查等任务整理成分步骤流程与参考知识。
包含 Skill
11
可以单独安装
GitHub Star
16.6k
仓库累计 Star
近 7 天
+75
新增 Star
代码更新
2026年11月17日
最近一次推送
核心亮点
1流程化推进
把复杂工程任务拆成有测试标准的步骤
2后端覆盖广
涵盖 CPU、Metal、OpenCL、Vulkan、Hexagon、QNN
3经验沉淀
包含调试分册与任务后复盘环节
能做什么
- 按 TDD 流程为框架新增算子
- 为框架添加新的 LLM 模型支持
- 针对多种硬件后端做 kernel 优化与集成验证
- 按症状分流排查正确性与回归问题
- 提供 CI 相关与任务复盘的工作流
适用场景
为 MNN 新增一个自定义算子并补齐单测
把 HuggingFace 上的新模型接入并导出
排查 Vulkan 后端 kernel 的性能瓶颈
用之前和用之后
- 新增算子或接入模型时缺少统一步骤,容易漏掉测试环节按技能给出的分步流程推进,每步都有对应验证标准
- 后端性能问题难以判断该改哪一层借助分流入口与诊断流程定位到具体优化方向
它是怎么工作的
第 1 步
定位任务
第 2 步
按步执行
第 3 步
验证复盘
快速上手
安装与复制命令见“安装方式”。
- 1
在仓库 skills 目录找到对应技能文件
- 2
阅读技能说明与分步测试标准
- 3
按步骤执行并逐步验证
- 4
遇到问题查阅对应调试分册
适合谁
- 端侧推理引擎开发者
- 模型部署工程师
- GPU/DSP 后端优化人员
局限
- 技能面向 MNN 仓库内部开发,通用性有限
- 需要具备推理引擎与后端相关知识
- 部分流程依赖真机或特定硬件环境验证
使用前注意
- · 所有技能标注风险等级为 high,使用前需确认影响范围
- · 涉及后端与算子改动时,建议先在测试环境验证
包含的 Skills · 11
- Add New Op工作流为 MNN 框架新增算子。包含 Schema 定义、形状计算、几何计算、后端实现、单元测试的完整 TDD 流程。分 5 步执行,每步有独立测试标准。skills/add-new-op/SKILL.md
- Cpu工作流MNN CPU 后端(ARM / x8664 / RISC-V 三侧)的总入口,只做分流不承载技术内容。下分 optimize/(为什么慢、该改哪一层)与 kernel/(这条 kernel 怎么写对、怎么被选中)两个分支,shared/ 放两者共用的构建测试跑分命令、env 开关注册表与 RISC-V 开发板远端验证纪律。做 CPU 侧的工作但还不确定该进哪个分支,或需要三侧结构差异对照(第二张函数表按什么分、二级表怎么构造、PrecisionLow 把 A/B 测试的假设、指标和执行准备整理成流程。skills/cpu/SKILL.md
- Bugfix工作流MNN 各类正确性/回归 bug 的排查入口,按 bug 类别分册组织,本文件只做症状分流。分册:内存别名与生命周期(arena reuse、MemChunk、融合引入的别名竞争)、量化误差与导出侧权重损坏(低 bit 打包、导出分块、PyTorch MPS/CUDA 大张量静默错误)、host 侧并发/线程竞争(共享所有权的引用计数被写坏、析构链崩溃、TSAN A/B 与编译期哨兵)、fp16 表示能力不足(长序列复读、position 塌缩,以及「实时计算→预计算查 把 A/B 测试的假设、指标和执行准备整理成流程。skills/general-debug/SKILL.md
- Hexagon Optimization工作流MNN Hexagon/HVX/HMX DSP 后端(source/backend/hexagon)的优化、重构、构建与回归验证。覆盖设备实测的相位分解、测量纪律、v79/v81 双架构差异、常见瓶颈模式、已否证方向与 cDSP crash 诊断。skills/hexagon/SKILL.md
- Metal Optimize工作流MNN Metal 后端 op/kernel 开发与优化入口。索引各份 sub-doc:性能问题诊断流程(op 单测 + 对手基准定位真瓶颈,优化任务第一站)、kernel 开发规范与优化知识库(命名/写法/GEMV/GEMM/attention + 手段方法论)、算子融合全链路(导出图→converter→Metal 单 dispatch + 融合方法论)、运行时调度(fence/content-cache/H2D/replay + 调度方法论)、构建测试基线、env 开 批量生成和迭代广告创意文案,适合投放前素材准备。skills/metal-optimize/SKILL.md
- Opencl Optimize工作流MNN OpenCL 后端 kernel 性能优化与新特性集成。覆盖 benchmark 基线、kernel 优化迭代、集成验证全流程,以及新 OpenCL 特性适配、.cl + codegen 双轨、kernel 选路、packed weight 设计、tune 机制、Android 真机验证等参考知识。skills/opencl-optimize/SKILL.md
- Qnn Debug工作流MNN QNN(高通 HTP/NPU)后端的问题定位、修复与算子适配。覆盖运行时报错(1002/6000/1003/6004)、模型转换/算子校验失败、推理结果异常、精度不达标、以及性能问题;并指导为 QNN 新增/适配算子。核心方法:用 MNN2QNNModel --dumpintermediateoutputs 一次性导出 QNN 全部中间张量,与 CPU(fwd=0) 基线逐张量对比,直接定位首个出错算子(旧的 testMNNFromOnnx.py 截断二分已降为skills/qnn-debug/SKILL.md
- Retrospective工作流任务完成后的反思与经验沉淀。仅在任务非平凡且出现调试、失败修复、反复试错、明显误判或可复用教训时使用;简单执行、查询、常规 CI 通过等无新增经验的任务可跳过。skills/retrospective/SKILL.md
- Support New Llm工作流为 MNN 框架添加新的 LLM 模型支持。支持从 HuggingFace/ModelScope 下载模型,分析架构,添加映射,Hook 对齐测试,导出 MNN 模型。采用 TDD 模式,分 6 步执行,每步有独立测试标准。skills/support-new-llm/SKILL.md
- Test Ci工作流Test Ci 是一个可复用的 AI Agent Skill,适合用于代码开发、调试、评审或工程交付前的任务拆解。skills/test-ci/SKILL.md
- Vulkan Optimize工作流MNN Vulkan 后端 kernel/算子性能优化与新特性集成。覆盖 benchmark 基线、kernel 优化迭代、集成验证全流程,以及 GLSL .comp + makeshader 双轨、conv1x1/attention dispatcher 多路径(coopMat/subgroup/nosubgroup)、cooperative matrix、packed weight 设计、pipeline cache、CPU 侧调度瓶颈、Adreno/Mali/Applskills/vulkan-optimize/SKILL.md
公开来源
相关 Skills
查看更多rea
5 Skills智能逆向分析工具 · morluto
覆盖数据分析、发布说明、CI 与测试审查、工具设计及逆向工程相关场景,可用于整理分析结论、准备变更记录或辅助工程任务拆解。
ECC
314 Skills编程智能体技能集 · affaan-m
覆盖 Agent 评估、安全、架构审查、支付接入和网关测试等场景,可用于梳理任务流程、执行专项检查并形成结构化产出。
security-audit-skill
JavaScript代码安全审计技能 · cloudflare
用于资料研究、事实整理和结构化报告写作,适合需要按流程开展安全审计并整理结果的场景。
taste-skill
1 Skills前端设计技能集 · Leonxlnx
面向前端页面设计与实现,可结合艺术指导、参考图像和浏览器检查,帮助减少通用化页面表达。
