callstackincubator GitHub avatar

ai

TypeScript
React Native 端侧大模型callstackincubator最近推送 2026年11月11日
模型推理与部署MIT1,4406419 issues7 天 +4

AI 分析 · 由大模型根据 README 与仓库数据生成 · 2026年11月18日

在 React Native 中本地运行 AI 模型,兼容 Vercel AI SDK。

这是一个为 React Native 提供端侧 AI 能力的开源库,支持文本生成、嵌入、转录、语音合成、图像和视频生成等任务。它兼容 Vercel AI SDK,让开发者用熟悉的 API 调用本地模型,实现隐私保护、低延迟且无需服务器成本。

推荐指数

4.0

适合需要在 React Native 中集成端侧 AI 的开发者,尤其是注重隐私和离线场景。

近 7 天

+4

新增 Star

总 Star 排名

#2795

雷达追踪的 3,958 个 AI 仓库中

创建于

2024

2024年7月19日

核心亮点

  • 1端侧推理

    模型在用户设备上运行,数据不出本地,无需服务器成本。

  • 2AI SDK 兼容

    可直接使用 generateText、streamText、embed 等 Vercel AI SDK 函数。

  • 3多模态支持

    涵盖文本、嵌入、转录、语音合成、图像和视频生成。

  • 4内置系统模型

    iOS 和 Android 可直接使用系统提供的模型,无需下载。

  • 5多提供商

    支持 Apple、Android、Core AI 和 Llama 等多种运行时。

适用场景

  • 隐私敏感的聊天应用

    例如:在 iOS 设备上使用 Apple Foundation Models 生成回复,对话内容完全本地处理。

  • 离线语音转录

    例如:在 Android 设备上使用 ML Kit 进行语音转文字,无需网络连接。

  • 本地图像生成

    例如:在 iOS 设备上通过 Core AI 运行 FLUX.2 模型生成图片。

  • 语义搜索

    例如:使用嵌入模型将文本转换为向量,在本地实现相似度检索。

它是怎么工作的

  1. 第 1 步

    选择提供商

    根据平台和需求选择 Apple、Android、Core AI 或 Llama 提供商。

  2. 第 2 步

    安装对应包

    通过 npm 安装如 @react-native-ai/apple 或 @react-native-ai/android。

  3. 第 3 步

    调用 AI SDK 函数

    使用 generateText、embed 等函数,传入提供商模型实例。

  4. 第 4 步

    本地执行推理

    模型在设备上运行,返回结果,数据不离开设备。

快速上手

  1. 1

    安装 Apple 提供商

    适用于 iOS 设备,无需额外链接。

    npm install @react-native-ai/apple
  2. 2

    安装 Android 提供商

    需要 Android minSdkVersion 26 和支持 AICore 的设备。

    npm install @react-native-ai/android
  3. 3

    生成文本

    使用 AI SDK 的 generateText 函数调用本地模型。

适合谁

  • React Native 开发者
  • 需要端侧 AI 的移动应用开发者
  • 注重隐私和离线能力的团队
  • 已使用 Vercel AI SDK 的开发者

不太适合

  • 需要云端大模型能力的项目
  • 非 React Native 技术栈的团队

成熟度

  • 活跃度最近更新于 2026 年 11 月,1438 星,64 分支,19 个开放 issue,活跃度较高。
  • 文档README 详细,有独立文档网站,涵盖安装、使用和可用性说明。
  • 社区1438 星,64 分支,社区规模中等,issue 数量较少。
  • 上手难度提供 npm 包和 AI SDK 兼容 API,上手简单,但需注意平台和设备要求。

同类项目怎么选

  • llama.rn专注于在 React Native 中运行 GGUF 模型,不提供 AI SDK 兼容层。
  • react-native-executorch基于 ExecuTorch 运行 PyTorch 模型,支持多种模型格式。

使用前注意

  • · 部分功能依赖特定系统版本和设备,如 Apple Intelligence 需 iOS 26+ 和支持设备。
  • · Android 需要 minSdkVersion 26 和支持 AICore 的物理设备。
  • · Core AI 提供商需要 iOS 27 设备,且模型需自行下载或打包。
  • · Llama 提供商需额外集成 llama.rn,并自行管理 GGUF 模型文件。

主题标签

aillmon-device-aireact-native