awaescher GitHub avatar

OllamaSharp

C#
.NET 调用 Ollama 客户端库awaescher最近推送 2026年11月12日
模型推理与部署MIT1,4171872 issues7 天 +2

AI 分析 · 由大模型根据 README 与仓库数据生成 · 2026年11月18日

OllamaSharp 是 .NET 的 Ollama API 绑定库,让开发者在 C# 中轻松调用本地或远程大模型。

OllamaSharp 为 Ollama API 提供 .NET 封装,简化本地和远程交互。它覆盖所有 Ollama 端点,支持流式响应、工具调用、多模态和 Native AOT,并被微软推荐用于 Microsoft.Extensions.AI。

推荐指数

5.0

功能完整、维护活跃、文档齐全,是 .NET 生态接入 Ollama 的首选库。

近 7 天

+2

新增 Star

总 Star 排名

#2824

雷达追踪的 3,958 个 AI 仓库中

创建于

2023

2023年10月16日

核心亮点

  • 1API 全覆盖

    封装了 Ollama 所有端点,包括聊天、嵌入、模型拉取与创建等。

  • 2流式与进度

    支持实时流式响应和模型拉取进度报告。

  • 3工具引擎

    通过源生成器提供函数调用支持,方便构建智能体。

  • 4多模态与 AOT

    支持视觉模型,并可选择启用 Native AOT 提升性能。

  • 5微软生态集成

    被 Microsoft.Extensions.AI、Semantic Kernel 和 .NET Aspire 采用。

适用场景

  • 本地聊天应用

    例如:用 Chat 类构建控制台对话程序,自动维护消息历史。

  • 模型管理工具

    例如:列出本地模型、拉取新模型并显示下载进度。

  • 结构化输出

    例如:请求 JSON 格式响应,便于程序解析。

  • 多提供商应用

    例如:通过 Microsoft.Extensions.AI 抽象,在 Ollama 和云端模型间切换。

它是怎么工作的

  1. 第 1 步

    创建客户端

    用 OllamaApiClient 指定 Ollama 服务地址和默认模型。

  2. 第 2 步

    调用端点方法

    每个 Ollama API 端点对应一个可等待的异步方法。

  3. 第 3 步

    处理流式响应

    通过 await foreach 逐块接收生成内容或进度。

  4. 第 4 步

    管理对话上下文

    Chat 类自动跟踪消息历史,包括工具调用结果。

快速上手

  1. 1

    安装 NuGet 包

    在项目中添加 OllamaSharp 包。

    dotnet add package OllamaSharp
  2. 2

    初始化客户端

    指定 Ollama 地址并选择模型。

    var ollama = new OllamaApiClient(new Uri("http://localhost:11434"));
    ollama.SelectedModel = "qwen3.5:35b-a3b";
  3. 3

    发送生成请求

    流式输出模型回复。

    await foreach (var stream in ollama.GenerateAsync("How are you today?"))
        Console.Write(stream.Response);
  4. 4

    构建对话

    使用 Chat 类进行多轮对话。

    var chat = new Chat(ollama);
    await foreach (var token in chat.SendAsync("Hello"))
        Console.Write(token);

适合谁

  • .NET 开发者
  • 需要本地或远程调用 Ollama 的 C# 项目
  • 使用 Microsoft.Extensions.AI 或 Semantic Kernel 的团队
  • 需要流式、工具调用或多模态能力的应用

不太适合

  • 非 .NET 技术栈的开发者
  • 不想运行 Ollama 服务的用户

成熟度

  • 活跃度最近推送在 2026 年 11 月,持续活跃开发。
  • 文档有专门文档站点、API 参考和完整示例。
  • 社区1400+ 星、187 分支,仅 1 个开放 issue,社区健康。
  • 上手难度几行代码即可调用,提供 Chat 类简化对话管理。

使用前注意

  • · 需要本地或远程运行 Ollama 服务。
  • · Native AOT 需额外配置 JsonSerializerContext。
  • · MIT 许可证,可自由使用。

主题标签

llmollamaollama-apillamaaigptllamacpplocalllamastreamingmicrosoft-extensions-aiichatclientlibrary