stulzq GitHub avatar

azure-openai-proxy

Go
Azure OpenAI 代理stulzq最近推送 2024年6月26日
模型推理与部署Apache-2.01,33218718 issues

AI 分析 · 由大模型根据 README 与仓库数据生成 · 2026年11月18日

将 OpenAI 官方 API 请求转换为 Azure OpenAI API 请求的代理服务。

这是一个用 Go 编写的代理服务,用于将 OpenAI 官方 API 请求转换为 Azure OpenAI API 请求。它支持 GPT-4、Embeddings 等模型,并可作为 OpenAI 生态与 Azure OpenAI 之间的桥梁,让现有工具无需修改即可接入 Azure OpenAI。

推荐指数

4.0

适合需要将 OpenAI 生态工具迁移到 Azure OpenAI 的开发者,部署简单,兼容性好。

总 Star 排名

#2927

雷达追踪的 3,958 个 AI 仓库中

创建于

2023

2023年3月24日

核心亮点

  • 1零成本迁移

    现有 OpenAI 客户端只需修改 Base URL 即可接入 Azure OpenAI。

  • 2模型映射灵活

    通过环境变量配置 OpenAI 模型名与 Azure 部署名的映射关系。

  • 3多项目验证

    已验证支持 ChatGPT-Next-Web、chatgpt-web、LangChain 等流行项目。

  • 4部署方式简单

    提供 Docker 镜像,支持环境变量或配置文件启动。

  • 5支持代理

    可配置 HTTP 或 Socks5 代理访问 Azure 端点。

适用场景

  • 将现有 OpenAI 应用迁移到 Azure OpenAI

    例如:使用 ChatGPT-Next-Web 时,将 BASE_URL 指向本代理即可使用 Azure OpenAI 服务。

  • 在 LangChain 中使用 Azure OpenAI

    例如:LangChain 应用通过本代理调用 Azure OpenAI,无需修改代码。

  • 统一多模型调用接口

    例如:通过模型映射,用 gpt-3.5-turbo 名称调用 Azure 上部署的 gpt-35-turbo。

它是怎么工作的

  1. 第 1 步

    接收 OpenAI 格式请求

    代理监听 8080 端口,接收来自客户端的 /v1/chat/completions 等请求。

  2. 第 2 步

    转换请求格式

    根据配置的模型映射,将 OpenAI 模型名替换为 Azure 部署名,并调整请求路径和参数。

  3. 第 3 步

    转发到 Azure OpenAI

    使用配置的 Azure 端点和 API Key 将请求转发至 Azure OpenAI 服务。

  4. 第 4 步

    返回响应

    将 Azure OpenAI 的响应转换为 OpenAI 格式返回给客户端。

快速上手

  1. 1

    获取 Azure 配置

    在 Azure 门户获取端点、API Key 和部署名。

  2. 2

    启动代理容器

    通过 Docker 运行代理,设置环境变量。

    docker run -d -p 8080:8080 --name=azure-openai-proxy --env AZURE_OPENAI_ENDPOINT=your_azure_endpoint --env AZURE_OPENAI_API_VER=your_azure_api_ver --env AZURE_OPENAI_MODEL_MAPPER=your_azure_deploy_mapper stulzq/azure-openai-proxy:latest
  3. 3

    调用测试

    使用 curl 测试代理是否正常工作。

    curl --location --request POST 'localhost:8080/v1/chat/completions' -H 'Authorization: Bearer <Azure OpenAI Key>' -H 'Content-Type: application/json' -d '{"max_tokens": 1000, "model": "gpt-3.5-turbo", "messages": [{"role": "user", "content": "Hello"}]}'

适合谁

  • 已有 OpenAI 应用需要迁移到 Azure OpenAI 的开发者
  • 使用 LangChain 等框架并希望接入 Azure OpenAI 的用户
  • 需要统一管理多个 Azure OpenAI 部署的团队

不太适合

  • 不需要 Azure OpenAI 服务的开发者
  • 希望直接使用 Azure OpenAI 原生 API 的用户

成熟度

  • 活跃度最近一次推送在 2024 年 6 月,仍有更新。
  • 文档README 提供详细配置和示例,但部分链接为中文博客。
  • 社区1332 星,187 分支,18 个开放 issue,社区有一定活跃度。
  • 上手难度Docker 一键部署,环境变量配置简单。

使用前注意

  • · 需要有效的 Azure OpenAI 订阅和 API Key。
  • · 模型映射需手动配置,确保 OpenAI 模型名与 Azure 部署名对应。
  • · 代理本身不提供认证,需确保部署环境安全。
  • · 使用 Apache-2.0 许可,可自由修改和分发。

主题标签

azureazure-openaichatgptgpt-4openailangchain