进行中

Perplexity 向开发者开放 Orchestrator 多模型路由 API

报道
7
信源
2
首次报道
11/18 04:13
最近更新
11/18 05:05

Perplexity 发布 Orchestrator API,把 45 个以上开放权重与闭源模型接入同一个 API,并统一计费。该路由此前只服务 Perplexity 自身业务,每天在生产环境路由数亿次请求,覆盖 85 个以上模型和十余家提供商;现在开发者可以使用同一套基础设施。 模型来自 OpenAI、Anthropic、Google、xAI 及开放权重模型。开发者可将现有 OpenAI 或 Anthropic SDK 连接到 Perplexity API key,通过 OpenAI Chat Completions、Responses 和 Anthropic Messages 调用全部模型。路由可按任务在能力、容量和延迟之间权衡,并依据可用性、容量和延迟自动选择供应商;自动路由目前处于预览阶段,通过配置文件按请求选择模型,将自然语言任务映射到模型,再用决策模型匹配路由。Aravind Srinivas 称,该路由对 KV cache 友好,由用户决定哪些任务使用哪些模型,而非通用自动路由。 计费方面,每个模型按其公布的每 token 费率计费,无论由哪家提供商提供服务;开发者可在 API Console 中按模型、项目和 API key 追踪花费,并设置模型允许列表和花费上限。

最新进展Perplexity 推出 Orchestrator API,主打 KV cache 友好的决策模型路由

热度48 小时内每个独立信源只算一次,24 小时减半

48 小时参与信源
2
6 小时新加入
0
24 小时新报道
7
热点排名
—

热度曲线会在事件持续一段时间后出现。

事件进展2 个阶段

  1. Perplexity 推出 Orchestrator API 模型路由

    Aravind Srinivas 等 6 篇报道

全部报道7 篇

  • Perplexity 推出 Orchestrator API,主打 KV cache 友好的决策模型路由

    Perplexity 推出 Orchestrator API,在一个 API 中接入 45+ 开源权重与闭源模型,支持自动供应商故障切换和统一计费。其路由设计对 KV cache 友好,由用户决定哪些任务使用哪些模型,而非通用自动路由。示例中把 fable 5.2 拒绝的安全与生物任务转给 gpt-6.1 sol,在 terminal-bench 4.1 上从 63 题解出 38 题提升到 41 题。

    Aravind Srinivas

  • Perplexity 发布 Orchestrator API,支持 45+ 开放权重与闭源模型

    Perplexity 发布 Orchestrator API,可按任务在能力、容量和延迟之间权衡,自动选择合适模型。该 API 覆盖 45+ 开放权重与闭源模型,并依据可用性、容量和延迟自动选择供应商,统一计费。

    Aravind Srinivas

  • Perplexity 按模型追踪 API 花费

    每个模型都按其公布的每 token 费率计费,无论由哪家提供商提供服务。 在 API Console 中按模型、项目和 API key 追踪花费,并设置模型允许列表和花费上限。 阅读更多:https://www.perplexity.ai/hub/blog/orchestrator-one-api-for-reliable-inference

    Perplexity

  • Perplexity 向开发者开放 Orchestrator 多模型路由层

    Perplexity 宣布开发者现在可以使用其 Orchestrator,它构建在 Perplexity 的模型层之上,每天在生产环境中智能路由数亿次请求,覆盖 85+ 个模型和十余家提供商。此前该基础设施仅服务于 Perplexity 自身业务。

    Perplexity

  • Perplexity 推出 Orchestrator 自动路由

    Orchestrator 提供自动路由,现已开放预览。 它通过配置文件按请求选择模型,将自然语言任务映射到模型,再用决策模型把对话匹配到正确的路由。

    Perplexity

  • Perplexity Orchestrator API 支持 45+ 模型

    Orchestrator API 提供来自 OpenAI、Anthropic、Google、xAI 以及开放权重模型的 45+ 个模型。 你可以将现有的 OpenAI 或 Anthropic SDK 连接到 Perplexity API key,所有模型均可通过 OpenAI Chat Completions、Responses 和 Anthropic Messages 调用。

    Perplexity

  • Perplexity 发布 Orchestrator API

    Perplexity 发布 Orchestrator API,可按任务选择合适模型,并依据可用性、容量和延迟自动选择供应商。所有开放权重模型与闭源模型都接入同一个 API,并统一计费。

    Perplexity

#部署工程#产品更新#Agent 智能体#OpenAI / ChatGPT#Anthropic / Claude#Google / Gemini