进行中
Perplexity 向开发者开放 Orchestrator 多模型路由 API
- 报道
- 7
- 信源
- 2
- 首次报道
- 11/18 04:13
- 最近更新
- 11/18 05:05
Perplexity 发布 Orchestrator API,把 45 个以上开放权重与闭源模型接入同一个 API,并统一计费。该路由此前只服务 Perplexity 自身业务,每天在生产环境路由数亿次请求,覆盖 85 个以上模型和十余家提供商;现在开发者可以使用同一套基础设施。 模型来自 OpenAI、Anthropic、Google、xAI 及开放权重模型。开发者可将现有 OpenAI 或 Anthropic SDK 连接到 Perplexity API key,通过 OpenAI Chat Completions、Responses 和 Anthropic Messages 调用全部模型。路由可按任务在能力、容量和延迟之间权衡,并依据可用性、容量和延迟自动选择供应商;自动路由目前处于预览阶段,通过配置文件按请求选择模型,将自然语言任务映射到模型,再用决策模型匹配路由。Aravind Srinivas 称,该路由对 KV cache 友好,由用户决定哪些任务使用哪些模型,而非通用自动路由。 计费方面,每个模型按其公布的每 token 费率计费,无论由哪家提供商提供服务;开发者可在 API Console 中按模型、项目和 API key 追踪花费,并设置模型允许列表和花费上限。
热度48 小时内每个独立信源只算一次,24 小时减半
- 48 小时参与信源
- 2
- 6 小时新加入
- 0
- 24 小时新报道
- 7
- 热点排名
- —
热度曲线会在事件持续一段时间后出现。
事件进展2 个阶段
Perplexity 等 1 篇报道
Perplexity 推出 Orchestrator API 模型路由
Aravind Srinivas 等 6 篇报道
全部报道7 篇
Perplexity 推出 Orchestrator API,主打 KV cache 友好的决策模型路由
Perplexity 推出 Orchestrator API,在一个 API 中接入 45+ 开源权重与闭源模型,支持自动供应商故障切换和统一计费。其路由设计对 KV cache 友好,由用户决定哪些任务使用哪些模型,而非通用自动路由。示例中把 fable 5.2 拒绝的安全与生物任务转给 gpt-6.1 sol,在 terminal-bench 4.1 上从 63 题解出 38 题提升到 41 题。
Aravind Srinivas
Perplexity 发布 Orchestrator API,支持 45+ 开放权重与闭源模型
Perplexity 发布 Orchestrator API,可按任务在能力、容量和延迟之间权衡,自动选择合适模型。该 API 覆盖 45+ 开放权重与闭源模型,并依据可用性、容量和延迟自动选择供应商,统一计费。
Aravind Srinivas
每个模型都按其公布的每 token 费率计费,无论由哪家提供商提供服务。 在 API Console 中按模型、项目和 API key 追踪花费,并设置模型允许列表和花费上限。 阅读更多:https://www.perplexity.ai/hub/blog/orchestrator-one-api-for-reliable-inference
Perplexity
Perplexity 向开发者开放 Orchestrator 多模型路由层
Perplexity 宣布开发者现在可以使用其 Orchestrator,它构建在 Perplexity 的模型层之上,每天在生产环境中智能路由数亿次请求,覆盖 85+ 个模型和十余家提供商。此前该基础设施仅服务于 Perplexity 自身业务。
Perplexity
Perplexity 推出 Orchestrator 自动路由
Orchestrator 提供自动路由,现已开放预览。 它通过配置文件按请求选择模型,将自然语言任务映射到模型,再用决策模型把对话匹配到正确的路由。
Perplexity
Perplexity Orchestrator API 支持 45+ 模型
Orchestrator API 提供来自 OpenAI、Anthropic、Google、xAI 以及开放权重模型的 45+ 个模型。 你可以将现有的 OpenAI 或 Anthropic SDK 连接到 Perplexity API key,所有模型均可通过 OpenAI Chat Completions、Responses 和 Anthropic Messages 调用。
Perplexity
Perplexity 发布 Orchestrator API
Perplexity 发布 Orchestrator API,可按任务选择合适模型,并依据可用性、容量和延迟自动选择供应商。所有开放权重模型与闭源模型都接入同一个 API,并统一计费。
Perplexity
