进行中

Accenture 在 Amazon Bedrock 上优化 AI 成本

报道
1
信源
1
首次报道
11/20 02:48
最近更新
11/20 02:48

AWS 发文介绍在 Amazon Bedrock 上降低 token 支出的六种手段,并称 Accenture 将其用于电信、保险、矿业及一个大型企业共四个客户项目,在有测量数据的场景下 token 支出下降约 40%–85%。 文中列出的手段及各自适用条件包括:提示缓存针对支持的模型,设计上可将缓存输入 token 成本降低最多 90%;批量推理以异步方式成组处理非紧急任务,对部分模型比按需定价低 50%;智能提示路由称可在不损害准确率的情况下降低成本最多 30%,且可能另收路由费用。上述比例均为 AWS 与 Accenture 的说法,具体适用模型和价格需查 Amazon Bedrock 定价页。

最新进展如何在 Amazon Bedrock 上用 Accenture 的分阶段方法优化 AI 成本

热度48 小时内每个独立信源只算一次,24 小时减半

48 小时参与信源
1
6 小时新加入
0
24 小时新报道
1
热点排名
—
11/20 03:0011/20 20:00

事件进展1 个阶段

  1. 介绍在 Amazon Bedrock 上优化 AI 成本的六种方法

    AWS Machine Learning Blog 等 1 篇报道

官方一手信息1 篇

全部报道1 篇

#Agent 智能体#部署工程#数据与训练#教程实践