进行中
Accenture 在 Amazon Bedrock 上优化 AI 成本
- 报道
- 1
- 信源
- 1
- 首次报道
- 11/20 02:48
- 最近更新
- 11/20 02:48
AWS 发文介绍在 Amazon Bedrock 上降低 token 支出的六种手段,并称 Accenture 将其用于电信、保险、矿业及一个大型企业共四个客户项目,在有测量数据的场景下 token 支出下降约 40%–85%。 文中列出的手段及各自适用条件包括:提示缓存针对支持的模型,设计上可将缓存输入 token 成本降低最多 90%;批量推理以异步方式成组处理非紧急任务,对部分模型比按需定价低 50%;智能提示路由称可在不损害准确率的情况下降低成本最多 30%,且可能另收路由费用。上述比例均为 AWS 与 Accenture 的说法,具体适用模型和价格需查 Amazon Bedrock 定价页。
热度48 小时内每个独立信源只算一次,24 小时减半
- 48 小时参与信源
- 1
- 6 小时新加入
- 0
- 24 小时新报道
- 1
- 热点排名
- —
11/20 03:0011/20 20:00
事件进展1 个阶段
介绍在 Amazon Bedrock 上优化 AI 成本的六种方法
AWS Machine Learning Blog 等 1 篇报道
官方一手信息1 篇
如何在 Amazon Bedrock 上用 Accenture 的分阶段方法优化 AI 成本
Accenture 在电信、保险、矿业及一个大型企业部署四个客户项目中应用六项 token 成本优化手段,在有测量数据的场景下 token 支出下降约 40%–85%。
AWS Machine Learning Blog一手
全部报道1 篇
如何在 Amazon Bedrock 上用 Accenture 的分阶段方法优化 AI 成本
Accenture 在电信、保险、矿业及一个大型企业部署四个客户项目中应用六项 token 成本优化手段,在有测量数据的场景下 token 支出下降约 40%–85%。
AWS Machine Learning Blog一手
相关
#Agent 智能体#部署工程#数据与训练#教程实践
