AWS Machine Learning Blog 发布于 09/02 00:03

Tokenomics at scale: How Jamf built real-time spend enforcement for Amazon Bedrock

(翻译)规模化Token经济学:Jamf如何为Amazon Bedrock构建实时支出执行

查看原文

资讯摘要

As generative AI adoption scales, cost governance becomes a top challenge. Learn how Jamf built real-time, per-user spend enforcement for Amazon Bedrock using IAM Customer Managed Policies, an Amazon Athena cost view, and a serverless AWS Lambda loop that applies tiered model limits in near-real-tim

AI 摘要

本文介绍Jamf如何构建基于Amazon Bedrock的实时AI支出治理系统。通过IAM客户管理策略、Athena成本视图和Lambda强制循环,实现按用户每日预算限制模型访问,并在80%和100%阈值时自动降级,同时保留低成本模型以保证生产力,还提供了异常处理流程与运维经验。

AI 问答

亚马逊Bedrock如何实现用户级别的实时支出限制?

该方案通过Amazon Athena查询每天每个工程师的Bedrock调用成本和token消耗,由Lambda定时每15分钟检查,再通过更新IAM客户管理策略(CMP)在用户下次调用时限制其使用更高成本的模型,例如在达到日预算80%时禁止访问Claude Opus,达到100%时禁止访问Claude Sonnet,但仍保留Haiku供其继续工作。

如何解决临时需要更高预算的工程师?

方案提供Slack命令/bedrock-limit,管理员可以为工程师设置带过期时间的自定义额度,写入DynamoDB并用TTL自动清理,Lambda读取后按新阈值执行。

打开原文

更多资讯

产品观察丨xTool做了一台3000元起步的激光雕刻机,难的不只是价格36氪 · 09/16 10:40Optimizing cost and latency with Amazon Bedrock prompt cachingAWS Machine Learning Blog · 09/16 00:18豆包工作打出“团队Agent”牌,Workbuddy、千问会跟吗?人人都是产品经理 · 09/16 14:31OpenAI 发布适用于编程和计算机应用的 GPT-6 AstraInfoQ 中文 · 09/16 00:52Steam Frame 起售价 1059 美元Solidot · 09/15 14:59实时互动、实时改视频、探索空间视频,Vidu S2一次放了三个大招量子位 · 09/16 10:58云连锁到轻连锁,品牌业务逻辑的改变人人都是产品经理 · 09/16 11:47只会搜关键词还不够,Agent 需要一套更聪明的本地搜索人人都是产品经理 · 09/15 16:17被AI放大的光学「戏份」,让「配角」舜宇的生意越做越大雷峰网 · 09/16 18:33Xspark AI 丁文伯:触觉替代不了视觉,但机器人需要一套自己的“脊髓” |物理AI 50人雷峰网 · 09/15 15:52AI攻克世纪数学难题,顶尖数学家抱团抵制,而他们担心的并不是丢了工作果壳网 · 09/15 19:15前OpenAI后训练VP回应陶哲轩:说AI毁了数学,可能还是太小瞧AI了量子位 · 09/15 13:39AI不会放缓金色财经 · 09/15 10:33微信桌面端变“三折叠”,可能是在给小微腾位置人人都是产品经理 · 09/15 09:46“裁判”不想给阿莫迪吹暂停金色财经 · 09/15 13:07当年救了臭氧层的功臣,现在变成了永久性污染物果壳网 · 09/16 13:15AI不断进步 不得不把才华埋葬在昨天金色财经 · 09/15 10:14全球AI视频榜单第一梯队再添中国力量:智象发布首款物理规律导向视频模型量子位 · 09/15 18:41当我怀念旧版 Edge 浏览器时,我在怀念什么?少数派 · 09/16 10:38Robinhood的财富效应金色财经 · 09/16 12:47OpenAI万亿IPO推迟背后 四本账与三条投资路径金色财经 · 09/16 11:27字节6年,如何一步步走上带20人团队的leader人人都是产品经理 · 09/16 14:39工作流可以自我进化了,英伟达开源 SoL-Pi,每小时省13.5刀!雷峰网 · 09/15 11:02Anew Labs已完成 2.9 亿美元融资,红杉中国、高瓴、IDG、五源、高榕等参与雷峰网 · 09/16 14:28芯视界创始人、董事长兼首席科学家鲍捷:十年产业实践,量子感知芯片为物理AI打开物质世界 "感知入口" | 2026年36氪产业未来大会36氪 · 09/15 18:15iPhone 18 Pro & Duo 首发评测,提升最大的是「充电」和这个…爱范儿 / APPSO · 09/16 20:20Stella:“显化”想要的人生,60天35万美元月收入人人都是产品经理 · 09/16 14:09川普让步了 为何Clarity法案还遭到全体民主党人反对金色财经 · 09/16 10:43510万一张!携程上架太空旅行船票:已有681人购买,还得自己买保险;娃哈哈因拖欠员工公积金被查封办公楼;华为放权!问界将由赛力斯主导雷峰网 · 09/16 08:31圆桌:中国之光成为新共识| 36氪 2026产业未来大会36氪 · 09/15 17:15