亚马逊云科技更新 AWS Data Exports:降低 AI 工程开销,助力企业成本治理

亚马逊云科技更新 AWS Data Exports 服务

通过对 AWS Data Exports 中更多计费数据字段进行规范化处理,亚马逊云科技(AWS)承诺为企业提供更简单的 AI 治理方案,同时降低工程开销。AWS 已对其用于生成和管理成本与使用报告(CUR)的 AWS Data Exports 服务进行了更新,纳入了标准化的 Amazon Bedrock 产品元数据。这使得企业工程团队在扩展跨多个基础模型的 AI 部署时,能够更轻松地分析 AI 使用情况和支出。

更新内容及优势

AWS 在一篇博客文章中表示,此次更新在计费导出中增加了针对模型提供商、模型名称、推理类型、推理模式、计费单位和 Bedrock 产品系列的规范化字段。这将使企业能够识别哪些模型产生了成本,并在不依赖自定义解析或对计费记录进行规范化处理的情况下,比较不同提供商之间的支出。分析师称,减少对自定义解析的依赖将降低分析计费数据所需的工程工作量。

行业人士观点

IT 咨询公司 Kanerika 首席营收官 Bhupendra Chopra 表示:“在更新之前,数据工程师通常需要维护一个模型 ID 注册表,针对使用类型字符串编写正则表达式,或者将 AWS CloudTrail 与 CUR 进行关联,以确定是哪个提供商产生了哪些成本。”Chopra 补充道,新的标准化字段“可能会让一个需要持续维护的计费管道和一个无需维护的计费管道产生天壤之别”。Pareekh Consulting 首席分析师 Pareekh Jain 表示,这是因为当 AWS 在 Bedrock 中添加新模型或更新定价时,自定义解析逻辑更容易出现故障或需要维护。

更丰富的计费数据助力企业 AI 成本治理

除了减少工程开销,此次更新还能帮助企业改进 AI 成本治理。Chopra 表示,在更新之前,FinOps 团队难以确定 Bedrock 相关的是哪个模型,因为使用类型字段不一致,而且没有一个统一的产品系列名称能将所有 Bedrock 成本集中呈现。Chopra 补充道:“现在,模型提供商、模型名称、推理类型、推理模式和定价单位等属性都实现了标准化,并且默认可用。这是一项鲜有人提及但却能让下游报告真正可靠的基础工作。”

更新的及时性

Jain 指出,这使得构建按模型、提供商、令牌类型或推理模式展示成本的仪表盘变得更加容易,同时还能识别高成本工作负载、异常的令牌增长情况,以及转向更便宜模型或批量处理的机会。FinOps 服务提供商 ZopDev 的云技术助理 Muskan Bandta 表示,考虑到上周 AWS 出现的计费问题,导致部分客户在 AWS 管理控制台中看到的服务消费成本估算有误,此次更新十分及时。Bandta 补充道:“当用户对数据准确性的信心受到影响时,任何能为客户提供更清晰、更细致、更可靠的计费数据的举措都值得欢迎。虽然这无法解决之前出现的问题,但在经历这样的事件之后,团队更希望能更清楚地了解支出去向。”

关键词:人工智能;云计算

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值