谷歌云代理商:谷歌推出 Agent Executor,谷歌的分布式代理运行时

本文由谷歌云、谷歌地图、Gemini、谷歌Workspace钻石合作伙伴Cloud Ace 翻译发布,内容来自谷歌云官网。

Cloud Ace - 谷歌云 | 谷歌云全球战略合作伙伴 | 云服务器据点最多经销商cloud-ace.cn/

随着模型和工具的不断改进,智能体承担的任务越来越复杂,这些任务可能需要运行数小时甚至数天。但随着我们要求智能体执行更多任务,一个新的运维问题也随之出现:长时间运行的智能体工作流程非常脆弱,难以在生产环境中进行可靠高效的管理。

今天,我们正式推出Agent Executor,这是Google 的开源运行时标准,用于代理的执行、恢复和分布式部署。基于我们内部解决这些挑战的经验,我们构建了 Agent Executor,使其具备以下原生功能:

  • 持久执行:长时间运行的执行需要能够在中断或代理中断(例如人机交互确认)后恢复。代理执行器通过其事件日志和快照功能,为任何参与者(例如代理、代理框架、技能、工具或沙箱)自动提供这种后端弹性。
  • 安全隔离:代理执行器将组件隔离在安全设计的沙箱中,以防止有害的副作用,并确保恶意活动不会影响更广泛的服务。当代理生成代码或同时处理多个租户或用户数据时,沙箱尤其有用。
  • 会话一致性:在分布式代理工作流中,多个组件可能同时尝试更新共享会话状态。代理执行器内置的单写入器架构有助于维护一致性,并降低会话状态损坏的风险。
  • 连接恢复:在长时间运行的代理执行过程中,客户端可能会因多种原因断开连接,包括网络中断。代理执行器允许客户端重新连接到代理,并回填客户端上次看到的序列中的响应,从而提供更好的用户体验。
  • 轨迹分支:检查点允许您在任何一点对代理轨迹(其决策或工作流程路径)进行分支,从而允许代理测试或评估不同的路径,而不会丢失上下文或其他状态。

在本篇博客中,我们将分享更多关于 Agent Executor 的信息以及如何开始使用。

与 Google 的代理运行时联合

企业采用代理需要跨部署模型进行协调。一些团队需要本地基础设施来实现专有工作流程、提升性能或满足合规性要求,而另一些团队则更倾向于使用预构建或定制的托管代理,以更快地实现价值。在 Google I/O 大会上,我们推出了一系列全新的解决方案,包括Antigravity 2.0托管代理 API,旨在加速团队在代理企业中构建和扩展代理系统的速度。

Agent Executor 连接了这些部署模型,允许您在以下任意或所有模型之间自由组合:

拥有你的代理、模型和计算能力

借助 Agent Executor,企业可以最大限度地灵活地维护对工作负载的自主控制权,并将专有工作流程保留在自管理的计算环境和自定义沙箱中。您的内部开发团队可以更灵活地部署和管理代理,您将从中受益:

  • 避免供应商锁定:将代理部署在您自己的基础设施上,无需依赖特定供应商的模式或计算环境。这样,您可以完全掌控数据驻留位置以及成本和预算。
  • 自带框架和代理:Agent Executor 的设计与框架无关,允许您使用自己的框架或使用其他供应商提供的框架。它还支持使用行业标准框架和协议开发的代理,从而提供广泛的兼容代理生态系统。
  • 完全控制执行:代理执行器允许开发人员直接在自己的数据平面上运行整个代理堆栈,包括 MCP、技能和其他代理。开发人员可以选择任何具有自定义隔离边界和工作负载策略强制执行的计算资源。

在 Kubernetes 上使用优先代理计算层扩展代理

随着代理工作负载规模扩大到数亿,运行时间也越来越长,我们的客户正面临传统计算抽象的瓶颈,因为与传统软件不同,代理是需要等待外部输入的非线性程序。为了解决这个问题,我们与 Google Kubernetes Engine 团队合作开发了Agent Substrate,这是一个今天也正式发布的全新开源项目。

Agent Substrate 为 Kubernetes 引入了一个新的抽象层,能够实时地将代理部署到可用的计算资源上,从而降低延迟,并提高规模和效率。标准的 Kubernetes 针对处理数千个长时间运行的服务进行了优化,而 Agent Substrate 则专为处理数百万个亚秒级工具调用而设计,这些调用量通常会使标准的控制平面不堪重负。Agent Substrate 充分利用了现有沙箱基础架构的核心安全运行时和快照功能,并将其与一个最小化的控制平面相结合,旨在绕过 Kubernetes 的一些限制,而无需对其他部分进行重新发明轮子。这些层协同工作,使您能够:

  • 最大化计算效率:Agent Substrate 引入了一个全新的控制平面,旨在处理数亿个已注册的代理。Agent Substrate 与 Agent Executor 结合使用,可为当今最大规模的代理部署奠定基础。
  • 留在 Kubernetes 生态系统内:Agent Substrate 构建于 Kubernetes 之上,允许使用声明式配置进行计算的调度和水平扩展。
  • 可以观看相关视频:https://www.youtube.com/watch?v=L5Iw1IrZ6Nc&t=15s

模型、代理、框架以及围绕它们构建的基础设施都在以前所未有的速度发展。我们正在以开源方式构建代理执行器,以便让真正的开发人员验证设计,并根据您的反馈进行改进。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值