第3章 工具沙盒化与安全执行引擎

1. 为什么需要工具沙盒化

1.1 Agent 的"双手"问题

第1章的 Agentic Loop 让 LLM 能够"想一步、做一步",而"做"就是调用工具。工具是 Agent 与外部世界交互的唯一通道——搜索信息、执行代码、操作数据库、发送邮件。

问题在于:LLM 的输出不可预测。它可能生成一个完全合法的 Shell 命令,也可能生成 rm -rf /。如果 Agent 直接在宿主机上执行 LLM 生成的命令,后果不堪设想:

  • 数据破坏:误删文件、清空数据库
  • 安全泄露:读取敏感文件、访问内部网络
  • 成本失控:执行付费 API、启动大量云资源
  • 系统入侵:下载恶意软件、开放后门端口

工具沙盒化的目标就是:让 Agent 有能力做事,但没有能力做坏事

1.2 安全执行的三个层次

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

大势下的牛马

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值