1. 为什么需要工具沙盒化
1.1 Agent 的"双手"问题
第1章的 Agentic Loop 让 LLM 能够"想一步、做一步",而"做"就是调用工具。工具是 Agent 与外部世界交互的唯一通道——搜索信息、执行代码、操作数据库、发送邮件。
问题在于:LLM 的输出不可预测。它可能生成一个完全合法的 Shell 命令,也可能生成 rm -rf /。如果 Agent 直接在宿主机上执行 LLM 生成的命令,后果不堪设想:
- 数据破坏:误删文件、清空数据库
- 安全泄露:读取敏感文件、访问内部网络
- 成本失控:执行付费 API、启动大量云资源
- 系统入侵:下载恶意软件、开放后门端口
工具沙盒化的目标就是:让 Agent 有能力做事,但没有能力做坏事。

订阅专栏 解锁全文

1374

被折叠的 条评论
为什么被折叠?



