这张卡讲智能体交付里安全与自主性之间的那道墙:沙箱怎么砌。

核心拆解:沙箱隔离把代码执行、文件访问与网络调用限定在受控环境里,权限白名单、资源配额、超时熔断是三件套。判断标准很简单:智能体自主性越高、能执行的动作越多,沙箱越不可省——模型偶尔的误判不该等于生产事故。层级选择按风险定:容器级适合常规代码执行,虚拟机级适合高权限操作,最小方案也要做目录与网络白名单。最常见的省略出在「临时图快」——图省事让智能体直接跑在生产环境,一次误删就够项目回滚重来。

增量判断:国内私有化环境常见离线容器仓库与受限网络,沙箱实现要先摸清客户环境能提供什么。FDE 的增量视角是把沙箱边界写进方案让客户安全部门确认,验收时它就是已认可的边界。

行动建议:为你的智能体列出可执行动作清单,逐项标注权限边界与熔断方式。

—— FDEChina编辑部 · 实战派

定义

沙箱隔离(Sandboxing)指把模型的代码执行、文件访问与网络调用限定在一个权限受限、可回收、可观测的受控环境中,使智能体的自主行为不直接触碰生产系统的完整权限。

展开

判断要不要沙箱的标准很直接:智能体自主性越高、能执行的动作越多,沙箱越不可省——模型总会误判,沙箱保证单次误判的代价是可控的。隔离层级按风险选:容器级隔离满足常规代码执行与文件操作,虚拟机级适合需要更高权限或更强隔离的场景,最低限度也要做目录白名单、网络出口白名单与资源配额加超时熔断。智能体交付里最危险的省略是「临时图快」:调试期让智能体直连生产数据库、直接在工作目录执行脚本,习惯带到线上就是事故倒计时。与护栏的分工:护栏在输入输出两侧做内容与意图拦截,沙箱在执行层做权限与资源隔离,两者互补不可替代。国内私有化环境常提供离线容器仓库与受限网络出口,沙箱实现方案要基于客户环境现实设计,并把边界写进方案供客户安全部门确认,这份确认在验收时就是双方认可的边界证据。

参见

智能体上线检查清单智能体专题FDE 实战指南