工具代理权限沙盒
代理的价值来自“能调用工具”,风险也来自同一件事。选择任务并改变授权条件,看看系统何时可以自动执行、何时只能生成计划、何时必须停下来。
任务与边界
用户请求
计算 45 × 8
查询售后规则
把退款结果发给客户
删除客户的历史工单
路由置信度
86%
使用最小权限工具
只授予完成当前任务所需的动作和数据范围。
用户已确认外部写操作
确认对象、内容与影响范围,而不只是点一次“同意”。
上下文含不可信指令
模拟网页、邮件或工具返回中的恶意文本。
模拟执行
重置
这里不会发信或删数据。实验只呈现决策轨迹。
执行计划
读数据范围
写操作权限
人工可逆性