返回快讯列表
开发者动态

AWS 提出 Trust in Depth,按任务范围、身份和运行边界管理 Agent 自主权

分层方法将可形式化规则交给自动推理检查,同时保留情境判断和人工处理的边界。

AWS 于 10 月 15 日介绍 Trust in Depth 方法,讨论企业如何在扩大 Agent 自主执行范围时保持控制。文章把治理拆成运行前定义职责、部署时确认身份、执行中限制行动以及运行后还原过程等层面,另以证明能力支撑可精确定义的规则。核心问题是把业务意图转为可以持续执行的边界,而不仅为 Agent 提供宽泛目标。

例如,“解决客户问题”没有说明能够访问什么资料、能否修改系统以及何时需要交给人处理。AWS 建议在构建阶段明确工具、数据和服务权限,并检查因角色或工具捆绑而意外继承的能力。AgentCore 的策略控制可把自然语言约束转成规则,利用自动推理检查授权过宽、相互矛盾或根本无法满足的条件,使边界在生效前得到审视。

文章同时区分数学证明与情境判断。“只有经理可以批准访问”一类精确定义的规则,可以在系统描述和假设范围内检查所有路径;“保持友善语气”则无法用同样方式证明。对后一类要求,仍需限制访问、评估行为,并将实际歧义交给人类。这些控制共同决定了哪些动作可以自动完成、哪些仍需人来判断。

更多快讯