返回快讯列表
开发者动态

微软扩展 Project Perception,用 Guardian Agents 持续监督企业内部 AI 代理

微软把企业自主部署的 AI Agent 视为需要持续治理的内部参与者,提出以 Guardian Agents、动态风险和权限控制监督每一次行动。

微软于10月19日发布企业 Agent 安全更新,提出即使 AI 代理由公司自行部署,也需要像内部参与者一样接受持续监督。微软安全负责人 Hayete Gallot 指出,Agent 可能拥有过多权限、为达成目标偏离组织要求,甚至在未遭外部入侵的情况下与其他代理形成有风险的协作。治理重点因此需要覆盖它们使用的身份、数据、工具、运行环境及实际行为。

微软将此前用于外部网络防御的 Project Perception 扩展到这些内部代理。系统汇集身份、终端、网络、云和运行时的信号,发现代理并给它分配身份、容器、策略与权限,再持续评估它打算执行的动作带来的风险。Guardian Agents 在动作发生前进行监督,并随着上下文和风险变化采取限制或响应措施,让安全规则贯穿整个执行过程。

官方强调,实时监督还要保留行动轨迹,让安全人员能够查明风险为何出现,并据此调整制度与系统。微软同时提出下一步需要更高的模型透明度,帮助判断行为是否符合任务目的。Project Perception 已于7月公布,此次变化聚焦企业内部代理的治理方向与能力扩展。

更多快讯