微软正式推出“守护者智能体”(Guardian Agents),旨在监控、约束并管理自主AI智能体带来的潜在风险。伴随新工具发布的,还有两个关键概念:“代理内部人员”(Agentic Insider)与“守护者智能体”。微软警告称,随着企业部署AI智能体处理核心业务,传统的静态安全控制已不足以应对需要持续AI驱动监督的新威胁形态。

将智能供应与控制权分离

微软身份与网络访问企业副总裁Nadim Abdo指出,尽管智能体本身非恶意,但其可能犯错、被操纵或遭入侵。由于智能体需广泛权限才能正常运行,一旦失控,后果可能是灾难性的。

Abdo强调,执行指令的AI智能体不应被信任去负责自身安全。微软董事长兼首席执行官萨蒂亚·纳德拉提出的新信任架构核心在于:必须将智能的供应与其控制权分离。决定智能体访问权限、行动范围及运行状态的控制措施,必须位于模型之外,防止其绕过或篡改。

鉴于AI智能体的运行速度远超人类反应极限,人工监督不再可行。微软引入独立的AI智能体来监管下级智能体,实现机器速度的持续监视。这一机制建立在微软此前推出的“感知计划”(Project Perception)及微软网络安全堆栈基础之上。

像教官一样实时管控

“感知计划”原本通过红队(探测弱点)、蓝队(调查威胁)和绿色智能体(实施修复)协调防御。如今,微软将其扩展至保护“代理内部人员”,即守护者智能体。该系统与Microsoft Agent 365共享信号、上下文和统一注册表,为IT和安全团队提供一致的风险视图。

守护者智能体遵循“非确定性智能需被确定性控制包围”的原则,涵盖身份、权限、数据、终端、网络、云和运行时七大控制领域。其职责包括:识别智能体及其归属与目的;在行动前限制访问与行为;保护相关数据与资源;以及根据风险变化动态调整保护措施。

微软形象地将此比作“教官管理无人机”:实时适应变化,确保智能体在既定轨道运行而不失控。通过“动态权限”与“动态智能体风险”机制,系统仅授予智能体执行特定任务所需的最小权限,并实时检查潜在威胁。若风险上升,系统将自动限制权限、阻止操作或要求人工批准;极端情况下,可直接停止并隔离智能体。

此外,微软将发现能力扩展至Claude Code、OpenAI Codex和GitHub Copilot等35种本地智能体类型,并升级Microsoft Entra Agent ID,新增针对通过安全传感器发现的本地及未知智能体的身份类型,进一步强化企业对AI行为的掌控力。