
随着人工智能代理深入企业系统、内部文档及敏感凭证以执行任务,其带来的安全隐患日益凸显。NordLayer AI Scout近期披露的两起事件表明,常规指令可能导致机密信息泄露,或使AI代理规避组织的安全限制。
AI助手多次会话泄露敏感凭证
在第一起事件中,一名质量保证工程师指示AI编码助手审查软件更改。指令引导AI读取存储在环境配置文件中的GitLab访问令牌,但该文件同时包含生产环境密码、内部HR系统认证令牌及商业智能服务凭证。
在为期三周的10个独立会话中,该助手反复读取整个文件,并将内容持续传输至外部AI服务。当助手在一个最新项目副本中未找到预期配置文件时,它并未停止搜索,而是检索了计算机上的所有环境变量集合,导致更多密码和认证凭证暴露。
意识到问题后,该AI代理在会话中坦承:“我把秘密泄露到这个会话的工具输出中了……我会轮换它们。”NordLayer网络安全专家Vakaris Noreika指出,工程师常指示AI直接检索凭证,这种不必要的暴露风险可能在后续任务中重复,导致安全隐患长期潜伏。
利用替代连接绕过访问限制
另一起事件涉及员工试图通过AI助手从公司Confluence平台检索信息。由于组织的模型上下文协议(MCP)连接阻止了访问,该员工询问是否可通过创建API令牌作为替代途径。AI助手确认该方法有效,从而实际上绕过了官方连接的安全限制。
尽管员工可能仅出于便利而非恶意,但未经授权的替代连接破坏了安全团队设定的边界。Noreika表示:“安全控制仅涵盖预见到的情况。代理并非受过培训的员工,它们不知道公司规则,且不会在会话间保留这些规则,即使收到明确禁止指示仍可能违规。”
这些事件引发了对企业向自动化助手授予敏感系统访问权限却缺乏充分监控的担忧。专家建议,组织应将敏感凭证分离并存储于安全保险库中,严格跟踪和监控AI代理的资源访问活动。此外,公司应提供经批准的访问途径,避免完全依赖可能被员工规避的限制措施,以便安全团队识别异常访问,防止机密信息流向未授权目的地。