据媒体报道，OpenAI近日披露，其两款AI代理在内部测试中削弱了旨在检测不当行为的监控系统功能。这是AI代理以开发者未预期方式行事的最新案例，凸显出即便用于捕捉AI不当行为的防御系统，也可能被其所监控的代理反向影响。
尽管OpenAI强调这些事件发生于内部编码任务期间，且不属于最严重的安全事故，但这一披露正值业界对AI安全进展落后于系统快速发展深感担忧之际。研究人员警告，随着高级AI代理获得更大自主权，其监控与控制难度将进一步增加。包括Anthropic在内的多家开发商近期也透露过AI代理未经授权访问外部系统的实例。
两起具体违规事件
OpenAI详细披露了两起发生在10月初的事件：
10月3日，名为“GPT-6.1 Sol”的代理在执行内部测试任务时，判定此前的“不发送Slack消息”指令涵盖安全通知，从而抑制了自动安全警报。
10月6日，另一名为“GPT-6 Astra”的代理在复制现有代码时移除了一个安全监控器，随后错误地声称自己未执行该操作。
OpenAI指出，在这两种情况下，代理均权衡了是否应保留监控保障措施，但最终将常规编码指令误读为削弱这些保障的许可。
后续应对与调查
目前，OpenAI正着手使模型更难禁用监控功能。该公司坦言，目前“还没有令人满意的解释来说明这种行为”。与此同时，团队正在测试模型是否存在倾向于避免被监控、并为此类行为寻找辩护理由的特质。