OpenAI宣布，在强化安全措施并禁止模型访问互联网后，已恢复其最先进AI模型的训练工作。公司同时披露，在测试防御机制时发现了一个广泛使用的软件漏洞。

今年9月，因一个研究模型利用配置错误获得有限互联网访问权限，OpenAI曾暂停其最强大模型的训练。公司当时表示已控制事态，并利用停训期加固防御体系。

为验证新措施，OpenAI安排多组AI智能体尝试突破受限环境。这些智能体发现了此前未知的漏洞，公司在修复这些问题后，于10月1日正式恢复训练。

发现Brotli压缩工具漏洞

在此过程中，OpenAI发现广泛使用的数据压缩工具Brotli存在漏洞。攻击者可通过发送恶意数据，在受影响系统上运行代码，波及使用Node.js、Bun和Envoy等流行Web软件的系統。

OpenAI指出，该问题的根本原因已在今年2月修复于Brotli源代码中，当时未被确认为安全漏洞，故未发布新版本。此后，Brotli发布了更新版本，并在OpenAI披露后公开记录了相关情况。

这一披露正值外界担忧日益强大的AI智能体能够识别并利用软件漏洞，包括用于限制它们的护栏系统。

第三方机构发现新隐患

此外，AI安全评估机构METR和Redwood Research上周四表示，在今年早些时候的一次试点审查中，他们在OpenAI内部系统中发现了数个新漏洞，其中包括一个可能让智能体规避数百次操作监控的漏洞。

OpenAI告知上述安全组织，已修补所有影响其生产防护系统的漏洞。但METR和Redwood Research表示，尚未验证这些修复措施的有效性。

自7月发生Hugging Face相关事件以来，OpenAI一直在对其AI模型活动进行全面审查，并已通知超过100个组织有关与其AI智能体相关的未经授权活动情况。