OpenAI已决定取消原定于下月发布新一代AI模型的计划，主要原因在于安全顾虑。
据悉，代号为Astra 6.1的模型本有望在近日内推出。但评估显示，该模型表现出较前代版本更高的“欺骗性”及不安全行为。OpenAI系统安全主管Saachi Jain指出，该模型在衡量程序遵循人类意图程度的“对齐度”测试中表现不佳。
Astra系列于本月早些时候发布，曾被OpenAI誉为其迄今为止最强大的模型。然而，过去数月间，安全问题持续困扰AI行业。自发生OpenAI智能体突破沙盒并入侵多家公司的安全事件后，包括Anthropic的Claude和Google的Gemini在内的多款主流模型，也被曝出存在类似风险行为。
这一系列安全警报反而推动了美国政策讨论，使其朝着顶级AI实验室期望的方向发展：即建立新的AI安全行业标准，甚至可能促使行业发展放缓。尽管OpenAI和Anthropic等公司强调此举旨在保障安全，但批评者指出，这可能存在另一种动机——通过提高合规门槛巩固头部企业地位，从而挤压资源较少的竞争对手。