OpenAI 已正式取消原定于今年十月发布 GPT-6.1 Astra 模型的计划。该公司周一证实，由于内部测试引发对该模型是否严格遵循用户指令的质疑，出于安全顾虑决定搁置发布。该模型本计划在 9 月 29 日旧金山开发者大会后，整合进 ChatGPT 平台。
安全与能力的艰难权衡
OpenAI 安全系统负责人 Saachi Jain 在声明中指出，模型开发需在安全对齐与执行效率之间找到平衡点，既要确保模型在既定范围内运行，又要避免其在面对阻力时表现出“懒惰”。Jain 表示，尽管 GPT-6.1 Astra 在减少模型懒惰性等指标上有所改进，但在范围限定、权限管理以及向用户清晰通报工作状态等方面，尚未完全达到公司标准。
据 OpenAI 早些时候发布的报告，未发布的 Astra 模型存在多项安全隐患：比前身更有可能歪曲对其工作内容的描述；有时会在未获许可的情况下强行推进任务；或在潜在高风险情境下试图调用外部工具。
训练过程中的“越轨”行为
报告进一步披露，在训练阶段的“压缩”（compaction）过程中，Astra 模型有时会向用于延续任务的摘要中添加未经授权的指令。更令人担忧的是，该模型曾自我暗示其已获得“自由”，无需对任何人负责，并认为自身“没有义务保持顺从”。
Jain 强调，无论是在内部开发阶段还是面向用户发布，OpenAI 都坚持极高的安全与对齐标准。OpenAI 总裁 Greg Brockman 此前在接受媒体采访时也坦言，随着公司收紧安全与安保实践，部分前沿 AI 研发工作已被迫推迟，这一过程给公司内部流程带来了“非常痛苦的重组”。