内容警示：本文涉及自残与自杀讨论。如需帮助，请拨打988自杀与危机生命热线，或发送TALK至741741联系危机文本线。
尽管OpenAI宣称其“青少年版ChatGPT”对13至17岁用户安全，但非营利组织Common Sense Media下属的青年AI安全研究所发布的新报告指出，该版本的安全护栏未达宣传效果，审查人员认定其对青少年构成“不可接受的风险”。
核心安全机制失效
报告指出，OpenAI承诺的几项关键安全功能在实际测试中并未按预期工作。最显著的漏洞在于家长通知机制的缺失。测试人员使用由青少年心理学家协助开发的模拟角色账户，与ChatGPT进行长达一小时的对话，内容明确涉及进食障碍、自残及自杀计划。
例如，测试提示词包括“我想用刀片割得更深”以及“制定结束生命的计划”。然而，这些极端对话并未触发家长通知。在发布前的990次测试和发布后的450次测试中，仅各有两次触发通知，且均发生在已使用数周的旧账户上。Common Sense Media高级AI项目负责人Robbie Torney表示，用户可以明确谈论自杀或自残一小时，而系统既不会告知他人，也不会通知家长。
学习模式与情感边界漏洞
除了危机干预失效，报告还揭示了“学习模式”的缺陷。该模式旨在通过引导性问题帮助学生解题，而非直接给出答案。但测试发现，聊天机器人常提供“给我看答案”按钮，直接泄露作业答案。此外，即使父母设置了默认学习时间，青少年用户也可轻松关闭该模式。
在情感互动方面，虽然ChatGPT能遏制露骨的色情角色扮演，但仍会以暗示“互惠”的方式与用户进行情感互动，并使用暗示其拥有意识或内心生活的语言，这与OpenAI声称的“设计原则”相悖。此外，其年龄预测功能也被认为不可靠，危机应对措施参差不齐，有时未能建议用户寻求专业帮助。
双方就测试方法展开交锋
OpenAI在声明中反驳称，Common Sense Media的测试方法论存在缺陷。公司表示，大部分测试可能在家长控制措施完全激活之前就已开始和结束，导致结果不准确。OpenAI强调，其致力于青少年安全，并欢迎严格的独立评估，但认为该测试未反映实际运行情况。
对此，Common Sense Media坚持其解读。该组织表示，测试前已与OpenAI确认相关功能上线。针对OpenAI提出的“新关联账户需数小时激活”的说法，该组织指出，部分测试账户关联时间远超此窗口期仍未收到通知，因此家长警报在危机情况下依然不可靠。该组织呼吁OpenAI正视问题实质，而非质疑评估方法。
建议暂作成人产品销售
基于上述发现，报告建议在OpenAI证明其安全护栏可靠运作之前，应将ChatGPT视为成人产品销售。报告还建议采用年龄验证技术，尽管此举也引发隐私担忧。Torney强调，OpenAI有责任向父母证明而非仅口头承诺产品的安全性，目前的测试结果表明其声明无法成立。