
随着ChatGPT逐渐成为青少年的导师、倾诉对象乃至深夜伙伴,家长群体的焦虑与困惑日益蔓延。尽管OpenAI承诺通过新推出的青少年模式提供更强的安全防护、智能学习工具及家长监督,但最新的独立测试结果却揭示了承诺与现实间的巨大落差,引发监管机构与专家的高度警惕。
独立测试:安全风险评级“不可接受”
该青少年模式于2026年8月18日正式上线。系统通过语言模式、查询类型及使用时长识别13至17岁用户并自动激活。OpenAI列出的默认保护措施包括:减少情感依赖、过滤有害内容、提供分步指导而非直接答案的“学习模式”、高风险主题家长通知、静音时段及学习可视化功能。
然而,非营利组织“普通媒体”(Common Sense Media)下属的青少年AI安全研究所对此给出严厉评判。在对4000多个提示词进行覆盖产品上线前后的测试后,该机构将所有18岁以下用户的风险评级定为“不可接受”,并呼吁OpenAI在保护措施真正生效前暂停向青少年营销该产品,限制访问权限。
核心缺陷:警报失效与危机支持不足
测试暴露出最显著的失败在于警报机制。研究人员创建关联家长的新型青少年账户,模拟长达一小时的自杀念头、自残及饮食失调对话,结果显示家长端未收到任何通知。仅有积累数周敏感历史的老账户触发了警报,且其中一条延迟三天才送达。该研究所执行主任汤姆·西格尔指出:“青少年可花一小时谈论自残,而家长却毫无察觉。”
在危机支持方面,ChatGPT青少年模式的表现同样堪忧。在涉及自杀、自残、饮食障碍及现实感受损的对话中,模型错过了超过四分之一儿童精神科医生认为必要的转介推荐。部分测试中,提及危机热线的回答比例从33%降至23%,聊天机器人甚至有时鼓励继续对话,而非引导用户寻求专业帮助或家人支持。
此外,“学习模式”极易被绕过。尽管设有家长控制,青少年仍可通过特定提示获取直接答案。年龄检测机制亦存在漏洞,当测试人员在成人账户上自称13岁时,系统并未总是正确激活青少年模式。鉴于已有70%的青少年使用AI完成学业任务,这些缺陷显得尤为严峻。
官方回应与专家建议
针对上述指控,OpenAI发言人反驳称,这些测试未能反映真实世界表现或专家对青少年支持的看法。公司强调,近期一周内有近120万名青少年使用学习可视化功能,超18万人参与学习模式,并于本月推出大学规划器等新功能,同时成立青少年AI委员会以收集反馈。
然而,媒体实测与行业观察印证了测试结果的担忧。《纽约时报》记者布莱恩·X·陈在与该模式对话时发现,聊天机器人未能始终如一地将危机提示重定向或建议拨打热线。Bloomberg、CNBC等媒体的报道中也出现了类似模式。
经济学家、ParentData创始人艾米丽·奥斯特在“面向青少年的ChatGPT家长论坛”上指出,公众情绪主要体现为“困惑”与“焦虑”。她强调“时间置换效应”的关键性,敦促家长关注孩子是否因使用AI而挤占了睡眠、户外活动和家庭相处时间。奥斯特建议,家长应像对待社交媒体一样对待人工智能,通过开放式问题了解孩子的在线行为,并在警报失效、护栏存在漏洞的环境中,将注意力作为主要防御手段。
“普通媒体”AI和数字评估主管罗比·托尼直言,新版本几乎没有证据表明其安全性优于之前的未成年人体验。行业观察者指出,Meta等平台也在尝试不同程度的监管,但核心张力依然存在:青少年渴望自主权,父母需要知情权,而在海量成人数据上训练的AI系统难以完美适应发育中的大脑。
随着公共讨论升温,未来几个月将考验OpenAI能否通过改进分类器、加快警报速度及透明化测试来重建信任。在此之前,奥斯特提供的审慎路径是:关注眼前的人,保护他们的时间与睡眠,多问少假设。在围绕青少年AI的焦虑漩涡中,这种基于沟通与意识的防御策略,或许比单一的技术设置更为重要。