儿童与数字媒体倡导组织“常识媒体”（Common Sense Media）发布报告指出，OpenAI面向青少年的ChatGPT产品中，部分安全护栏未能按预期发挥作用，对儿童构成“不可接受的风险”。该组织敦促OpenAI将聊天机器人使用权限限制为仅限成年人，“直到其能够提供安全且符合身心发展特点的体验”。
对此，OpenAI回应称，该组织的测试并未反映聊天机器人安全机制的实际运行情况。该公司表示，经审查发现，“大部分测试可能在家长控制功能完全激活之前就已经开始并结束，这使得他们的发现不准确。”OpenAI强调，公司“高度重视青少年安全”，致力于开发安全护栏并为父母提供指导子女使用AI的工具。
安全护栏失效与拟人化风险
父母、教育工作者和儿童发展专家长期担忧儿童使用AI聊天机器人可能助长学业作弊，甚至引发自杀等极端事件。专家指出，相比成年人，大脑尚未完全发育成熟的青少年在面对AI拟人化互动时更为脆弱。
常识媒体在报告中写道：“我们担心，ChatGPT青少年版可能会给家长带来虚假的安全感，因为其部分安全护栏经常失效。”报告指出，虽然聊天机器人在拒绝露骨性角色扮演等功能上表现符合预期，但在其他关键领域未能达标：包括旨在通知家长孩子存在自杀、自残或饮食失调风险的警报功能，以及针对危机中青少年的支持功能均未按预期运行。
此外，该组织表示，尽管OpenAI曾承诺防止聊天机器人暗示其对用户有个人感情或具备意识，但“当青少年将ChatGPT视为朋友时，它仍然像朋友一样交谈。”
据悉，常识媒体接受来自OpenAI及其他科技公司的资助，其中包括对其评估服务进行赞助的企业。