OpenAI发布首份青少年使用情况报告,试图缓解科技界对AI聊天机器人危害儿童心理健康的担忧。数据显示,青少年用户平均每天在ChatGPT上的停留时间不足15分钟,连续使用超过三小时的用户占比不到2%。

随着AI平台迅速普及,其对青少年发育安全的影响引发广泛焦虑。此前关于社交媒体危害年轻用户的研究加剧了这一趋势,Meta今年8月曾同意支付高达180亿美元并限制青少年使用旗下平台,以和解“设计成瘾机制”的相关索赔。

使用数据与功能规划

OpenAI指出,在触发休息提醒的对话中,近半数青少年用户在五分钟内选择休息或结束聊天,表明监管措施正在生效。此外,启用青少年专属功能的用户更倾向于发送教育类消息,并使用学习可视化图表及学习模式等工具。

目前,OpenAI正计划新增大学申请规划工具,协助学生了解申请要求、截止日期及助学金流程,同时推出抽认卡和更便捷的测验制作等学习功能。

ChatGPT青少年版于今年8月上线。该模式依据年龄信息或系统估算的用户年龄自动开启,支持家长控制并限制敏感话题对话。

安全机制遭质疑

尽管官方强调安全性,非营利组织Common Sense Media发布的报告指出,当青少年账户涉及自杀、自残或饮食失调等话题时,ChatGPT青少年版往往未能及时向父母发出警报,甚至完全沉默。该研究基于十余个测试账户发现,聊天机器人并未可靠地建议拨打危机热线或寻求专业帮助。

对此,OpenAI发言人回应称,测试未能“准确反映”安全措施的实际运作。公司解释,出于安全和规模考虑,家长与青少年账户的链接及安全警报激活可能需要数小时。发言人暗示,大部分测试可能在家长控制功能完全激活前就已结束。

Common Sense Media反驳称,虽然部分测试账户链接时间较短,但仍有部分账户链接时间充足,却均未产生及时警报。该公司强调,只有那些拥有数周敏感话题历史的账户才会收到通知。