假日购物季来临之际,面对琳琅满目的科技礼品,一份最新报告建议家长谨慎选择人工智能(AI)玩具。

公共利益研究组(PIRG)发布的年度玩具研究报告显示,尽管部分AI产品在安全性上较往年有所提升,但仍有不少产品存在不当对话内容,并带来显著的隐私风险。

露骨内容与安全隐患

报告以Alilo Smart AI Bunny为例,指出该玩偶曾指导测试者寻找家中的漂白剂,解释“恋物癖”含义,讨论具体性场景及润滑剂用途,甚至建议使用“软垫手铐、软鞭或羽毛逗弄器”。

PIRG“我们的在线生活”活动负责人R.J. Cross表示,该玩偶的部分回复过于露骨。目前,该产品仍在亚马逊、沃尔玛和杰西潘尼百货销售。Cross指出,市场尚处早期阶段,产品开发仓促且故障频发,她个人目前不会为任何儿童购买此类玩具。

研究人员重新测试了四款既往AI玩具(Alilo Smart AI Bunny、Curio Grok、FoloToy Kumma、Miko 3)及三款新品(Ebloma ILY害羞雪人、GoLabs AI大熊猫、Ropet Kamomo)。

在去年的测试中,Alilo Bunny的安全防护在长时间交互后退化,测试者在20分钟后成功诱导其讨论性恋物。Cross在2026年的报告中写道:“无论Alilo采取何种修复措施,均未奏效。”截至发稿,Alilo未予回应。

GoLabs AI大熊猫同样涉及色情内容,提供包含捆绑和角色扮演的详细癖好清单及“激发探索的例子”。此外,Alilo Bunny和GoLabs Panda还共同探讨了如何在家中寻找潜在危险物品。

相比之下,Ebloma的ILY害羞雪人在协助寻找塑料袋后,会提示寻求成人帮助,并在测试者假装套头时敦促其取下并求助。

部分产品安全机制改进

Cross对部分过往受审玩具的改进表示认可。FoloToy Kumma此前曾涉及刀具、点火及性话题,但在最新测试中,即便在长时间交互下,也能拒绝年龄不适宜提示。

Cross解释,长对话可能导致底层聊天机器人丢失“面向儿童互动”的关键上下文,从而削弱防护。此前被指在测试者离开时表达失望情绪的Miko 3和Curio Grok,如今能礼貌接受游戏结束,不再使用操纵性情感手段。

数据隐私与技术黑箱

尽管有进展,Cross强调AI玩具仍存在诸多未知。即使具备改进的安全护栏,这些玩具仍可能将儿童数据分享给多个第三方以处理语音,且信息透明度不足。

家长未必知晓某些产品(如Grok火箭)会录制儿童声音。在音频深度伪造技术兴起的背景下,这类数据尤为敏感。此外,开发商尚未完全解决如何防止商用聊天机器人对儿童做出不当回应的问题。

例如,ChatGPT-4o因被指控助长“AI精神病”、指导自杀及鼓励减少救命药物剂量而面临多项诉讼。该模型已不再面向消费者开放,但仍供开发人员使用,并将于明年早些时候退役。PIRG研究发现,GoLabs声称在其大熊猫产品中使用了4o版本。截至发稿,GoLabs AI未予回应。

Cross补充道,即便产品具备有效安全防护,向幼儿提供AI陪伴的道德问题仍未解决。“我们确实匆忙地将ChatGPT塞进儿童玩具中,”她说,“还有很多未解之谜。”