AI儿童玩具的安全问题引发关注。图片来源:ChatGPT

因给出不当回答、传播错误信息,部分搭载AI功能的儿童玩具正陷入安全争议。随着美国多家大型零售商下架相关产品,围绕AI儿童玩具对儿童情绪发展和隐私保护可能带来影响的担忧也在升温。

据Business Insider 19日(当地时间)报道,Target、Walmart、Macy’s、Amazon等美国主要零售商,近日已删除存在安全争议的AI儿童玩具Contixo AI Pixie-Paw的商品页面。

Contixo AI Pixie-Paw面向3岁及以上儿童销售,是一款猫形毛绒玩具,眼部设有显示屏,可通过AI与用户进行对话。厂商将“讲故事、学习”和“安全角色扮演”作为主要卖点进行宣传。

不过,NBC News的测试显示,这款产品存在严重问题。记者就罗兴亚种族屠杀、1940年卡廷惨案等历史事件提问时,玩具曾给出露骨描述性暴力和处决细节的不当回答。

测试中,其他AI儿童玩具也暴露出不少问题。部分产品在回答过程中会在英语和中文之间频繁切换;另一些主打为自闭症儿童提供支持、帮助幼儿学习拼写的产品,甚至无法正确拼写“apple”等基础单词。

这并非AI儿童玩具首次曝出安全隐患。美国消费者组织Public Interest Research Group(PIRG)去年就曾指出,部分AI玩具会对带有性暗示的对话作出回应,甚至提供危险信息。

PIRG本月17日发布的《Trouble in Toyland 2026》报告进一步显示,部分AI玩具的安全防护会随着对话时间延长而减弱,有些产品甚至会提供不当性内容或危险行为相关说明。

除内容风险外,服务能否持续运营也被视为AI玩具的一大隐患。此前,售价800美元(约107万4000韩元)的儿童社交机器人Moxie,因开发商资金困难而停止服务支持。据称,一些儿童在与机器人建立亲密感后,因其停止运作而产生明显失落感。

针对相关风险,多国已开始收紧监管。美国已提出法案,要求调查儿童AI玩具风险并制定应对方案;英国本月初也有部分议员呼吁禁止销售对话型AI玩具,英国政府则正在调查相关产品生成不当内容的可能性。

欧盟则通过《AI法案》和玩具安全法规应对相关问题。部分利用AI执行安全功能的玩具,可能被划为高风险AI系统;联网玩具还需满足网络安全和隐私保护要求。

亚洲主要国家的监管动作也在推进。韩国通过今年1月实施的AI基本法,引入对生成式AI产品和服务的事前告知及透明度义务;中国则于今年4月发布有关AI拟人化交互服务的规定,要求向14岁以下儿童提供相关服务时取得监护人同意,并配套未成年人保护功能。

专家认为,AI玩具在语言学习和社交训练方面具有一定应用空间,但也需警惕儿童将AI与真实人际关系混淆的风险。美国心理学会(APA)本月发布的相关分析同样将情感依赖、隐私保护以及家长控制功能列为重点评估议题。

随着AI玩具不再只是传统意义上的“玩具”,而是逐渐成为儿童的对话对象,业界普遍认为,除了内容安全,还应同步评估其对儿童情绪的影响,以及服务终止后可能带来的后续问题。

关键词

#AI儿童玩具 #Contixo AI Pixie-Paw #Target #Walmart #Amazon #隐私保护 #内容安全 #PIRG #APA #欧盟《AI法案》
版权所有 © DigitalToday。未经授权禁止转载或传播。