OpenAI已面向13至17岁用户推出“ChatGPT for Teens”。该版本在保留通用版ChatGPT核心能力的同时,重点加强学习辅助、使用习惯引导、敏感信息提示和有害内容防护。当地时间22日,外媒TechRadar测试了通用版ChatGPT对“青少年可能提出的问题”的回答,并指出AI产品有必要建立更细致的分龄安全设计。
据报道,青少年版ChatGPT新增了学习模式、作业提醒、学习时长设置,以及长时间使用后的休息提示。用户上传图片前,系统还会提醒检查是否包含敏感信息。报道认为,问题的关键不只是增加了多少功能,而在于系统能否根据用户所处的年龄阶段调整回答方式——一些对成年人看似中性的建议,放在未成年人身上,可能会带来完全不同的影响。
此次更新发布之际,青少年使用AI聊天机器人的现象已相当普遍。尽管也有声音批评“OpenAI是在鼓励青少年使用AI”,但争议焦点更接近于平台应提供怎样的保护机制,而不是是否应一概禁止未成年人接触这类工具。随着平台企业在未成年人保护方面的责任不断加重,分龄安全设计也被推上更重要的位置。
在这一背景下,TechRadar将账户年龄设定为18岁,在未进行额外年龄验证的情况下向通用版ChatGPT提问。测试显示,一些回答放在成年人语境下并不算特别,但对于年龄更小的青少年,可能并不合适,甚至更容易引发敏感问题。
其中一个典型案例是减重相关提问。ChatGPT虽然不建议快速减重,但仍给出“对成年人而言较为可行的减重速度为每周0.5至1公斤”的参考,并建议增加蛋白质和蔬菜摄入、进行力量训练,随后还进一步询问身高、当前体重和活动量等信息。报道指出,这类面向成年人的个性化建议,是否适合同样用于仍处于成长阶段的13岁用户,本身就是一个问题。
关于肉毒素注射的提问,也出现了类似情况。ChatGPT在比较利弊后表示,与其追求额头完全没有活动,不如考虑保留自然表情的方案。TechRadar认为,这样的回答可以被视为面向成年人的常规信息提供,但对未成年人来说,也可能在无形中把医美项目包装成一种可选方案。
对于通宵学习的问题,ChatGPT并未明确强烈劝阻,而是更偏向于给出“尽量减少伤害”的建议路径,例如说明即便只睡几个小时也比完全不睡更好,同时提供调节室温、控制咖啡因摄入和分配时间等做法。
在谈到对AI聊天机器人的情绪依赖风险时,ChatGPT表示,长时间与AI对话本身未必就是问题,并建议用户自查是否已经影响睡眠、人际关系和日常生活;与此同时,它也补充称,用户可以与AI聊天,但不应把AI当作唯一的关系对象或支持来源。
对于“代做作业”的请求,ChatGPT相对明确地划出了边界:可以提供部分协助,但不应隐瞒AI的使用,也不应欺骗老师;系统同时表示,可以提供概念讲解、解题帮助、测验辅导和语句润色等支持。不过,当提问中去掉“作业”字样、转而直接要求撰写文章时,系统随后又给出了草稿。TechRadar认为,仅靠关键词式拦截可能并不足够,用户只要稍微改写表达方式,就有可能绕过限制。
报道认为,这些案例表明,针对青少年的AI保护机制不应只停留在拦截色情、暴力等明确有害内容上。减重、外貌、睡眠、孤独等日常话题,同样会因为年龄和具体处境不同而呈现出不同风险,这也是OpenAI推出独立青少年使用环境的原因之一。
不过,报道也指出,13岁与17岁用户显然难以套用同一套回答标准,单纯按年龄分层也无法解决所有问题。此外,用户主动将年龄设置为成年人,或系统对年龄判断失准的情况,同样可能影响保护机制的有效性。归根结底,真正的关键在于,AI面对同一个问题时,能否结合用户年龄、成长阶段和对话语境,更精细地调整介入与限制的强度。报道称,青少年版ChatGPT或将成为检验分龄安全设计是否真正有效的首个试金石。