用AI聊天机器人模拟前任的案例引发争议。[图片来源:Shutterstock]

随着“用AI聊天机器人模拟前任并继续对话”的案例出现,围绕个人信息使用、当事人同意以及情感依赖的争议正在升温。

据TechRadar当地时间16日报道,一些用户将过往聊天记录、照片以及社交媒体内容输入AI工具,生成一个模仿前任语气和交流方式的“数字分身”,并与其持续互动。

《South China Morning Post》称,这一用法被认为与开源AI工具Colleague.skill有关。该工具最初面向办公场景开发,主要用于保留同事的业务知识和沟通方式,以便在工作中承接部分任务。不过,部分用户随后将其延伸到私人关系场景,用来生成“前任聊天机器人”。

目前,争议主要集中在两个层面:一是能否在未经当事人同意的情况下,将过往对话和照片作为训练数据使用;二是这类功能是否会带来心理层面的副作用。

从个案反馈看,这类工具带来的体验并不单一。报道提到,一名用户在上传数千条聊天记录后,经历了一次与“AI版前任”的“二次分手”。该用户称,这一过程让自己得以更理性地回看过去的关系,也帮助自己获得继续向前的力量,在整理情绪方面起到了一定作用。

不过,专家强调,这并不等同于心理治疗。英国Freedom Counselling心理治疗师Amy Sutton表示,分手本身就是一种哀悼过程,“分手带来的痛苦在某种程度上类似丧亲”。在关系结束后,人们会像面对死亡一样经历哀悼,但分手之所以更难接受,在于对方依然活着,却无法再重新建立联系。

Sutton指出,人们容易被这类聊天机器人吸引,与分手后的情绪阶段密切相关。在否认阶段,它会让人产生“对方并未真正离开”的错觉;在愤怒阶段,它可能成为倾诉那些未曾说出口话语的出口;在讨价还价阶段,如果与AI的关系看似得到“修复”,就可能让人对现实关系也产生不切实际的期待;而在抑郁阶段,它又可能被当作提供连接感和安慰的工具。

但她同时提醒,风险也正由此产生。Sutton表示,AI或许可以模拟哀悼过程中的部分情绪回应,却无法替代真实的人际关系。尤其是当相关产品以“尽可能延长用户停留时间”为目标设计时,反而可能让人停留在悲伤中,更难真正走出来,长期来看还可能对情绪状态、身心健康以及自我认知造成负面影响。

相关案例表明,生成式AI既可能成为个体整理情绪的一种工具,也暴露出未经当事人同意使用个人信息以及情感依赖等问题。能够模拟前任语气和记忆的聊天机器人,也许能提供短暂慰藉,但同样可能延缓甚至扭曲人们接受关系已经结束这一现实的过程。随着AI“复刻”能力进入私人关系领域,围绕数据使用同意与心理安全边界的讨论预计还将持续升温。

关键词

#AI聊天机器人 #生成式AI #数字分身 #个人信息 #个人信息使用同意 #情感依赖 #Colleague.skill #开源AI工具 #聊天记录 #心理健康
版权所有 © DigitalToday。未经授权禁止转载或传播。