调查显示,AI生成评论与真人发言正变得越来越难以区分。图片来源:Reve AI

一项最新调查显示,许多社交媒体用户已难以准确分辨AI生成评论与真人发言。

据IT媒体TechRadar当地时间25日报道,网络安全公司Surfshark联合马尔默大学硕士课程学生开展了一项名为“Bot or Not”的实验,共有710人参与。结果显示,仅53%的参与者能够较准确识别机器人评论,其余47%未能完成识别任务。

这项实验采用限时模拟方式进行。参与者需扮演内容审核员,在120秒内从4个不同话题的评论中找出10条由机器人撰写的内容。该工具由马尔默大学交互设计硕士课程学生开发,并在米兰设计周UNFOLD展览中展出。

从不同话题来看,参与者的判断表现差异明显。在情绪色彩较弱的数据中心话题中,机器人识别率达到71%,判断准确率为76%,表现最好;在“菠萝披萨”争论中,机器人识别率为64%,判断准确率为69%。

相比之下,在情绪和政治色彩更强的移民议题中,机器人识别率降至54%,判断准确率为63%;在女性权利话题中进一步降至49%和61%,同时把真人误判为机器人的情况也更多。

年龄差异同样明显。20岁以下参与者能够识别出约65%的机器人评论,判断准确率超过71%,表现最佳;20岁和30岁年龄段的整体表现也相对较好。到了41岁至50岁年龄段,机器人识别率降至42%,判断准确率仅为59%。50岁以上群体的表现略高于这一年龄段,但提升幅度有限。

Surfshark研究负责人Luis Costa表示,这一结果很难仅用传统的阅读理解能力或媒介素养来解释。他认为,当争议升温时,情绪往往会干扰人们对可疑内容的判断。要应对自动化欺骗,与其过度依赖对语句细节的分析,更重要的是保持冷静,并意识到自身在判断上的脆弱点。

Luis Costa还指出,机器人账号对舆论的影响正在扩大。行业估算显示,在选举期间,X平台政治讨论中约23%的互动放大与机器人有关。Surfshark此前的调查还显示,主要平台每年删除的虚假账号数量超过63亿个。

目前,“Bot or Not”已开放网页端体验,参与者可将自己的得分与此前710名测试者的结果进行比较。

关键词

#AI生成评论 #社交媒体 #Surfshark #Bot or Not #内容审核 #虚假账号 #网络安全 #X平台
版权所有 © DigitalToday。未经授权禁止转载或传播。