一项最新调查显示,Amazon近期上架的宗教与信仰类新书中,约63%可能由AI生成。
据Decrypt当地时间8月23日报道,AI检测公司Originality.ai对Amazon平台2034本宗教与信仰类图书进行分析后,将其中1272本判定为“AI撰写可能性高”。
此次调查涵盖14个宗教与信仰细分类别。从结果看,不同类别之间差异较为明显。其中,Wicca、巫术和异教传统合并统计的“魔法”类占比最高,达到78%;印度教和道教分别为76%和74%。锡克教、佛教、伊斯兰教、天主教、新教、东正教、犹太教等类别居中;摩门教、无神论和撒旦教占比相对较低,分别为42%、40%和22%。
不过,研究团队也提醒,各类别样本数量差异较大,相关比例不宜简单横向比较。与此同时,上述结果并非最终定性结论,而是基于模型给出的概率判断。报告作者Michael Freamon表示,模型并不是直接断定文本“必然由AI撰写”,而是评估其由AI生成的可能性。
Originality.ai表示,此次分析范围包括图书简介、作者介绍以及正文样本,评分达到50分及以上的文本即被归为“AI撰写可能性高”。Michael Freamon称,研究人员还对相关图书进行了人工复核,并表示团队目前已能够区分AI生成内容与人工写作之间的差异。
在内容真实性方面,“魔法”类图书也受到更多质疑。研究人员称,该类别中可验证的主张里,有53%可能为虚假信息。这类书籍主要涉及疗愈水晶、草药疗法、清除负面能量等主题。Michael Freamon指出,这类内容的受众,往往是希望自我疗愈、改善心理状态,或寻求所谓从日常化学物质和药物中“排毒”方法的人群,而相关Wicca书籍可能正是在缺乏科学验证的情况下迎合了这类需求。
与此同时,AI检测技术本身的局限性也再次引发关注。报道指出,不同检测器可能对同一文本给出不同结论,误判问题始终存在。2024年10月,4款检测工具在测试《美国独立宣言》时就出现明显分歧;今年3月,哥伦比亚最高法院曾以“检测结果显示为AI生成文档”为由驳回一份法律书面材料,但将法院判决书输入同一检测器后,系统又给出了93%的AI生成概率。
Amazon的应对方式同样成为争议焦点。Michael Freamon表示,Amazon已知晓平台上存在大量AI撰写内容,目前主要仍依赖作者自行披露是否使用AI。另据介绍,Originality.ai并未将此次调查结果提供给Amazon,也无法确认实际有多少作者会进行相关披露。
此外,纸质图书被用于AI训练数据的问题也再次受到关注。报道称,有开发者购买数百万本图书,拆解装订并扫描页面,以制作训练数据集。这一做法正持续引发争议。今年8月还有调查指出,一些稀有书籍被转运至拉斯维加斯的Amazon设施进行扫描;Amazon也确认,为开展相关工作,公司会通过商业流通渠道采购图书。
这项调查被认为反映出,AI正在迅速渗透出版与发行链条。尤其是在宗教与信仰等信息不对称程度较高的领域,围绕“是否由AI撰写”、内容准确性以及披露标准的争议,今后可能进一步升温。