Anthropic旗下Claude(图片来源:Shutterstock)

Anthropic开始在Claude生成文本中嵌入不可见文本水印,以提升AI生成内容的可识别性。此举旨在识别AI文本被当作人工内容提交或发表的情况,预计也将对教育和出版行业核验AI使用情况的方式产生影响。

据Business Insider当地时间11日报道,Anthropic表示,从当天发布的新款Claude模型开始,生成文本将加入“几乎无法被察觉”的水印标记。

Anthropic称,这一水印不会改变文本含义,也不会影响可读性;即使将文本复制粘贴到其他位置,水印仍可保留。公司还表示,内容经过一定程度编辑后,水印也有可能继续存在。

该功能适用于2026年8月2日之后发布的Claude模型。Anthropic表示,这些模型在发布时就已支持文本水印,公司也正在推进将这一功能扩展至更早版本的Claude模型。

无论用户是直接使用Claude,还是通过云服务商调用Claude模型,文本水印都会生效。Anthropic还计划推出第三方检测工具,供外部机构核验文本是否由AI生成。

Anthropic表示,此举也呼应了欧盟《AI法案》对透明度的要求,目的是让AI生成内容的来源更容易被识别,帮助用户及内容使用方判断相关文本是否使用了AI。

对于出版社以及中小学、高校等教育机构而言,文本水印可能成为核验AI生成文本的新工具。近期,围绕小说等出版物是否使用AI的争议持续升温,作品创作过程中是否引入AI、又该如何验证,已成为行业关注的焦点。

上月,犯罪小说《Call Me, I'll Hide the Body》因作者可能使用AI写作而引发质疑,其代理人随后撤回支持。该作品此前已在14家出版社参与的版权竞标后完成签约,争议也因此进一步扩大。作者Jeri Pallade否认使用AI写作。

今年早些时候,恐怖小说《Shy Girl》也卷入AI生成语句争议。作者Mia Bollard表示,自己并未使用AI写作,相关内容系一名自由编辑在未经其同意的情况下插入。

在这一背景下,文本水印有望成为出版社核查稿件是否使用AI时的参考依据;在教育场景中,也可能被用于核验学生作业是否引入AI。

不过,文本水印并非判断AI生成内容的决定性依据。Anthropic承认,如果文本经过大幅修改或改写、被翻译,或与其他文本混合,水印可能无法被检测出来。此外,即便检测到水印,也不意味着整篇内容都由Claude生成。例如,在人工撰写文本的校对或翻译过程中使用Claude,也可能保留水印特征。

在主要AI公司中,Anthropic是第二家引入文本水印的公司。Google DeepMind曾于2024年宣布,将在Gemini应用及网页端生成的文本和视频中引入基于SynthID的水印技术,并自2023年起提供图像水印方案。

整体来看,Anthropic此次推出文本水印,为AI生成文本溯源提供了一种基础性的技术手段。尽管仅凭水印仍难以最终认定文本是否使用了AI,但如果出版社和教育机构将其与现有AI检测方式结合使用,围绕AI写作透明度和内容核验的讨论预计将进一步升温。

关键词

#Anthropic #Claude #文本水印 #AI生成文本 #文本溯源 #第三方检测工具 #欧盟《AI法案》 #出版业 #教育机构 #Google DeepMind
版权所有 © DigitalToday。未经授权禁止转载或传播。