用于核验AI生成内容来源的隐形水印技术，正引发被用于追踪相关人员的担忧。一旦隐藏在内容中的识别码与个人信息绑定，这类技术就可能在用户不知情的情况下，演变为监控工具。
日本媒体Gigazine于8日（当地时间）报道，图像和视频制作软件公司ArtCraft创始人Brandon Thomas近日撰文提出，应将那些未经用户同意、被用于追踪内容的隐藏标识单独定义为“Spymark”。
Brandon Thomas以Google的SynthID为例指出，该技术会在AI生成的图像、视频、音频和文本中嵌入肉眼难以察觉的数字信号，用于核验内容是否由AI生成。与常规元数据不同，SynthID的设计目标之一，是在图像经过编辑或压缩后，水印信息仍可被检测到。
他尤其提到Google研究论文中出现的图像水印技术“SynthID-O”。该技术可在512×512像素图像中写入136比特信息，其中64比特可作为识别码，其余72比特用于纠错。
他认为，如果这些识别码进一步与外部数据库中的姓名、IP地址、出生日期、政治立场等信息关联，就可能被用于追踪内容创作者身份及内容传播路径。
不过，这一说法目前仍停留在技术层面的担忧。报道指出，尚无证据显示Google实际在内容中写入个人识别信息，或将相关技术用于追踪用户。Google对SynthID的定位，仍是核验AI生成内容来源的技术工具。
Brandon Thomas还强调了这类技术与常规元数据的区别。无论是图像的EXIF信息，还是音频文件的ID3标签，通常都可以被查看、修改或删除；但直接嵌入内容本身的隐形标识，用户往往难以察觉其存在，也更难清除。
他担忧，如果这类技术在社交媒体、智能手机和内容制作工具中进一步普及，追踪帖文传播路径的可能性将随之上升，尤其可能导致内部举报者或匿名发声者身份暴露。
随着识别AI生成内容的技术加快普及，如何在提升内容透明度与保护用户隐私之间取得平衡，正成为新的课题。
Jae-won Choi
ittt_0801@d-today.co.kr