韩国《AI基本法》正式施行后，生成式AI内容被要求添加“水印”标识。然而，社交平台上很快便出现了公开传播的去水印方法，相关制度的实际效果也随之引发质疑。业内普遍认为，问题症结在于内容流通环节仍存在监管空白。

据业内消息，近期YouTube等社交平台上，围绕“去除SORA水印”“去除NanoBanana钻石形标识”等主题的教程类内容正在扩散。

这类教程主要教用户调用操作系统自带的编辑工具移除AI标识，例如Windows的“生成式擦除”和macOS的“清理”等功能。在Reddit等社区，MagicEraser、Bylo.ai、Somake等免费或付费去水印工具也被频繁推荐。

水印的作用在于区分AI生成内容与真实内容。鉴于水印缺失可能带来较大风险，多国政府和AI企业在生成式AI扩散初期就已着手推进相关应对措施。

2023年10月，美国前总统Joe Biden签署了有关安全、可信AI开发和使用的行政命令。此后，美国商务部发布相关指引，将“内容出处与真实性认证（C2PA）”作为识别AI生成内容的重要技术标准。OpenAI、Google等主要生成式AI企业也遵循了上述指引。

欧盟《AI法》已于2024年8月正式生效，其中涉及水印标注义务的透明度条款将于今年8月起开始执行。

韩国《AI基本法》也于上月22日正式施行，要求AI企业对AI生成内容添加可见或不可见的水印标识，违规最高可处3000万韩元罚款。对于深度伪造等难以与真实内容区分的内容，法律还要求以人类能够清晰识别的方式进行标注。

不过，针对内容分发和流通环节的约束仍不充分。即便AI企业已完成水印标注，若用户故意破坏水印并在平台上传播，现行法律对用户和平台仍缺乏明确处罚依据。

专家普遍认同监管的必要性，但也强调执法边界需要审慎划定。Korea University信息安全研究生院教授Heon Heon-young表示，监管不能仅停留在强制添加水印，还应对规避、移除水印的行为建立法律约束机制；不过，具体应如何界定处罚对象和适用范围，仍需结合技术发展和政策讨论进一步观察。

韩国国会也已着手推进补充立法。上月20日，韩国国会科学技术信息广播通信委员会所属、共同民主党议员Jo In-cheol提出《信息通信网利用促进及信息保护等相关法律》部分修正案，旨在防止深度伪造等非法视频扩散，并拟对“通过信息通信网流通的人工智能生成物”施加标注义务。

修正案的主要内容包括：要求发布者对AI生成物履行标注义务；要求平台企业承担标识维护和管理责任；禁止用户擅自移除或毁损AI生成物标识；并为相关违法行为设定处罚依据。其核心思路是将企业的“标注义务”与用户的“保全义务”结合起来，把管理责任进一步延伸至内容流通环节。

目前，该法案正在主管委员会审议，后续还将依次经过委员会全体会议表决、法制司法委员会审查以及国会全体会议表决等程序。