韩国国会正加快推进人工智能（AI）水印监管立法，相关修法近日相继提出，重点指向AI生成内容在传播环节中的删改、伪造与篡改问题。

据国会消息，执政党议员Kim Daesik近日提出《人工智能发展与信任基础构建基本法》修正案，进一步细化现行《AI基本法》（即《人工智能发展与信任基础构建基本法》）中针对AI企业的水印标注义务。根据修正案，AI生成内容需以用户可清晰识别的代码、文字或符号等形式，直接嵌入内容本身；对毁损、伪造或篡改水印的行为，则拟增设刑事处罚条款，最高可处2000万韩元罚款。

在此之前，在野党议员Cho In-cheol已于今年初提出《信息通信网利用促进及信息保护等相关法律》修正案。该法案的核心在于，将AI生成内容传播过程中的水印删除、毁损、伪造或篡改行为明确列为禁止事项。除AI技术企业外，达到一定规模的平台企业也需提供水印支持，并采取技术措施防止水印被破坏。违反规定者，最高可处1000万韩元罚款。

韩国国会此轮集中推动修法，主要是为了补上现行监管框架中的制度缺口。虽然《AI基本法》已经对AI企业设定了水印标注义务，但对内容流通环节的约束，迄今主要仍依赖单独发布的指引补充。

今年1月22日，韩国科学技术信息通信部随着《AI基本法》施行而发布《AI透明性确保指南》。其中规定，对深度伪造结果原则上应使用可识别的可视化水印；对于视频类深度伪造内容，则要求在播放全程持续显示相关标识。不过，这份指南属于行政指导性质，并不具有法律强制力。在现行制度下，AI企业未履行标注义务时可以被处以罚款，但若水印在传播过程中被毁损、伪造或篡改，仍缺乏明确的处罚依据。

这一监管空白在用户侧也已显现。当前，去除AI水印的方法正在通过社交媒体和YouTube等平台传播，部分用户甚至分享如何利用Windows或macOS系统自带工具删除相关标识，使水印能够被轻易去除，也引发外界对滥用风险的担忧。

与此同时，围绕可能被用于犯罪的AI生成内容，尤其是深度伪造，韩国国内要求提高监管标准的呼声也在持续升温。韩国警察厅国家侦查本部数据显示，2024年11月至2025年10月期间，深度伪造性犯罪共发生1827起，1438人被抓获。与2023年11月至2024年10月相比，查获案件数增加50.1%，抓获人数增加47.8%。

另据Cho In-cheol议员办公室在去年国政监查期间从广播通信审议委员会取得的资料，深度伪造性犯罪影像的审议数量已从2021年的1913件增至2024年的23107件，增长显著。

从国际趋势看，主要国家和地区也在扩大对AI生成内容水印义务的监管范围。美国加利福尼亚州要求确保AI生成内容标识具备永久性和不可逆性，并强制提供免费检测工具，便于普通用户判断内容是否由AI生成；中国则将生成阶段和流通环节一并纳入管理，并对平台企业设定管理责任；欧盟则将同时适用可视与不可视标识的“稳健型水印”作为标准方向。

专家认为，当前韩国在AI水印立法上的空白，既涉及平台监管，也涉及用户责任。Korea University技术经营专业研究生院教授Lee Seong-yeop表示，现行法律只对AI开发和使用企业规定了水印义务，YouTube等平台尚未被纳入监管范围，因此可考虑引入“分发者”概念，将平台纳入规制对象。

Lee Seong-yeop还指出，普通用户即便删除或毁损深度伪造内容中的水印，目前也缺乏明确制裁依据。后续有必要研究通过单独立法等方式，将AI生成内容监管纳入广播通信审议委员会用户保护条款的适用范围。