韓国国会で、人工知能（AI）生成物に対するウォーターマーク規制を強化する法案の提出が相次いでいる。生成段階での表示義務を具体化するだけでなく、流通段階での毀損や改ざんへの対応、プラットフォーム事業者の責任まで制度化し、現行法の空白を埋める動きだ。

国会教育委員会所属のキム・デシク議員（与党「国民の力」）は、「人工知能の発展と信頼基盤の造成などに関する基本法（AI基本法）」の改正案を提出した。現行法がAI事業者に課しているウォーターマーク表示義務について、利用者が明確に識別できるコードや文字、符号などを生成物そのものに挿入するよう明記した。

あわせて、これを毀損または改ざんした場合には、最大2000万ウォン（約220万円）以下の罰金を科す刑事罰も盛り込んだ。

一方、国会科学技術情報放送通信委員会所属のチョ・インチョル議員（野党「共に民主党」）は今年初め、「情報通信網利用促進および情報保護等に関する法律（情報通信網法）」の改正案を提出した。AI生成物の流通時にウォーターマークを毀損したり、偽造・改ざんしたりする行為を禁じるのが柱だ。

同改正案では、AI事業者に加え、一定規模以上のプラットフォーム事業者にも、ウォーターマーク表示の支援や毀損・偽造・改ざん防止に向けた技術的措置を義務付ける。違反時の過料は1000万ウォン（約110万円）以下とした。

こうした立法の動きの背景には、現行規制の限界がある。AI基本法はAI事業者にウォーターマーク表示義務を課しているものの、流通段階の規律はガイドラインで補っているにとどまる。

科学技術情報通信部は今年1月22日、AI基本法の施行に合わせて「AI透明性確保ガイドライン」を公表した。ディープフェイク生成物については認識可能な可視ウォーターマークのみを認め、動画型ディープフェイクではAIで加工した再生区間全体にロゴを表示するなど、具体的な手法を示している。

ただ、このガイドラインは行政指導の性格が強く、法的拘束力はない。AI事業者が表示義務に違反した場合は過料を科すことができる一方、流通過程でウォーターマークが毀損されたり、偽造・改ざんされたりしても、現行制度では処罰の根拠がない。

こうした空白は、利用者側での悪用という形でも表面化している。ソーシャルメディアやYouTubeでは「ウォーターマーク削除法」などの情報が拡散。WindowsやMacの標準機能で表示を消す方法も共有されており、容易にウォーターマークを除去できるとして懸念が高まっている。

ディープフェイクのように犯罪に悪用され得るAI生成物を巡っては、規制強化を求める声も強い。警察庁国家捜査本部によると、2024年11月から2025年10月までに発生したディープフェイク性犯罪は1827件で、1438人を検挙した。

これは2023年11月から2024年10月までと比べ、摘発件数が50.1％、検挙人数が47.8％それぞれ増えた計算になる。さらに、2025年の国政監査でチョ議員室が放送メディア通信審議委員会から提出を受けた資料では、ディープフェイク性犯罪映像物の審議件数は2021年の1913件から2024年には2万3107件へ急増した。

海外でも、AI生成物へのウォーターマーク付与義務を拡大する流れが強まっている。米カリフォルニア州は、AI生成物表示の永続性と不可逆性の確保を求めるとともに、一般利用者がAI生成かどうかを確認できる無料の検知ツールの提供も義務付けた。

中国は生成段階と流通過程の双方を規制対象とし、プラットフォーム事業者にも管理責任を課している。欧州連合（EU）も、可視・不可視の表示を組み合わせた堅牢なウォーターマーク方式を基準としている。

専門家は、韓国でもプラットフォーム規制と利用者責任の両面で立法上の空白があると指摘する。コリョ大学技術経営専門大学院のイ・ソンヨプ教授は、「現行法はAI開発・利用事業者にのみウォーターマーク義務を課しており、YouTubeのようなプラットフォームは規制対象から外れている」と述べ、配布者の概念を制度に取り込む必要があるとした。

そのうえで、「一般利用者がディープフェイクのウォーターマークを削除・毀損しても制裁の根拠がない点も課題だ」と指摘。「放送メディア通信審議委員会の利用者保護条項にAI生成物規制を盛り込むなど、別途の立法も検討する必要がある」と語った。