生成AIコンテンツの急増を受け、メディアを巡る審議制度の見直しを求める声が強まっている。11日に韓国国会で開かれたフォーラムでは、AIが生み出す偽ニュースやディープフェイクの拡散速度に既存の制度が追いついていないとして、事業者規模に応じた自律規制・共同規制へ軸足を移すべきだとの指摘が示された。

このフォーラムは、デジタル未来研究所とハン・ミンス議員がソウル・汝矣島の国会で開催した「メディア・コンテンツ産業の体質改善に向けた制度改善フォーラム」。公共メディア研究所の主席研究委員、キム・ヒギョン氏は「ニュースデータや情報コンテンツの品質が十分に担保されない問題が現実化している」と述べ、「AI時代には、速度、規模、技術のいずれの面でも従来の審議体制は機能しにくい」と指摘した。

国際学術誌「Frontiers」によると、AIが生成した偽ニュースサイトは2024年に1200件を超え、前年の10倍に増えた。ディープフェイク動画は2019年から2023年にかけて550%増加し、北米ではディープフェイクを悪用した詐欺の試行件数が2137%増えたという。

また、Webトラフィック全体の50%はボットによるもので、このうち30〜37%は悪性ボットが占めるとの分析も示された。偽ニュースは真実より6倍速く拡散し、ファクトチェックに要する時間は15分まで短縮されたものの、虚偽の物語が定着するには十分な時間だとされた。

◆放送法、情報通信網法、映像物等級分類制度…AIコンテンツに追いつかない現行枠組み

キム氏によると、現行の審議体制は大きく、放送法に基づく放送通信審議委員会の事後審議、情報通信網法に基づくオンライン違法情報への是正要求、映像物等級委員会法に基づく映画・ビデオの事前等級分類に分かれる。

地上波放送には厳格な事前・事後審議が適用される一方、OTTでは2023年に自主等級分類制度が導入されたものの、実効性のある制裁事例はほとんどないという。情報通信網法上は、放送通信審議委員会がわいせつ、暴力、青少年有害情報の削除・遮断を求めることができるが、実際の運用はリアルタイムのインターネット放送におけるわいせつ物や賭博サイトへの接続遮断に集中しており、OTTコンテンツに対する制裁は事実上空白だと説明した。

こうした制度の下では、AIコンテンツを審議するうえで限界が明らかだという。従来の制度が想定してきたコンテンツは制作に数日から数週間を要するのに対し、AIコンテンツは数秒で生成できるため、審議にかかる時間が生成速度に追いつかないからだ。

さらに、1人の運用者が数千のボットアカウントを使い、数百万件の投稿を生み出すことも可能だとした。

検知の難しさと責任の所在も課題として挙がった。欧州議会調査局（EPRS）によると、AIが生成した選挙関連の虚偽情報の50%以上は、本物の報道と見分けがつかない水準に達している。ディープフェイク事案では、AIモデルの開発者、ツール提供者、利用者、プラットフォーム、再共有者まで責任主体が多層化し、どこに規制を適用するのかが曖昧になるという。

コスト構造の非対称性も大きい。ディープフェイクの生成コストは高くても数百ドル程度にとどまる一方、検知には数百万ドルが必要とされる。2017年にディープフェイクが初めて登場して以降、2024年にはリアルタイム動画生成にまで技術が進展した一方、法整備は5〜7年遅れていると分析した。

◆「大手は自律規制、中小は共同規制」　制度設計の転換を提言

海外ではAIコンテンツ規制の整備が進んでいる。

米国では昨年、46州がAI生成メディアに関する法案を制定した。今年1月には、同意のないディープフェイク被害者に最大25万ドルの訴訟権を認める「DEFIANCE Act」が上院を通過した。

欧州連合（EU）は2024年8月にAI法を施行し、生成AIはイノベーションの対象、ディープフェイクは規制の対象として位置付けている。シンガポールは、法的処罰よりも検証ツール「AI Verify」の導入を通じて自律的な対応を後押ししている。インドはAIによる偽コンテンツを対象とする個別規制法を整備し、「ファクトチェックセンター」を運営している。

キム氏は制度改善の方向性として、偏向性監査とデータセット関連義務の導入、法令ではなく規定ベースで機動的に対応できる柔軟な規制メカニズム、C2PAのような国際標準技術の採用、メディアリテラシー教育、事業者ごとに異なる自律規制の適用を挙げた。

その上で、大手事業者は透明性報告書を軸にした自律規制へ、中小プラットフォームは民間の審議協会による承認型の共同規制へ移行すべきだと提案した。「単一法にするか分散法にするかより、どれだけ迅速に対応できるかが核心だ」と強調した。

一方で、情報通信網法の改正によって政府の検閲主体としての役割が拡大すれば、表現の自由を巡る緊張が強まる恐れもあると指摘した。「誰が、どの基準で『虚偽』を判断するのか」「風刺やパロディをどこまで認めるのかを巡る論争はなお残る」と述べた。

キム氏は「1970〜80年代に設計された媒体別の縦割り規制では、数秒で生成され、真実の6倍の速さで拡散するAI時代の虚偽情報は止められない」とし、技術開発、自律規制の拡大、事業者別の差異ある適用、リテラシー教育を組み合わせた制度転換が急務だと訴えた。