オンラインプラットフォームが薬物販売や売春あっせんなどの違法コンテンツの流通経路として悪用される一方で、遮断・削除や被害者保護の仕組みが十分に機能していない実態が、韓国国会の国政監査で改めて浮き彫りになった。AIキャラクターチャットを巡る青少年保護の不備も俎上に載り、事業者の管理責任と当局の監督の実効性が主要な争点となった。

10月12日に開かれた国会科学技術情報放送通信委員会の国政監査は、放送・メディア・通信委員会の発足後初の監査となった。Google、Telegram、Xなど海外プラットフォームによる違法コンテンツ対応のほか、AIサービスの利用者保護策が集中的に取り上げられた。GoogleとAppleのインアプリ決済を巡る課徴金処分や、KTに対する利用者欺まん疑惑の調査状況も報告された。

◆違法コンテンツ対策に遅れ、国内法人の権限にも限界

チョ・ギョンテ議員は、Xで「アイス」を検索すると薬物販売に関する投稿が、「条件付き出会い」を検索すると売春仲介広告が表示されるとして、実際の検索画面を示した。海外では検索結果が異なるとし、韓国内での違法コンテンツ管理が不十分だと指摘した。

これに対し、シン・チャンソプX韓国法人代表は、検索機能やコンテンツフィルタリングは本社が担っており、韓国法人が直接対応するのは難しいと説明した。韓国での違法コンテンツ対応が十分に迅速ではない点は認め、関係部門に改善を求める考えを示した。

政府とプラットフォームの連携不足も問題視された。チョ議員は、放送・メディア・通信審議委員会とX側の協議が3回にとどまり、昨年8月の最後の会合でも薬物関連投稿が議題に上らなかったと批判した。

Googleを巡っては、デジタル性犯罪の被害者情報の露出と、違法コンテンツの削除手続きが焦点となった。

イ・ジュヒ議員は、Googleに対する違法撮影物の削除要請の過程で、被害者の個人情報などが外部サイトに露出したケースが少なくとも147件あったとして、管理責任を追及した。2020年にも関連する個人情報の削除要請があったとし、問題を長期間放置してきたのではないかと批判した。

キム・ウヨン議員は、削除申告時の認証手続きや関係機関間のシステム連携の不備が、違法撮影物の削除の遅れにつながっていると指摘した。これに対し、ユン・グGoogle Korea社長は、被害者情報の露出について公式に謝罪し、本社と再発防止策を協議すると述べた。

Telegramについては、児童・青少年性搾取物への対応と捜査協力の実態が問われた。サンディープ・ヤダブTelegram最高執行責任者（COO）兼コンプライアンス責任者は、AIベースの検知システムと韓国当局向けの24時間対応窓口を運用しており、要請には通常2～10時間以内に対応していると説明した。

ファン・ジョンア議員は、「エクセル放送」と呼ばれる刺激の強いYouTubeライブ配信が青少年にも露出している点や、違法コンテンツサイトがGoogle検索結果に表示される問題を指摘し、プラットフォーム側の自主的な管理強化を求めた。

アルゴリズムの社会的影響や、虚偽・操作情報への対応方針も議論となった。チェ・ヒョンドゥ議員は、オンライン世論操作が疑われるアカウントに関する研究に言及し、コンテンツそのものの規制だけでなく、対立を増幅させる行為やアルゴリズムの分析が必要だと強調した。

キム・ジョンチョル委員長は、世論操作への対応を巡っては、コンテンツ規制と行為規制をどう組み合わせるかについて、社会的な議論が必要だとの認識を示した。

◆AIキャラクターチャット、青少年保護と審議体制に空白

AIキャラクターチャットサービスでは、青少年保護措置の実効性と、当局の審議の遅れが集中的に取り上げられた。

イ議員は、ScatterLabの「Zeta」について、利用者に10代と20代が多い点を挙げ、AIと情緒的な関係を築くサービスには過度な没入を招くリスクがあると指摘した。年齢確認や利用時間の制限、危険な対話への対応体制を整備すべきだと主張した。

キム・ソンミン議員は、青少年保護用の「セーフモード」を有効にしても、自傷や自殺に関する対話が生成されたとする独自点検の結果を公表した。ファン議員も、未成年キャラクターを対象とする性暴力・性搾取の場面が、成人認証なしで生成される問題を指摘した。

政府の審議体制の限界も明らかになった。キム議員によると、AIキャラクターチャット関連の苦情119件のうち76件がなお検討中で、「ベイビーチャット」に関する通報は494日が経過しても審議が続いているという。受理から審議決定までの処理期限を設けるべきだとの声が上がった。

ファン・ヨンソク韓国インターネット自律政策機構（KISO）新技術小委員長は、AIキャラクターチャットに関する自主規制ガイドラインを策定中だと明らかにした。保護対象年齢や利用時間制限など一部基準を事業者の裁量に委ねる方向だが、より具体的な安全基準が必要だとの指摘も出た。

キム委員長は、青少年保護を巡る制度上の死角があるとの問題意識を共有するとし、情報通信網法の改正やAI基本法の補完に向け、関係省庁との協議や立法支援に取り組む考えを示した。

このほか、AI生成の画像や動画について、流通段階での表示義務を強化し、プラットフォーム事業者の管理責任をより明確にすべきだとの意見も出た。

◆インアプリ決済課徴金は今月にも結論、KT調査は終了

プラットフォーム事業者や通信事業者に対する放送・メディア・通信委員会の制裁手続きも主要議題となった。

GoogleとAppleのインアプリ決済強制を巡る課徴金処分は、今月中にも結論が出る見通しだ。2023年10月に課徴金賦課案を事前通知して以降、約3年間にわたり最終処分が出ていない案件となっている。

キム委員長は、追加の意見聴取と証拠の精査を経て最終点検の段階にあるとし、「10月が終わる前に議決される見込みだ」と述べた。

KTのハッキング関連の利用者欺まん疑惑に関する事実調査も終了した。

チョ議員は、KTがハッキングの兆候を把握しながら十分な告知を行わず、自社サービスの安全性を強調することで利用者の選択権を侵害したのではないかと追及した。

これに対し、キム委員長は、9月にKTへ是正措置案を送付しており、今後の手続きを経て委員会で審議・議決する予定だと説明した。違法行為が確認されれば、是正命令や課徴金など、関連法令に基づく措置を検討すると述べた。