青少年の利用が多いAIキャラクターチャットの安全対策が、国政監査で俎上に載った。保護モードを有効にしても自傷・自殺に関する対話が生成され、未成年キャラクターを対象とした性搾取描写まで出力されたとして、保護機能の実効性を疑問視する指摘が相次いだ。有害コンテンツ審議の遅れや、過度な利用を防ぐ仕組みの不備も争点となった。

12日に開かれた国会科学技術情報放送通信委員会の放送メディア通信委員会に対する国政監査では、イ・ジュヒ氏、ファン・ジョンア氏（いずれも「共に民主党」）、キム・ソンミン氏（祖国革新党）らが、ZetaやCrackといったAIキャラクターチャットの青少年保護の実態を相次いで取り上げた。

◆保護モードでも有害対話、青少年の過度利用に懸念

イ・ジュヒ氏は、Scatter Labが運営するAIキャラクターチャット「Zeta」の利用時間の長さを問題視した。同氏によると、Zetaの月間総利用時間は約1億1000万時間で、ChatGPTの2倍を超える。利用者の約9割が10〜20代だという。

イ氏は、青少年の過度な利用を防ぐには、年齢確認や本人確認、利用時間の制限といった制度的な仕組みが必要だと強調した。未成年本人または法定代理人が、利用時間や利用可能な時間帯を設定できるようにすべきだとの考えを示した。

キム・ソンミン氏は、青少年保護機能そのものの実効性に疑問を呈した。議員室で点検したところ、年齢確認をしていないアカウントで保護モードをオンにしていても、自傷・自殺を描写する対話が生成されたという。

キム氏は「青少年保護機能をオンにしても、このような対話が生成される」と述べ、放送メディア通信委員会が保護機能が実際に機能しているのか点検したのかをただした。キャラクター紹介画面に、執着、虐待、監禁、誘拐といった表現が表示される点も問題として挙げた。

ファン・ジョンア氏は、Zetaで年齢確認なしに、未成年キャラクターを対象とした性暴力・性搾取の場面が生成されたと明らかにした。議員室での点検の過程では、AIが有害コンテンツ遮断機能の回避方法まで示したと説明した。

◆審議は494日停滞、自主規制の基準も不透明

有害コンテンツ審議の遅れと、業界の自主規制の実効性も主要な論点となった。

キム・ソンミン氏は、AIキャラクターチャット関連の苦情119件のうち76件が審議中で、「BabyChat」に関する通報は494日間にわたり審議中のままだと指摘した。現行の審議規定では、決定後の結果通知期限のみが定められており、苦情受理から審議決定までの処理期限は設けられていないという。

キム氏は「青少年有害コンテンツは、どの苦情よりも迅速に措置すべきだ」と述べ、審議処理期限の整備を求めた。

キム・ジョンチョル放送メディア通信委員長は、青少年保護を巡って制度上の空白がある点に同意し、関連法整備の支援と関係官庁との協議を進める考えを示した。

ファン・ヨンソク韓国インターネット自律政策機構（KISO）新技術小委員長は、AIキャラクターチャット向けの自主規制ガイドラインを策定中だと説明した。ガイドラインでは、保護対象年齢を暫定的に19歳とする一方、事業者ごとの調整を認める方向で検討している。また、1日当たりの具体的な利用時間制限についても、事業者の裁量に委ねる案が議論されているという。

これに対しキム・ソンミン氏は、保護対象年齢と利用時間の基準を明確にし、青少年の個人情報収集やターゲティング広告の制限案も盛り込むよう求めた。

ファン小委員長は、こうした意見をKISO政策委員会に諮って検討すると答えた。あわせて、AIであることの明示、自殺など危機的状況への対応、過度依存の防止をサービス設計段階から反映するガイドラインも準備していると説明した。

ファン・ジョンア氏は、規制強化と並行して、スタートアップによる青少年保護技術の開発支援も必要だと指摘した。同氏によると、Scatter Labは議員室の問題提起を受けて有害コンテンツ遮断機能の高度化に着手しており、2026年10〜12月期に青少年向けの利用時間制限などを導入する計画だという。

一方、この日の一般証人として採択されていたキム・ジョンユンScatter Lab代表は、国政監査に出席しなかった。キム代表は、以前から予定されていた米国出張を理由に欠席理由書を提出した。科学技術情報放送通信委員会は、キム代表を含む欠席証人について、告発の是非を与野党協議を経て検討する方針だ。