韓国で、未成年による生成AIサービスの利用時間を制限できる、いわゆる「AIシャットダウン」機能の導入を柱とする法案が国会に提出される見通しとなった。未成年本人または保護者の要請があった場合、事業者に対し、利用時間や利用可能な時間帯を制限できる機能の提供を義務付ける内容だ。

10月1日、国会の科学技術情報放送通信委員会に所属するイ・ジュヒ議員（共に民主党）事務所によると、同議員は「情報通信網利用促進および情報保護等に関する法律」（情報通信網法）の改正案を、早ければ今週中にも代表発議する予定だ。

改正案は、生成AIを基盤とする対話型情報通信サービス事業者に対し、19歳未満の未成年の過度な利用を防ぐための保護措置を義務付けることを骨子とする。

事業者にはまず、利用者の年齢確認と本人確認を行うことを求める。あわせて、過度な利用に関する注意事項の案内や、利用時間の履歴表示も義務付ける。

とりわけ、未成年本人または法定代理人が要請した場合、事業者はサービスの利用方法や利用時間、利用可能な時間帯を制限できる機能を提供しなければならない。

これは、特定時間帯に未成年の接続を一律に遮断していた、かつてのゲーム向けシャットダウン制度とは異なる。利用者本人または法定代理人の要請に応じて制限機能を設定する方式を想定している。具体的な保護措置の方法や手続き、未成年本人および法定代理人の確認方法などは大統領令で定める。

こうした措置を履行しない事業者には、3000万ウォン以下の過料を科す。法案が国会を通過した場合、公布から6カ月後に施行される。

適用対象は、「人工知能の発展と信頼基盤の造成等に関する基本法」（AI基本法）が定義する、生成AIを基盤とした対話型情報通信サービスだ。ChatGPT、Gemini、Claudeなどの汎用AIチャットボットに加え、ZetaやCrackといった生成AIベースのキャラクターチャットサービスも対象に含まれる可能性がある。

現行の情報通信網法では、満14歳未満の児童に対話型情報通信サービスを提供する場合、事業者が不適切な情報を提供しないよう努めることを定めている。今回の改正案は、保護対象を19歳未満の未成年に広げたうえで、生成AIの過度な利用を防ぐための具体的な義務まで課す点が大きな違いとなる。

青少年による生成AIの利用が急速に広がるなか、保護機能の強化を求める議論も続いている。チョロクウサンが3月、全国の満14歳以上の児童・青少年3300人を対象に実施した調査では、94.4％が生成AIチャットボットの利用経験があると答えた。危険、違法、暴力、性的内容などについてチャットボットに尋ねたことがある回答者のうち、半数超が実際に関連する回答を受け取ったとしている。

AI事業者側も青少年保護機能の拡充を進めている。OpenAIは、青少年利用者向けに別途の保護体制を設け、保護者が青少年アカウントと連携して、特定時間帯のChatGPT利用を制限できる機能などを提供している。

イ・ジュヒ議員は法案の提案理由について、「生成AIを基盤とする対話型サービスの拡大に伴い、未成年の長時間利用や深夜利用、過度な没入が問題として指摘されている。利用時間などを自ら管理できる手段を提供し、未成年が健全に情報通信サービスを利用できる環境を整える狙いがある」と説明した。