韓国科学技術情報通信部は21日、「人工知能の発展と信頼基盤の造成等に関する基本法」（AI基本法）を22日に施行すると発表した。AI生成物の表示を事業者に義務付けるほか、高影響AIや安全性・透明性確保に関する枠組みを整備する。事実調査は人命事故や人権侵害など重大事案に限って実施し、過料適用などは最短1年間猶予する。

同部によると、類似の制度としては欧州連合（EU）の「AI Act」があるが、施行は2027年を予定している。このため韓国が、AI基本法を実際に施行する初の国になるとしている。

同部は、今回の制度設計について、AI産業の振興を軸に規制は必要最小限に抑え、事業者の義務や制裁も最小化したと説明した。AI産業の成長に必要な内容を幅広く盛り込んだ点が特徴だとしている。

◆AI生成物の表示を義務化

施行令では、事業者が多様な方法でAI生成物であることを利用者に示せるようにした。AI生成物がサービス内でのみ提供される場合と、外部に出力・共有される場合を分け、それぞれに応じた表示方法を認める。

サービス内で完結する場合は、UIやロゴなどを使った柔軟な表示が可能だ。例えば、チャットボットなどの対話型サービスでは、利用開始前の案内や画面上のロゴ表示を認める。ゲームやメタバースでは、ログイン時の案内やキャラクターへの表示などの方法を想定している。

一方、AI生成物を外部に出力・共有する場合は、より明確な表示が求められる。AIが生成したテキストや画像、映像をダウンロード・共有する際は、利用者が視認または聴取できる形のウォーターマークなどで表示するか、文言や音声による案内を行ったうえで、メタデータなど機械判読型の手法を適用するよう定めた。

このうち、社会的な副作用が懸念されるディープフェイク生成物については、利用者の年齢なども考慮し、明確に認識できる方法での表示を求める。ディープフェイクに当たらないアニメーションやウェブトゥーンなどのAI生成物については、可視表示に加え、不可視のデジタルウォーターマークも認める。

◆高影響AIの対象分野を明確化

AI基本法では、高影響AIの枠組みも設けた。対象は、法令で定める10分野で活用されるケースに限る。具体的には、エネルギー、飲料水、医療、原子力、犯罪捜査、採用、融資審査、交通、公共サービス、教育で、生命・安全・基本権に直結する領域を想定する。

高影響AIの判断基準と、事業者が負う責務の内容は施行令で具体化した。AIが法定分野で使われているかに加え、リスクの重大性などを総合的に踏まえて判断する。人が最終判断に関与して統制可能な場合は、高影響AIの対象から除外する。

安全性確保義務も定めた。高度に発展したAIが制御不能となる事態を想定し、大きな被害の発生を防ぐのが狙いだ。対象となるのは、学習に用いた累積演算量が10の26乗FLOPs以上であること、最先端技術を適用していること、人の基本権に広範かつ重大な影響を及ぼすおそれがあることなど、定められた要件をすべて満たす場合としている。

透明性確保義務については、AI製品・サービスを直接提供する事業者に課すと明確化した。国内利用者向けにAI製品・サービスを提供する海外事業者も対象に含む。一方、提供されたAI製品・サービスやAI生成物を利用する利用者は、義務の対象外とした。

◆事実調査は重大事案に限定、規制は最短1年猶予

同部は、企業の混乱を抑え、現場の準備期間を確保するため、最短1年の規制猶予期間を設ける。この間は、事実調査や過料適用に関する指導期間として運用する。事実調査は、人命事故や人権侵害など重大な社会問題が発生した場合に限り、極めて例外的に実施するとした。

透明性確保義務や安全性確保義務、高影響AIの判断基準、事業者責務の履行方法などは、同日公表した透明性ガイドラインで確認できる。同部は、規制猶予期間中に不確実性を減らせるよう、ガイドラインを継続的に補完する方針だ。

また、企業の対応を支援するため、下位法令の策定に参加した専門家で構成する支援デスクを設置する。企業向けの相談窓口として、詳細なコンサルティングを提供する。営業秘密の流出を防ぐため、相談内容は秘密として管理し、匿名での相談にも対応する。

AI基本法の施行に伴い、国家AI戦略委員会は、これまでの大統領令に基づく組織から、法律に根拠を持つ法定委員会へ移行する。AI基本法では、同委員会の法的根拠に加え、分科委員会や支援団、AI責任官の設置根拠も整備した。

産業振興策としては、AIの研究開発、学習用データの構築、AI導入・活用支援、創業支援、AI融合の促進、専門人材の確保、AIデータセンター構築支援などについて、法律上の支援項目や手続きを施行令で具体化した。

科学技術情報通信部の人工知能政策室長は、「前例のない分野であるだけに、国際的な議論で共有される最低限の基準に沿って、最小限の規範を整えたい」と述べた。そのうえで、「AI基本法は規制強化が目的ではなく、今後グローバル市場に進むうえで基準を合わせるための出発点だ」と話した。