AIの振興と規制を包括的に定める「AI基本法」が1月22日に施行された。AIの産業育成と安全確保を一体で扱う包括法の施行は世界初となる。政府は信頼基盤の整備を通じて長期的な産業育成を進める構えだが、業界では高影響AIやAI生成物の表示義務など、サービス運営や製品設計に直結する条項への警戒感が強い。

◆産業育成を前面に、政府は制度基盤を整備

AI基本法は、AIの健全な活用を後押しするとともに、悪用の防止を柱とする。法文ではAI倫理、検査・認証、透明性・安全性の確保、高影響AIなどを定めた。

施行令では、安全・信頼に関する具体的な対象範囲や履行方法を明確化した。科学技術情報通信部は「必要最小限の規制原則の下、AI事業者の義務と制裁は最小限に抑えつつ、AI産業の振興策は幅広く盛り込んだ」と説明している。

施行に合わせ、大統領を委員長とする国家AI戦略委員会は、従来の諮問機関から法定委員会に格上げされた。AI政策全般を調整・審議する司令塔としての役割を担う。

法的根拠が整備されたことで、国家AI戦略を一貫して推進する土台が整ったとの見方も出ている。

AI基本法は、AI関連政策・制度の基本法としての位置付けを明確にした点も特徴だ。AI技術・産業に関し、他法に特別の定めがある場合を除き、AIに関する事項は同法に基づいて扱う。

産業振興策としては、AI研究開発（R&D）、学習用データの整備、AI導入・活用支援、創業支援、AI融合の促進、専門人材の確保、AIデータセンター整備支援などを盛り込み、具体的な内容は施行令で補った。

◆高影響AIと表示義務、業界は負担を警戒

業界がAI基本法で最も影響が大きいとみるのは、高影響AIに関する規定とAI生成物の表示義務だ。

高影響AIは、エネルギー、医療、採用、交通、教育など、国民の生命や権利に大きな影響を及ぼし得る分野で使われるAIを指す。こうしたAIを利用する事業者には、人による管理体制の整備や安全確保措置の実施が求められる。

産業界では、規制対象となるAIの範囲が明確でなければ事前のリスク算定が難しいとして、負担感を示す声が出ている。政府は現時点で、完全自動運転に当たるレベル4以上の車両などを対象として想定している。

もっとも、AI技術の進展は速く、業界では高影響AIの適用範囲が今後急速に広がる可能性を見込んでいる。

懸念材料となっているのが、AI生成物の表示義務だ。AI基本法では、高影響AIまたは生成AIを用いた製品・サービスを提供する事業者に対し、AIに基づいて運用されることを利用者に事前に知らせる義務を課した。生成AIで作成した成果物についても表示が必要となる。

AI生成物がサービス内でのみ提供される場合は、UIやロゴの表示など、比較的柔軟な対応が可能とされる。一方、生成物が外部に持ち出される場合は、より明確な表示が求められる。

AIで生成したテキスト、画像、動画などをダウンロードまたは共有する場合は、「人が認識できる方法（可視・可聴のウォーターマークなど）」で表示するか、文言や音声による案内を行ったうえで、「機械が判読できる方法（メタデータなど）」を生成物に適用しなければならない。事実との判別が難しいディープフェイク動画には、人の目で識別できる表示が必要になる。

科学技術情報通信部は「AI生成物へのウォーターマークの適用は、ディープフェイクの悪用などの副作用を防ぐための最小限の安全装置だ」と説明する。一方、業界では表示内容や実装方法によってコストやユーザー体験が左右されるとして、懸念は解消していない。

AI基本法は安全確保義務も定めた。対象となるのは、学習に用いた累積演算量が10の26乗FLOPs以上であること、最先端技術が適用されていること、リスクが人の基本権に広範かつ重大な影響を及ぼすおそれがあることなど、定められた要件をすべて満たす場合だ。

◆「1年以上の猶予」でも不透明感残る

政府は、AI基本法が国内AI産業の成長余地を損なうとの懸念が続いていたことを受け、一定の猶予措置を打ち出した。規制導入による急激な影響を和らげ、市場の適応を促す狙いがある。

AI基本法に違反した場合は最大3000万ウォンの過料を科すことができるが、政府はこれを少なくとも1年以上猶予する方針だ。事実調査についても、人命事故や人権侵害など重大な社会問題を招く極めて例外的なケースに限って実施するとした。

それでも、業界の不安は払拭されていない。発展途上にあるAI産業を制度に落とし込む過程で、法令の各所に不確実性が残り得るとの懸念があるためだ。

業界では、施行後に実例が積み上がるほど現場の混乱が表面化する可能性が高いとみる。AI業界関係者は「誰がどのケースで規制対象になるのか、なお混乱が大きい。法令の内容を継続的に確認していかなければならない」と話した。

科学技術情報通信部は、現場の混乱を抑えるため「AI基本法支援デスク」を運営する方針だ。支援デスクは下位法令の策定に参加した専門家で構成し、AI基本法の検討・分析を踏まえて企業に詳細なコンサルティングを提供する。相談内容は秘密として管理し、匿名での相談にも対応する。