1月に施行された韓国AI基本法を巡り、AI事業者の義務を実際の役割や管理範囲に応じて細かく整理すべきだとの議論が強まっている。現行法では、モデル開発企業とサービス運営企業の責任分担が十分に明確でないとの指摘が出ている。

業界や法曹界によると、AI基本法は適用対象を「AI事業者」と定め、これをAIを開発・提供する「AI開発事業者」と、開発事業者が提供したAIを活用して製品やサービスを提供する「AI利用事業者」に分けている。

自社の大規模言語モデル（LLM）を開発し外部に提供する企業は、AI開発事業者に当たる。一方、外部企業のLLMやAPIを使って相談チャットボット、検索、教育、医療などのサービスを構築し顧客に提供する企業は、AI利用事業者に分類される。

これに対し、ChatGPTなどのAIサービスの出力を社内業務で使ったり、AIでコンテンツを制作したりするにとどまる企業や個人は、原則として一般利用者に当たる。

もっとも、実際のAI産業の供給構造は、この2区分だけでは捉えきれないとの見方が強い。例えば、サービス運営企業が外部LLMをAPI経由で導入し、システムインテグレーター（SI）とともにAIサービスを構築する場合、モデル開発企業、API提供企業、クラウド事業者、構築企業、サービス運営企業が単一のサービスに関与することになる。

クラウドやプラットフォーム事業者がモデルを追加調整したり、安全対策を講じたりするケースもある。サービス運営企業も、自社データや業務ルールを組み込み、AIにどこまで権限を与えるかを決めている。

AI業界関係者は「サービスの不具合がモデル自体の限界によるものなのか、API連携やシステム構築の過程で生じたものなのか、あるいは運営企業の権限設定の問題なのかによって、責任主体は変わり得る」と指摘する。その上で「現行法が実際のサプライチェーン構造を十分に反映しているのか疑問だ」と語った。

◆生成AI表示義務、開発側と運営側の分担が焦点

こうした問題が表れやすい代表例として挙がるのが、AI生成物の表示義務だ。

AI基本法第31条は、生成AIまたはそれを活用した製品・サービスを提供するAI事業者に対し、結果物が生成AIによって作成されたことを表示するよう求めている。施行令とガイドラインでは、人が判別できる文言やロゴに加え、メタデータなどの機械判読可能な方式も認めている。

ただ、モデル開発企業と、そのモデルを用いてアプリやプラットフォームを運営するサービス企業はいずれもAI事業者に含まれる。このため、どの主体がどの表示を実装すべきかが明確ではない。

モデル開発企業は、最終的なサービス画面の構成やユーザー接点を管理しにくい。逆にサービス運営企業は、モデル出力に国際技術標準と互換性のあるメタデータを直接埋め込む権限や技術的手段を持たない。

イ・ソンヨプ高麗大学技術経営専門大学院教授は、AI生成物の表示制度について「開発事業者、利用事業者だけでなく、YouTubeのような流通プラットフォームの役割も合わせて検討する必要がある」と述べた。その上で「配布者の概念を導入する方式などが解決策になり得る」と指摘した。

◆法曹界でも見解分かれる、類型追加か機能別分離か

AI事業者の枠組み見直しを巡っては、法曹界でも意見が分かれている。ファウンデーションモデルの提供者を別個の規律対象として明記すべきだとの主張がある一方、現行の開発・利用事業者という枠組みは維持しつつ、個別義務を機能ごとに分けるべきだとの見方もある。

ケ・イングク高麗大学行政専門大学院教授は、現行法に「AIモデル」の概念を新設し、モデル提供者を直接規律すべきだと主張する。AIシステムを中心に事業者を区分する現行体系では、ファウンデーションモデルをAPI形式で提供する事業者が義務の対象外となり、それを使って応用サービスを構築する事業者に規制が偏る可能性があるためだ。

同教授は「現行体系では応用システムの構築者と提供者だけが義務を負い、土台となるモデル提供者が法的義務の外に置かれかねない」と指摘。「規制の空白や不合理な規制転嫁を防ぐには、法律にAIモデルの概念を新設することが急務だ」と述べた。

一方で、事業者類型を増やすよりも、各主体が実際に担う機能と管理範囲を基準に法的地位を判断すべきだとの意見もある。同じ企業でも、モデル開発と応用サービス提供を同時に手がければ、開発事業者と利用事業者の両方の地位を持ち得るほか、システムへの変更の程度によって負う義務も変わるという考え方だ。

現行の2区分を維持したまま、個別義務を技術段階とサービス段階に分ける案も出ている。開発側はモデル内部の安全対策や技術的表示を担い、サービス側は利用者への告知や運用上の管理義務を負うという整理だ。

アン・チョルス国民の力議員が最近発議したAI基本法改正案も、こうした考え方に沿う。改正案では、開発事業者に生成物への機械判読表示の適用を求め、利用事業者には最終利用者が認識できる形での告知を義務付ける。

アン議員は「AIモデルを開発する企業にアプリ画面での表示まで責任を負わせ、アプリ提供企業にモデル内部の技術標準の実装まで求めれば、単一の表示義務を双方に重複して負担させることになる」と述べた。その上で「今回の改正案によって、企業は不要な重複開発コストと法的不確実性を減らすことができ、利用者もAI生成物であることをより明確に確認できるようになる」と強調した。