Kakaoは10月15日、自律型AIエージェントの拡大を受け、新たなAI倫理原則「SPIRIT」と、その運用フレームワーク「NORMA」、関連チェックリストを公表した。サービスの企画段階から運用まで一貫して適用し、年内に実サービスへ導入する予定だ。

同社は、13日に京畿道竜仁市のKakao AIキャンパスで開催した開発者カンファレンス「if(kakao)26」で、これらの内容を公開した。

「SPIRIT」は、「安全」「プライバシー」「包摂」「責任」「利用者の主体性」「透明性と信頼性」の6項目で構成される。Kakaoは、韓国の「人工知能倫理原則」が掲げる3つの価値と7つの原則を主要な判断基準とし、自社のサービス環境に合わせて具体化したとしている。

倫理原則を実際のサービスに適用するための運用フレームワークが「NORMA」だ。組織全体で責任を担うことを前提に、複雑化する倫理課題を管理・実行できるよう、対応プロセスを段階ごとに整理した。

今回の原則とガイドは、7月に発足したAI・技術倫理小委員会が、7人の外部諮問団とともに今月上旬に策定した。外部諮問団は国内外の規範との整合性を検討したうえで、社内ではAIセーフティ、個人情報保護、情報セキュリティ、サービス関連部門が実務面から検証したという。

Kakaoは、自律型エージェントで生じ得るリスクを、「コントロール権限」「目標」「権限」「参照リソース」「相互作用」の5領域に分けて管理する。各領域に対し、人による監督や緊急停止、権限制御、データ保護など必要な統制手段を対応付ける。

これを基に作成した「AI倫理履行チェックリスト」は、「サービス特性の把握」「事前リスクスクリーニング」「統制項目の点検・判定」の3段階で運用する。新たなチェックリストは年内に実サービスへ適用する予定だ。

児童・青少年向けAIサービスの点検も強化する。Kakaoは、2025年から適用してきた「デジタル児童・青少年保護チェックリスト」に加え、経済協力開発機構（OECD）とユニセフによる児童オンラインリスク分類体系「5Cs」を参考にしたAI特有のリスク要素を、新チェックリストに反映する方針だ。

Kakaoは2018年に「アルゴリズム倫理憲章」を公表して以降、AI倫理体制の整備を進めてきた。2022年にはKakaoと主要系列会社が参加するAI・技術倫理小委員会を設立し、グループ共通の「責任あるAIのためのガイドライン」や利用者主体性の原則、「安全なAIのための中核チェックリスト」などを導入している。

キム・セウン氏（Kakao AI・技術倫理小委員会委員長）は、「外部諮問団と社内組織の視点を反映し、AIサービスのライフサイクル全体で機能するリスク検討体制を整えた」と説明した。そのうえで、「AIの自律性が高まるほど、人の判断と責任をより明確にし、利用者が安心して使えるAIサービスを提供していく」と述べた。