Kakaoは9月29日、人工知能安全研究所とAI安全性の共同評価および評価体制の構築に向けた業務協約を、28日に締結したと発表した。自社のAIモデルやAIエージェントを対象に安全性検証の枠組みを整備し、将来的には評価ツールの共同開発にも取り組む。
今回の協力では、言語モデルを出発点として、評価対象をマルチモーダル言語モデル、AIエージェントへと段階的に広げる。長期的には、モデルやエージェントの安全性を検証する評価ツールの共同開発も進める方針だ。
役割分担として、Kakaoは評価対象となる自社AIモデルとAIエージェントを提供し、評価の実施やツール開発に必要なインフラを支援する。人工知能安全研究所は、実際の評価と評価手法の高度化を担う。
評価結果については、両者が共同で検討し、外部への公開範囲も協議する。
協力は3段階で進める。まず言語モデルを対象に、公開前後の安全性評価を実施する。次に、対象をマルチモーダル言語モデルとAIエージェントへ拡大し、最終的には継続的に活用できる安全性評価ツールを共同開発する計画だ。
Kakaoは昨年にも、人工知能安全研究所と自社言語モデル「カナナ-1.5-9.8B」を対象に共同の安全性評価を実施している。
Kakaoのキム・セウンAIシナジー成果リーダーは、「今回の協力により、KakaoのAIモデルに対して、より客観的で厳格な安全性検証の枠組みを適用できるようになった」としたうえで、「安全性と信頼を基盤に、AIモデルとサービスの高度化を進めていく」とコメントした。
人工知能安全研究所のキム・ミョンジュ所長は、「AI技術の高度化に伴い、潜在的なリスクを先んじて把握し、評価する体制の重要性は一段と高まっている」と述べ、「Kakaoとの協力を通じて、グローバル標準に合致したAI安全性評価体制を構築していく」と語った。
Ho-jeong Lee
lhj@d-today.co.kr