Kakaoは13日、利用者の記憶の活用範囲とAIエージェントの実行権限を分離する個人化・安全設計の方向性を公表した。同意を得た範囲で必要な文脈情報を提供し、実行は利用者が委任した条件の範囲内に限定するのが柱だ。

同日、京畿道竜仁市のKakao AIキャンパスで開いた「if(kakao)26」では、個人化基盤技術「Project Mosaic」、エージェントの安全検証、自社AIモデルの運用戦略を紹介した。

Kakaoのソン・ジェハ最高技術責任者（CTO）は「記憶は判断の根拠にはなり得るが、行動の権限そのものではない」と説明した。利用者の嗜好を理解することと、注文や予約などを実行する権限を持つことは分けて扱うべきだという。

◆同意したサービスにのみ記憶を提供

Project Mosaicは、KakaoTalk、Kanana Space、Canvasのほか、複数のエージェント間で必要な文脈を継続的に活用するための技術だ。サービスやエージェントが切り替わるたびに、利用者が過去に選んだ商品や進行中の作業を最初から説明し直す負担を減らすことを狙う。

Kakaoはまず、自社が保有するデータについて、収集目的と同意範囲を確認した上で、連携・活用の基準を定めるとしている。サービス内で生じた情報を記憶として整理し、同意を得た情報だけを、利用を求めたサービスやエージェントに提供する仕組みだ。

この過程では、観測した事実と解釈を分けて扱い、出所と時点もあわせて記録する。ソンCTOは、甥への贈り物として子ども靴を購入したケースを例に挙げた。購買履歴だけで利用者の嗜好を断定すると、その後も子ども靴を繰り返し勧める誤りが起こり得るという。配送状況や嗜好のように、時間の経過で変化し得る情報についても、現時点で有効かどうかを確認する必要があるとした。

ソンCTOは「私を記憶するAIであれば、私自身が変わり得る存在だということも記憶しなければならない」と述べた。

記憶の提供範囲は、サービスごとの同意に基づいて制限する。Aサービスでの活用にのみ同意した記憶はAサービスにのみ提供し、同じ利用者の情報であっても、Bサービスへの活用について同意がなければ提供しない。

利用者が元データや活用範囲に関する同意を撤回した場合、次回以降の要求に対しては当該範囲の記憶を提供しない。ただし、別サービスが既に受け取り保管している記憶まで自動的に回収する仕組みではない。

ソンCTOは、その後の提供を止めることと、既に渡した記憶の活用を統制することは別の問題だと説明した。提供済みの記憶の利用においても利用者の選択を守ることは、サービス側と記憶提供プラットフォーム側が共に解決すべき課題だとした。

◆委任範囲外の実行は確認、ツール呼び出しまで検証

Kakaoは、記憶を活用できることを理由に、エージェントの実行権限まで拡大すべきではないとの原則も示した。どの商品を、いくらまで購入する権限を委任したのかを明確にし、別のエージェントに作業を引き継いだ場合でも、その範囲を維持すべきだとしている。

例えば注文の途中で在庫切れになり、別商品への変更が必要になった場合でも、利用者が委任した範囲を超えるなら、そのまま実行せず確認を求める。

ソンCTOは「委任範囲内であれば進め、範囲を外れる場合は確認する。この判断をモデル任せにはできない」と述べた。

安全性の検証は、最終的な回答だけにとどめない。在庫切れや価格変更などの状況をテスト環境で再現し、エージェントがどの判断でどのツールを呼び出したのか、実行過程まで確認する方針だ。表向きには「注文していない」と回答していても、その前に注文APIを呼び出していれば、外部で処理が進んでいた可能性があるためだ。

利用者の要求、記憶、現在の情報の中に意図と異なる指示が混在していないかを確認し、それに基づいて作成した行動計画も実行前に再点検する。サービスの段階でも、アカウント権限と今回の作業に付与された権限範囲を確認すべきだとした。

ソンCTOは「危険な実行を防げたかどうかと、正当な要求を適切に処理できたかどうかをあわせて評価しなければならない」と強調した。すべての要求を拒否してリスクを下げるのではなく、許容された作業は実行しつつ、範囲外の実行を遮断できているかを検証する考えだ。

◆オンデバイス優先処理とモデル分担で大規模展開に対応

Kakaoは、個人化エージェントを大規模な利用者基盤に提供するためのモデル運用戦略も公開した。利用者の文脈を理解し、多段階の作業をこなす必要があるため、応答品質に加えて、速度とコスト効率の確保が欠かせないとしている。

スマートフォン上で処理できる要求は、サーバーに送る前にオンデバイスモデルで優先的に実行する。応答時間を短縮するとともに、機微情報が外部に渡る範囲を抑える狙いがある。最新情報の参照や複雑な推論、外部サービスとの連携が必要な作業にはサーバー側のモデルを使う。

「AIコンダクター」は、利用者の目標を段階ごとの作業に分解し、適切なモデルやツール、実行順序を選ぶ。要求の難易度に応じてモデルを割り当てることで、不必要な大規模モデルの呼び出しや推論コストを抑える役割を担う。

ノ・ビョンソク基盤モデル統括成果リーダーは「すべての要求に対して最善の結果を目指すが、すべての要求で最大規模のモデルを使うわけではない」と述べた。