MegaZoneCloudのキム・ハンス氏（AIRユニット常務）は29日、企業向けAIエージェントを業務に定着させるには、技術実装に先立って、任せる業務の範囲や権限、承認フロー、責任の所在を明確にする必要があると述べた。性能向上に合わせて自律性を広げるのではなく、業務ごとに統制可能な形で設計する「制御可能な自律性」が重要だという。

同氏は、デジタルトゥデイがソウル市江南区のCOEXで開いた「エージェンティックAI グローバルトレンドと成功戦略」カンファレンスで講演し、「新入社員に初日から法人カードや社内システムの全権限を与えないのと同じように、AIエージェントにも業務範囲と責任基準を定めたうえでオンボーディングすべきだ」と語った。

導入現場では、技術そのものよりも、どの業務を任せるのか、どこで生産性や投資対効果（ROI）を確保するのかといった業務定義と運用体制の設計が大きな課題になっているという。これを事前に固めないまま進めると、構築が長期化しやすいと指摘した。

AIエージェントの「完了基準」をあらかじめ定めることも欠かせないとした。例えば資材納品で問題が発生した場合、代替品リストの検索までを役割とするのか、供給元の在庫や価格を確認し、代替調達につなげるところまで担わせるのかを明確にすべきだという。

同氏は「エージェントを作る際に最も重要なのは、業務成果と完了基準を決めることだ」と強調した。どの程度業務成果に寄与するのか、何をもって測定するのかは、現場で整理しておく必要があるとした。

一方で、あらゆる業務を生成AIベースのエージェントに置き換える発想には警鐘を鳴らした。顧客が候補として挙げた業務を分析すると、既存システムや自動化ツールで対応できるものや、人の介在が多すぎるものが除外され、結果として対象課題が絞り込まれるケースが少なくないという。

「生成AIでエージェントを作るべきだと考えて着手しても、実際にはそうでない場合がある」とし、既存システムで十分に処理できる業務にまで、トークンコストを投じて適用する必要はないとの見方を示した。

AI導入の拡大に伴い、データ整備の重要性も一段と高まっていると述べた。

同氏によると、MegaZoneCloudのAIR組織は約200人規模。生成AIの拡大後は一時、全体の約80％が生成AI関連ビジネスに投入されたが、今年に入ってからはデータ関連業務に戻る人員も出ているという。

背景には、AIサービスを構築しても、実務適用の段階でAIに供給するデータが整理されていない、業務文脈がつながらないといった課題が表面化したことがある。AIサービスを維持しながら、あらためてデータ整備を進める顧客もあるとしている。

企業データへのアクセス権限は細かく分けるべきだとも指摘した。特に、データを参照する権限と、システム状態を変更したり業務を実行したりする権限は、必ず分離しなければならないと強調した。

同氏は「参照権限と実行権限は分ける必要がある。読むことと書くことは別だ」と述べた。APIでもモデルコンテキストプロトコル（MCP）でも、単一の権限に束ねて運用すれば、事故につながるおそれがあるという。

業務リスクに応じて承認レベルを変える必要もあるとした。参照や推奨は比較的低い権限で扱える一方、データベース（DB）の変更や実取引、業務状態の確定には、別の実行権限と人による承認プロセスが必要だと説明した。

また、外部文書や社内ナレッジの文章を、AIエージェントが実行指示として誤認するケースもあるという。文書情報と実行命令は明確に区別し、完了応答を返した後も、バックエンドで実際の処理が完了しているか再検証すべきだと述べた。

運用体制は構築段階から設計すべきだとして、「AgentOps」の観点も提示した。適用業務やKPIに加え、モデル、データ、ナレッジ、ツール、権限、運用責任者までを開発初期に定め、継続的に管理する必要があるという。

さらに、情報不足や権限エラー、応答停止で処理が中断した場合には、再実行時に同一業務が重複処理されないようにする仕組みが必要だとした。複数のエージェントを連携させる場合は、モデルやツールの費用が膨らみやすく、人による検証コストや実行環境のコストも含めて経済性を見極めるべきだと語った。

採算性が見えないエージェント案件については、保留や中断を判断できる体制も必要だと指摘した。業務、現場、技術、データ、コストの担当者を当初から明確にし、業務仮説や完了範囲、アクセス権限などが整ってから開発に入るべきだという。

持続可能なエージェンティックAIの実現に向け、同氏は企業がまず「何をさせるのか」「何をもって完了とするのか」「何を成功と評価するのか」の3点を問うべきだと整理した。

そのうえで、「どこまでをエージェントに任せ、どこからを人が担うのか、誰が責任を持ち、誰が承認するのかも決める必要がある」と述べ、成果や品質改善をどう測定するかも併せて確認すべきだと締めくくった。