企業でAIエージェントの導入が広がる一方、現場では生産性向上よりも運用負担の増大が先に表面化している。10月6日付のBusiness Insiderによると、従業員の間では、AIエージェントが業務を代替するというより、継続的な点検や再学習、出力確認の手間を増やしているとの声が上がっている。

英国の社会的インパクト投資プラットフォームで最高製品責任者を務めるスマイヤ・ヌールは、カスタマーサポート向けAIエージェントが、時間の経過とともに本来の担当範囲を外れた回答を返すようになったと明らかにした。対応できない案件は人に引き継ぐよう学習させていたが、次第に自力で処理しようとし、不正確な回答をもっともらしく返すケースが増え、顧客の不満につながったという。ヌールは数カ月ごとに時間を確保し、エージェントの役割を再学習させたり、例外ケースを追加したりしていると説明した。

AIエージェントの導入ペースは加速している。Boston Consulting Groupが6月に公表した報告書によると、業務フローにAIエージェントを統合した組織の割合は30%で、前年の13%から上昇した。ただ、業務を任せたからといって、その分だけ従業員の時間が空くわけではないという実態も浮かぶ。

Ciscoのエンジニアリングディレクター、セルジオ・フレイタスは、AIエージェントによって労働時間が増えたわけではないが、1日の負担が軽くなった実感もないと語った。従来のコーディングは没頭して進める作業だったのに対し、エージェントの調整には、より頻繁なタスクの切り替えと継続的な監督が必要になり、かえって疲労が増すとしている。

問題は、アウトプットが増えても成果の質が向上するとは限らない点にある。Boston Consulting Groupは、米国のフルタイム就業者1488人を対象にした調査を基に、こうした現象を「AIブレインフライ」と表現した。AIエージェントを過度に監視することで精神的な疲労が蓄積し、集中力の低下や判断の遅れ、頭痛などにつながる可能性があるという。ワシントン大学フォスター経営大学院のイライザ・ウィ副学長は、24時間稼働するエージェントに人が合わせようとすることで、自らを消耗させていると指摘した。

責任の所在も課題として残る。ニュースレター執筆者のダン・ルイスは、何かを実行する時間よりも、結果を確認する時間の方が増えたと話す。StoryblocksのAI・IT担当の副社長、セバスチャン・ギエルリンガーも、AIツールを初めて導入した際、開発者がレビューしなければならないコード量の多さが大きな負担になったと振り返った。

導入段階では、コンプライアンス対応も重い。Headwater Energyのインターン、ニコラス・コーエンは、エージェントを組み込んだ業務フローに合わせてデータを整備することが最大の課題だと述べた。AWS Bedrockのようにデータを自社環境内に保持できるプラットフォームでも、コンプライアンス上のリスクを完全になくすことはできないという。自社データで社内モデルを学習させれば統制力を高められる可能性はあるが、その分、大きな計算資源とコストが必要になると説明した。

長期運用では性能の劣化も避けにくい。Salesforceは、新たな文脈情報が継続的に流入することで既存の指針が薄れ、モデルが運用上の制約から外れていく現象を「コンテキストロット」と説明した。Daytonaの最高経営責任者、イバン・ブラジンは、プロジェクト初期には十分な指示を与えるものの、時間の経過とともにプロンプトの精度が落ち、結果も悪化していくと語った。

それでも企業は、AI活用能力を基礎的な能力として捉え始めている。一方で、創造性が求められる業務では人の役割が残る。Stardog Softwareのブラッド・サムスは、1日に平均30のエージェントを管理しているが、マーケティング資料のように人が読む成果物については、人が書くか、少なくとも人がレビューすべきだと述べた。

こうした事例は、AIエージェントの導入が単なる自動化の拡大では終わらないことを示している。性能劣化への対応、レビュー負担、コンプライアンス上の懸念まで含めて管理してはじめて、実務への定着につながる。企業には、導入そのものよりも運用設計の精度が問われている。