企業がAIエージェントの誤答対策としてコンテキストレイヤーの導入を進める一方で、誤答を報告する企業の比率はむしろ上昇していることが分かった。

VentureBeatが報じたところによると、直近では企業の68%が、AIエージェントがもっともらしく提示した回答に誤りがあり、その原因が社内情報の欠落や誤りにあったと回答した。

これは6月調査の57%から上昇した数字だ。誤答が2回以上繰り返されたとする回答も37%に達し、6月の31%を上回った。調査はVentureBeatが運営するVB Pulseが7月、従業員100人超の企業101社を対象に実施した。

一方、コンテキストレイヤーを実際に運用している企業の比率も、同期間に25%から32%へ上昇した。導入が広がる一方で、誤答の報告も増えた構図だ。

企業がAIエージェントにコンテキストを与える手法では、RAG（検索拡張生成）が31%で最も多かった。

文書をそのままモデルのコンテキストウィンドウに与えるロングコンテキスト方式は13%、追加の構造化を行わずモデルの一般知識だけに依存する企業は5%だった。RedisのAIリサーチリード、スリジス・ラジャモハン氏は、「『ローマがパリより近い』と『パリがローマより近い』という2つの文は、埋め込み検索だけでは区別できない」と指摘した。

コンテキストレイヤーをすでに運用している、あるいは構築中の企業では、誤答が繰り返される比率が50%に達し、レイヤーを持たない企業の21%を大きく上回った。

従業員1000人超の大企業では、誤答の再発比率が55%と、従業員101〜1000人規模の企業の30%より高かった。Constellation Researchのアナリスト、マイケル・ニー氏は、「AIが参照するランタイムコンテキストを握る側が、企業データに基づくAIの意思決定レイヤーでも主導権を持つことになる」と述べた。