一项最新调查显示，企业为降低AI代理输出错误信息的风险，陆续引入治理层等上下文管理机制，但相关错误指标并未改善，反而有所上升。
据VentureBeat报道，在过去6个月里，68%的企业表示，AI代理曾给出“看似自信、实则错误”的回答。追溯原因后发现，这类问题多与企业相关信息缺失或信息本身不准确有关。
这一比例较6月调查时的57%明显上升。另有37%的受访企业表示，同类错误回答至少重复出现过两次，高于6月的31%。这项调查由VentureBeat旗下VB Pulse于7月开展，调查对象为101家员工超过100人的企业。
与此同时，已将治理层投入运营的企业占比也从25%升至32%。这意味着，随着治理层采用率上升，错误回答的出现比例也在同步走高。
从AI代理获取上下文的技术路径来看，采用RAG（检索增强生成）的企业占比最高，达到31%。
采用“长上下文”方案的企业占13%。这类做法通常是将整份文档直接纳入模型的上下文窗口。另有5%的企业不做额外结构化处理，仅依赖模型的通用知识。Redis AI研究负责人Srijes Raja Mohan表示：“对于‘罗马比巴黎更近’和‘巴黎比罗马更近’这两句话，仅靠嵌入检索是无法区分的。”
在已运营或正在建设治理层的企业中，错误回答重复出现的比例达到50%，反而高于尚未部署治理层企业的21%。
从企业规模看，员工超过1000人的大型企业中，错误回答重复出现的比例为55%，高于员工规模在101至1000人之间企业的30%。Constellation Research分析师Michael Ni表示，谁能掌控AI在运行时调用的上下文，谁就能掌握企业数据的AI决策层。
记者信息
Chi-gyu Hwang
delight@d-today.co.kr