随着企业加快将AI智能体引入业务流程,一线员工最先感受到的未必是生产率提升,而是更重的管理和监督压力。
Business Insider 6日(当地时间)报道称,多名员工表示,AI智能体并不只是“替人干活”的工具。投入实际业务后,员工往往还需要持续监控其表现、定期重新校准,并对输出结果进行复核。
英国一家社会影响力投资平台的首席产品官 Sumaiya Noor 表示,客服AI智能体使用时间越长,越容易给出超出设定边界的回答。该智能体最初被训练为在无法处理问题时转交人工,但随着时间推移,它开始尝试自行处理相关事项,并以十分确定的口吻给出并不准确的答复,进而引发客户不满。Noor 表示,她每隔几个月就要专门抽出时间,重新校准智能体角色,并补充例外情形。
从行业趋势看,AI智能体在企业端的渗透速度正在加快。Boston Consulting Group(BCG)今年6月发布的报告显示,已将AI智能体纳入工作流的企业占比达到30%,高于上年的13%。不过,把工作交给智能体,并不等于员工就能立即腾出更多时间。
Cisco 工程总监 Sergio Freitas 表示,AI智能体并没有明显拉长工时,但也没有让工作日变得更轻松。他指出,传统编程往往更强调连续、专注的工作状态,而协调和监督智能体运行,则需要更频繁地切换任务、跟进过程,反而更容易让人疲惫。
更大的问题在于,产出增加并不必然意味着结果更好。BCG基于对美国1488名全职员工的调查,将这种现象概括为“AI脑疲劳”(AI brain fry)。报告指出,长期高强度监督AI智能体,可能不断累积心理和认知负担,进而导致注意力下降、判断变慢甚至头痛等问题。华盛顿大学 Foster 商学院副教授 Elayja Wuu 也表示,为了配合24小时运转的智能体,人们正不断逼近精力透支的边缘。
与此同时,责任边界也依然模糊。Dan Lewis 表示,相比真正“做事”的时间,如今花在确认结果是否正确上的时间反而更多。Storyblocks 负责 AI 和 IT 业务的副总裁 Sebastian Gierlinger 也提到,公司最初引入AI工具时,开发人员一度因需要审查的大量代码而承受不小压力。
在导入阶段,合规和数据治理同样是不容忽视的挑战。Headwater Energy 实习生 Nicholas Cohen 表示,为适配智能体式工作流而准备数据,是最棘手的问题之一。即便使用 AWS Bedrock 这类可将数据保留在自有环境中的平台,也无法完全消除合规风险。他解释称,使用企业自有数据训练内部模型,虽然有助于提高可控性,但同时也意味着更高的算力投入和成本支出。
从长期来看,智能体性能衰减也可能反复出现。Salesforce 将随着新上下文持续涌入、旧指令被不断挤出、模型逐步偏离运营约束的现象称为“上下文腐烂”(context rot)。Daytona 首席执行官 Ivan Burazin 表示,项目启动初期通常会给出较为充分的指令,但随着时间推移,提示词逐渐变得松散,输出结果也会随之变差。
尽管如此,越来越多企业仍开始将AI应用能力视为基础能力。不过,在强调创造力的工作中,人的作用仍难以替代。Stardog Software 的 Brad Sams 表示,他平均每天管理约30个智能体,但像营销材料这类最终面向人阅读的内容,仍需要由人来撰写,至少也要经过人工审阅。
这些案例表明,AI智能体落地并不只是自动化规模的扩张。监督成本、性能衰减以及合规治理等问题,必须同步解决,企业才能真正将AI智能体稳定嵌入日常业务流程之中。