随着AI模型能力不断提升,企业对能够独立完成特定任务的AI智能体兴趣持续升温。不过,在市场热情高涨的同时,关于“AI推动自动化的进展仍然偏慢”的质疑,在硅谷也频频出现。外界对AI自动化的预期,与一线应用的实际进展之间,依然存在明显落差。
近期,业界也出现一种观点:现有大语言模型(LLM)在架构和训练目标上,并不天然适合承担自动化任务。曾在OpenAI从事研究、如今转向开发不同于LLM的新型AI模型的TypeSafe AI首席执行官Diogo Almeida,就是这一观点的代表人物之一。
据The Information报道,Almeida近日在旧金山一场活动中抛出一个尖锐问题:“那些被反复提起的自动化,究竟在哪里?”在他看来,LLM从一开始就不是围绕自动化场景优化出来的。
Almeida表示,当前主流LLM大多通过“基于人类反馈的强化学习”(RLHF)进行训练,其目标更接近于协助人类,而不是在无人干预的情况下独立完成自动化任务。由于RLHF依赖人工评分,模型更擅长生成符合人类偏好的回答,但在需要稳定执行的自动化场景中,能力仍有明显局限。
他此前在另一场活动中也提到,新闻报道中常见的AI成功案例,大多仍属于“人工参与下的辅助型工作”;真正难以取得突破的,是需要AI独立完成的自动化任务。“看上去自动化任务更简单,实际情况却恰恰相反。”
以面向客户的聊天机器人为例,他指出,多数产品目前仍以检索信息、提供指引为主,难以直接执行处置操作。原因在于模型仍可能出错,企业很难放心赋予其实际执行权限。
对于“既要让AI辅助人类、又要让AI承担自动化任务”的双重期待,Almeida也并不乐观。他认为,这两类目标会把模型拉向不同方向,最终导致能力表现不够稳定、不同场景下参差不齐。
在此背景下,TypeSafe AI近期推出名为Jev的新产品,并将其定位为LLM的替代方案。Almeida持续强调LLM在自动化上的局限,也被外界视为是在为Jev更适合自动化场景的定位铺垫。
与通过生成文本完成任务的LLM不同,Jev的核心是“做决策”。开发者可以预先设定“是/否”、评分或分类等选项,模型再根据各选项的概率和置信度给出判断结果。TypeSafe AI称,Jev在速度和成本上也具备优势:响应时间为0.07秒至0.5秒;定价为每100万输入 token 收费0.042美元,输出免费。
根据TypeSafe AI披露的测试数据,Jev最高较Anthropic Claude Sonnet 5快193倍,较Claude Opus 5成本低约444倍。
TypeSafe AI将Jev定义为“System One”模型。这一说法被认为源自诺贝尔经济学奖得主Daniel Kahneman在《Thinking, Fast and Slow》中提出的思维划分:System One更快、更直觉、偏自动化;System Two则更慢、更审慎,通常用于复杂计算和逻辑推理。
The Information还指出,除Almeida外,其他AI行业高管也在推动软件工程团队扩大自动化应用范围,但普遍承认这并非易事。
Anthropic旗下Claude Code产品负责人Cat Wu表示,“很多所谓的自动化,实际上仍停留在半自动状态。”她称,团队正在尝试识别重复性工作,并推动员工进一步追问:为什么这些流程仍然离不开人工介入?
在自动化难度仍然较高的情况下,目前更常见的做法是采用“人工在环”(Human-in-the-loop)模式,即由AI承担更多接近人工的工作,同时保留人工介入,以弥补模型能力边界并降低风险。
不过,也有观点认为,核验AI输出本身带来的额外负担,正在吞噬AI本应带来的生产力提升。
据《纽约时报》近期报道,人力资源管理平台Workday对3200名员工和管理者的调查显示,受访者平均会将AI节省时间中的约37%,用于修正和重写质量不佳的内容。
Google经济学家对600名科学家进行的调查也得出了相近结论:受访科学家平均每周可节省7小时,但其中近90%的人会把节省时间的十分之一用于核验AI结果;另有46%的受访者表示,用于核验的时间占比超过四分之一。
此外,“人工在环”也未必一定带来更好的结果。也有声音认为,相比AI本身,人可能才是更难控制的变量:从概念上看,人机协作很理想;但在现实中,人可能更容易对AI产出妥协,甚至因此变得懈怠。
The Information援引开源开发者、OpenCode 创建者Dax Raad的话称:“如今,工程师往往不会充分检查AI生成的代码,这让我很困扰。”他还表示,自己正在寻找办法,让团队成员提出更高质量的问题,并思考如何强化团队对未经充分审查代码直接上线所应承担的责任意识。