Cohere发布面向大型组织的企业级AI代理平台North 2,进一步强化AI代理在企业内部的任务执行、成本管理和安全控制能力。
据SiliconANGLE 5日(当地时间)报道,此次升级的重点在于提升多步骤任务编排能力,并加强对Token用量限额的管理。
Cohere表示,企业在部署AI代理时,往往需要在安全性、功能完整性和成本控制之间权衡。North 2吸收了公司在金融、公共部门等领域的大规模落地经验,针对企业级应用场景进行了优化。
在功能层面,North 2可自主完成多步骤任务,仅在需要人工审批的环节引入人工介入。通过简单提示词创建的代理,也可以在企业内部共享,从而减少重复搭建相同工作流的情况。各代理具备跨会话记忆能力,常用逻辑可通过“技能”功能打包复用,通用文档和资产则可存放在共享库中供多个代理调用。
用户还可以通过自然语言指令生成演示文稿、仪表盘和轻量应用,并直接在聊天窗口中持续迭代原型。
North 2中的Builder提供面向重复性工作的预置模板,以及拖拽式工作流构建器,并支持实时查看运行表现。连接器目前已支持Slack、GitHub、Microsoft SharePoint和OneDrive。Cohere表示,后续还将增加对PitchBook数据、S&P Global和FactSet Research Systems的连接器支持。
在管理能力方面,North Admin管理控制台提供成本控制功能。管理员可以按用户和代理两个维度追踪Token用量,并根据请求量和Token消耗速度,为不同用户或群组设置相应额度;同时也可设置全公司的总体使用上限,并在接近上限时发出预警通知。North 2本身不绑定特定模型,客户也可以按团队分配使用由Cohere之外引入的模型。
安全控制同样通过North Admin统一配置。管理员可为单个代理设置护栏,并检测提示词和响应中的个人可识别信息,以及提示词注入攻击尝试。平台还可通过策略限制各代理仅执行获授权的任务。部署方面,North 2支持本地部署,也支持部署在客户的虚拟私有云(VPC)中,并可安装在完全无外部连接的隔离环境内。
Cohere还强调,与NVIDIA的合作有助于进一步降低运行成本。该公司称,其模型在NVIDIA Blackwell和Hopper GPU上可实现更高的每节点每秒Token生成能力。