CrowdWorks于3日宣布,公司已中标韩国科学技术信息通信部与韩国智能信息社会振兴院(NIA)推进的“AI智能体安全与可信验证体系支持”项目。
该项目旨在建立一套验证体系,用于评估AI智能体在制定计划、调用外部工具及执行任务过程中的安全性与可靠性。
在该联合体中,CrowdWorks将负责多步推理场景设计,以及韩国本土验证数据集建设。项目不仅关注最终答案的准确性,也将对智能体生成答案和执行任务过程本身的合理性进行验证。
根据规划,联合体将设计按难度分级的场景,要求智能体按顺序或并行调用多种基于模型上下文协议(MCP)的工具及外部API,方可完成任务。同时,项目还将建设7000条以上验证数据,覆盖韩国本土服务环境,并体现动态变化的数据特征。
该项目由SureSoftTech牵头,参与方包括CrowdWorks、韩国科学技术院(KAIST)以及韩国人工智能产业协会。联合体计划于今年年底前完成AI智能体验证体系建设。
CrowdWorks方面表示,围绕AI智能体执行过程的安全可信验证正变得愈发重要,公司将发挥在数据建设与评估方面的能力,为构建适配韩国本土环境的验证体系提供支持。
记者信息