韩国科学技术信息通信部2日表示,国产AI芯片性能评测标准“K-Perf”将首次用于实际应用单位的NPU选型验证,韩国电力将率先在电力场景开展相关试点。
当天,韩国电力、Rebellions与韩国信息通信技术协会(TTA)在Rebellions总部签署“K-Perf应用及基于国产NPU的电力领域AI视频分析技术合作协议”。此次合作旨在将国产NPU引入真实电力业务场景,在实际运行环境中验证其性能与可靠性。
根据分工,韩国电力将负责电力场景试点运行及应用模型开发;Rebellions负责NPU性能优化和技术支持;TTA将面向真实运行环境开展性能与可靠性评测。
韩国电力计划把原先分散部署在各变电站的AI视频分析基础设施,改造为基于NPU的一体化监控体系,并推进现场验证。此次验证将把“K-Perf”作为国产AI芯片引入评估标准,这也是该标准首次被纳入实际应用单位的AI芯片选型流程。
“K-Perf”旨在提升市场对国产NPU性能的信任度,并为应用单位提供客观的引入决策依据。该标准于去年12月在15家供需相关机构参与下制定,围绕真实使用环境明确了测评模型和测试条件,并细化了首个Token生成时间(TTFT)、每Token生成时间(TPOT)、单用户吞吐量(TPS/1user)等指标。
今年6月,韩国科学技术信息通信部、TTA与信息通信企划评价院(IITP)已针对两款国产AI芯片开展试点验证,覆盖AI聊天机器人、文档检索等生成式AI服务,并确认其达到需求方提出的各项服务性能目标(SLO)。
随着韩国电力此次开展验证,“K-Perf”的应用范围也将由生成式AI进一步拓展至电力领域的AI视频分析。韩国科学技术信息通信部表示,今后将以公共部门为重点,持续扩大国产NPU的导入案例。
韩国科学技术信息通信部信息通信政策室长Lee Dogyu表示,科学技术信息通信部将集中政策资源,推动国产AI芯片技术研发和性能验证成果加快转化为市场应用,并持续完善“K-Perf”,支持此次合作成果在更大范围的公共部门场景中推广。