国产神经网络处理器（NPU）开始落地公共安全基础设施领域。AI芯片企业Rebellions于3日表示，在韩国科学技术信息通信部与韩国智能信息社会振兴院（NIA）推进的“基于国产NPU的公共AI CCTV转换”项目中，公司已获得庆尚南道厅和蔚山市CCTV监控中心的服务器基础设施订单，并将于8月起交付服务器型NPU“ATOM-Max”。
根据介绍，该AI CCTV体系采用两阶段架构：第一阶段由摄像头或边缘侧完成目标检测；第二阶段则在服务器侧对视频进行精细分析，用于识别火灾、犯罪等情况，同时输出置信度评分，并自动生成韩语情境说明。Rebellions的ATOM-Max将承担第二阶段的服务器侧算力任务。
ATOM-Max服务器将在监控中心运行300亿参数及以上的大型视频语言模型（VLM），对CCTV视频进行精细处理。Rebellions表示，这类VLM对内存容量和算力要求较高，仅依靠小型边缘芯片，难以在大规模并发场景下稳定完成高精度分析，并有效降低误报和漏报，因此需要引入服务器型NPU。
公司还表示，其服务器型NPU可在突发事件激增时支持大规模并发处理，并能够在与外部互联网隔离的封闭专网内独立运行。该产品已正式支持开发者广泛使用的标准化AI推理框架vLLM，公共机构无需改变既有开发环境即可导入，有助于降低系统重构成本，并减少对特定技术栈的依赖。
Rebellions还披露，近期公司通过自研AI服务器“RebellServer”，已在单台服务器上成功运行SKT的超大规模AI模型“A.X K1”，其参数规模超过5000亿。公司称，凭借面向专家混合（MoE）架构优化的专用软件，并将计算任务分散至NPU并行处理，单台国产NPU服务器的性能已接近全球高性能GPU服务器水平。
Rebellions CEO Park Seonghyeon表示，从项目早期就参与政府推动国产NPU在公共领域的扩散，具有象征意义。继此前以国产超大模型验证国产NPU性能之后，此次项目也将成为推动主权AI从技术验证走向公共安全一线基础设施应用的重要转折点。
Daegeon Seok
d2dg@d-today.co.kr