ATOM-Maxサーバー。写真=Rebellions

Rebellionsは3日、科学技術情報通信部と韓国知能情報社会振興院(NIA)が進める「国産NPU基盤の公共AI CCTV転換」事業で、慶尚南道庁と蔚山市のCCTV管制センター2カ所向けサーバー基盤を受注したと発表した。国産NPUの公共安全インフラへの本格導入案件となる。

同社は8月から、サーバー型NPU「ATOM-Max」を両機関に納入する予定だ。

今回のAI CCTV管制システムは2段構成を採る。カメラまたはエッジ側でまず物体を検知し、サーバー側で映像を高精度に解析して、火災や犯罪などの状況を判断する仕組みだ。検知結果の信頼度スコアに加え、韓国語による状況説明も自動生成する。このうちATOM-Maxは、第2段階に当たるサーバー側インフラを担う。

ATOM-Maxサーバーは、管制センターで300億パラメーター級以上の大規模映像言語モデル(VLM)を稼働させ、CCTV映像を精密に処理する。こうした規模のVLMには、大容量メモリと高い演算性能が求められる。

Rebellionsは、小型のエッジチップだけでは、大規模同時処理環境で高精度な解析を安定して行い、誤検知や見逃しを最小限に抑えることは難しいとして、サーバー型NPUの導入が必要になると説明している。

同社によると、サーバー型NPUは、突発事象が急増する場面でも大規模な同時処理に対応できるほか、インターネットから分離した閉域網でも独立して運用できる。開発者に広く使われる標準AI実行ツール「vLLM」を公式サポートしている点も特徴だという。

これにより、公共機関は既存の開発環境を大きく変えずに導入でき、システム再構築コストや特定技術への依存負担の軽減につながるとしている。

同社は最近、自社AIサーバー「Rebel Server」で、SKTの超大型AIモデル「A.X K1」(5000億超のパラメーター)を単一サーバーで駆動することに成功したと明らかにしている。

専門家混合(MoE)方式に合わせて専用ソフトウェアを最適化し、演算をNPUに分散して並列処理することで、高性能GPUサーバーに匹敵する性能を単一の国産NPUサーバーで確保したとしている。

パク・ソンヒョンCEOは「政府が進める公共分野での国産NPU普及の流れに、Rebellionsが早い段階から参加できたことは象徴的で意義が大きい」とコメントした。

その上で「国産の超大型AIモデルの実証を通じて国産NPUの性能を示してきたが、今回は技術力をもとに、ソブリンAIが実証段階を超えて、国民の安全を支える現場インフラとして定着する転機にしたい」と述べた。

キーワード

#Rebellions #NPU #AI #AI CCTV #vLLM #VLM #ATOM-Max #科学技術情報通信部 #韓国知能情報社会振興院
Copyright © DigitalToday. All rights reserved. Unauthorized reproduction and redistribution are prohibited.