KTは8月19日、Rebellions製NPUと自社開発の大規模言語モデル（LLM）を1台のサーバーに統合した企業向けソブリンAIアプライアンス「KT NPU LLMステーション」を発売した。オンプレミス環境での運用を前提とし、社内データを外部に出さずにRAGベースの生成AI活用を可能にする製品として展開する。

同製品は、韓国のAI半導体企業Rebellionsのニューラル・プロセッシング・ユニット（NPU）「ATOM-MAX」と、KTが自社開発したLLM「ミドゥムK 2.5プロ」、運用APIプラットフォームを一体化したものだ。

ATOM-MAXはAI推論に特化したNPUで、ミドゥムK 2.5プロは高度な推論やAIエージェント活用を想定したKTの自社モデル。KTは、AI半導体、モデル、運用プラットフォームといった中核技術を国内技術で構成し、企業がソブリンAI環境を構築しやすくしたとしている。

運用形態はオンプレミス方式を採る。顧客企業の社内に設置し、データとAI処理を外部に出さずに社内で完結できるのが特徴だ。KTは、ネットワーク分離などの規制やセキュリティ要件から外部の生成AI導入に制約がある公共、国防、製薬、製造、金融分野での需要を見込む。

導入の手間も抑えた。サーバー、AIモデル、プラットフォームを統合しているため、個別にインフラを構築しなくても、設置後すぐに社内文書を活用した検索拡張生成（RAG）ベースの質問応答などのAI機能を利用できる。

また、推論特化型NPUの採用により、同クラスのGPUサーバーと比べて電力効率を高めた。業界標準のAPIにも対応しており、既存のAIサービスを利用している企業は、接続先の変更だけでコード修正なしに連携できるとしている。

KTは今後、議事録作成、コーディング支援、業務自動化エージェント「K-Claw（仮称）」など、自社開発のAIエージェントを順次搭載する計画だ。あわせて、エージェント開発の専門企業との協業を通じ、顧客向けの導入・構築事業にも広げる方針を示した。

さらに、KT NPU LLMステーションの活用領域をフィジカルAI向けのエッジデータセンター用途にも広げ、低消費電力・低遅延のAIインフラ構築にも生かす方針だ。

KTのLee Jin-young AX事業本部長（常務）は「KT NPU LLMステーションは、データ主権を守りながらAI転換を進めたい企業や機関にとって、現実的な選択肢になる」とコメントした。

KTは、科学技術情報通信部の「みんなのAI」プロジェクトでも韓国製NPUを活用し、ソブリンAIの実装と国内AIエコシステムの競争力強化に取り組む計画だとしている。