Lablupは11月17日(現地時間)、米シカゴで開幕したスーパーコンピューティング展示会「SC26」に出展し、AIインフラの統合運用技術を公開すると発表した。
SC26は、高性能コンピューティング(HPC)やAIなど先端コンピューティング技術を扱う国際イベントで、会期は19日まで。Lablupの出展は4年連続となる。
同社はブースで、グローバル半導体メーカーや協業先、顧客企業が参加する技術セッションを実施する。AMD、Intel、NVIDIAの3社に加え、Rebellions、FuriosaAI、HyperAccelのNPU企業3社を含む計9社・機関が参加する予定だ。
各社は、AI半導体を活用したインフラの構築・運用技術や活用事例を紹介する。FuriosaAIは自社AIアクセラレーターとLablupのプラットフォームを組み合わせた大規模言語モデル(LLM)の運用事例を、米サザンカリフォルニア大学(USC)は学術研究向けAIコンピューティングサービスの運用事例を取り上げる。
Lablupは会期中、AIモデルの推論効率と運用コストの最適化に向けた「トークン・ファクトリー」戦略も打ち出す。自社プラットフォーム「Backend.AI」による異種AIアクセラレーターの統合管理に加え、「Continuum Enterprise」を活用したトークン使用量、コスト、課金の管理技術を紹介する予定だ。
このほか、金融機関の閉域網でのLLM運用、個人向けPCでAIモデルを動作させる「AI:GO」、ハードウェアベースの信頼実行環境(TEE)を活用したAIセキュリティ技術も展示する。
Lablupのシン・ジョンギュ代表は「AIインフラが多様な半導体やコンピューティング環境へ広がる中、それらを効率的に統合運用するソフトウェアの重要性は一段と高まっている」とコメント。「Backend.AIの拡張性と統合運用戦略を訴求し、AIインフラ市場の変化に対応していく」と述べた。