KTは27日、自社開発のAIモデルルーティング技術「AutoModelRouter」が、大規模言語モデル(LLM)ルーターの公開ベンチマーク「Router Arena」で総合2位になったと発表した。応答精度やコスト効率、入力変化への堅牢性などで高い評価を得たという。
AutoModelRouterは、米Rice Universityの研究チームが開発したLLMルーター評価プラットフォーム「Router Arena」で総合2位になった。
Router Arenaは、約8400件のクエリを基に、AIルーターの応答精度、コスト効率、入力変化に対する堅牢性などを評価する公開ベンチマーク。学術分野で開発されたルーターに加え、Microsoftの「Azure Model Router」など商用技術も掲載している。
AutoModelRouterは、複数のAIモデルの中から、ユーザーの要求に応じて最適なモデルを自動選択する技術だ。業務の種類や難易度、知識分野を分析し、モデルごとの応答品質と利用コストを踏まえて適切なモデルに振り分ける。翻訳や単純な情報確認にはコスト効率の高いモデルを、専門分析や高度な推論が必要な業務には高性能モデルを割り当てる仕組みだ。
KTはこの技術を「Token Factory」のモデルルーティング機能にも活用する。複数のAIモデルとトークン利用環境を統合運用する中で、リクエストに応じたモデルを自動選択し、サービス品質とコストの両面を最適化するとしている。
今後はAutoModelRouterの高度化を進めるとともに、新たなAIモデルを追加できるマルチモデル運用環境の構築を進める計画だ。
キム・ジュンソクKT Agentic AI Lab長(常務)は「AI時代には、状況に合った最適なモデルをどれだけ知能的に活用できるかが重要になる」とコメントした。その上で「AutoModelRouterは、Token FactoryをはじめとするKTのエージェンティックAIサービスの競争力を支える中核技術になる」と述べた。