エージェンティックAIの普及が進む中、競争力を左右する指標はトークン単価ではなく、タスク完了までにかかる総コストへと移りつつある。複数のAIエージェントが相互にやり取りしながら作業を進める構造上、試行錯誤が増えるほどトークン消費も膨らみやすく、モデル性能の高度化に加え、メモリやニューラルプロセッシングユニット(NPU)を含むインフラ整備の重要性が高まっている。
こうした見方は、28日にソウル・汝矣島の国会議員会館で開かれた「エージェンティックAI国会朝食フォーラム」で示された。AtoSysのイ・ドンス代表は「従来の生成AIでは、トークンをいかに安く、少ない電力で生成するかが重要だった。一方、エージェンティックAIでは、業務を何度の試行で完了できるかがより重要になる」と述べた。
AIエージェントは、1回の質問に応答するチャットボットとは異なり、目標達成に向けて計画を立て、ツールや他のエージェントを呼び出しながら作業を進める。結果に問題があれば前段階に戻って再実行するため、処理の往復が増えやすい。
イ代表は、こうした構造を踏まえ、AIエージェントは従来の生成AIに比べて最大136倍のトークンを消費し得るとの分析を示した。複数のエージェントが文脈や作業結果をやり取りし、失敗した処理を繰り返すことで、トークン消費と演算量が同時に増えるという。
◆「高性能モデルの方が安くて速い」総コストで評価
イ代表は、評価の軸をトークン単価ではなく、タスク当たりの総コストに置くべきだとの考えも示した。
同氏が提示した高難度のコーディング課題の評価では、トークン単価が最も低いモデルが、完了までに最も長い時間と最も大きい費用を要した。モデル性能が低く、エラーと再試行が繰り返されたためだという。
イ代表は「高性能なモデルほど複雑な業務への理解が深く、呼び出し回数や再試行を減らせるため、結果的により安く、速くなる可能性がある」とした上で、「エージェンティックAIの時代には、トークン単価よりも、何回の往復で業務を終えられるかが重要だ」と語った。
政府も、国内モデル開発においてエージェンティック性能の強化に軸足を置く方針だ。単純な質疑応答にとどまらず、複雑なタスクを計画し、ツールを活用して遂行する能力を高める構想を掲げている。
韓国科学技術情報通信部のペク・ビョンス デジタル人材育成課長は「エージェントAIはトークンを大量に消費する可能性があり、トークン効率に基づく実行技術が重要になる」と述べ、「独自のAIファウンデーションモデルについても、エージェンティック性能を高める方向で推進していく」と説明した。
同課長は、23日に発表した「エージェントAIイニシアティブ」にも言及した。安全で信頼できる基盤の構築、実行エコシステムの形成、国民・産業分野への導入促進の3つを柱とする。
年内に安全・信頼ガイドラインと性能評価体系を整備し、2027年からはトークン効率ベースのAIプラットフォーム中核技術の開発に着手する。2028年からは、複数のモデルやエージェント、外部ツールを統合運用するAIオペレーティングシステム(OS)の中核技術開発も進める計画だ。
◆GPU増強だけでは不十分、メモリとNPUの役割拡大
エージェンティックAIの拡大に伴い、インフラ面では演算性能だけでなく、データ移動、メモリ活用、電力効率まで含めた全体最適が重要になっている。
イ代表は「エージェンティックAIでは、GPUによる演算よりもメモリ負荷が支配的になる場面もあり得る」とした上で、「韓国が強みを持つメモリをエージェンティックAIサービスと結び付ければ、新たな競争力を確保できる」と述べた。
国産AI半導体業界も、重要なのはGPUの供給量そのものではなく、タスク当たりのコストと消費電力を抑えるシステム構成だと強調した。
Mobilityntのシン・ドンジュ代表は「エージェントシステムは、モデル、システム、最適化、需要企業、半導体企業など、複数の主体で成り立っている」と述べ、「関係各社が協力し、システム単位でのコスト削減効果を検証する実証事業が必要だ」と指摘した。
Rebellionsで対外協力を担当するキム・ヨンシン氏は「公共事業では、AIアクセラレーターの導入要件がGPUに限定されるケースが多く、国産NPUが参画しにくい」とした上で、「政策設計の初期段階から、モデル、サービス、国産半導体企業が一体となって市場を形成できる構造が必要だ」と述べた。
一方、この日の行事を主催した国会予算決算特別委員会所属で「共に民主党」のチョ・インチョル議員は、政府の来年度予算編成の過程で、エージェントAI産業への支援策を検討する考えを示した。チョ議員は「産業現場で必要な予算や制度改善の課題があれば、積極的に提案してほしい」と述べ、「国会としても業界の声を踏まえ、支援策を用意する」と語った。