Upstageは7月15日、AXZが運営するポータルサイトDaumの「AI要約」機能に、自社の大規模言語モデル(LLM)「Solar」とFuriosaAIのニューラル・プロセッシング・ユニット(NPU)「RNGD(Renegade)」が採用されたと発表した。
同機能は、Web上の文書をLLMが分析し、検索結果に対して要点を整理した回答とその根拠を示すもの。検索窓にキーワードを入力すると、関連情報の要約を表示する。情報の更新があった場合は、AIが内容を自動で反映し、最新情報を確認できるとしている。
Upstageのキム・ソンフン代表は15日、AXZのイ・ゴンス代表、FuriosaAIのペク・ジュンホ代表と開いた懇談会で、「インフラからモデル、サービスまで、AIの全領域を国内技術で一貫してつないだ初の事例だ」と述べた。
3社トップは同日、京畿道城南市・板橋のAXZ本社で協業の内容と今後の計画を説明した。
イ・ゴンス代表によると、DaumのAI要約は検索クエリ全体の20%を処理しているという。同氏は「単なる要約にとどまらず、ショッピングや飲食店検索などの垂直領域にも広げていく。Daumを通じて、利用者ごとに最適化した『1人1エージェント』の普及も進める準備をしている」と語った。
Daumは今月1日にAI要約のベータ版を公開した。AXZは年内に適用領域を拡大し、正式版を公開する計画だ。
ハルシネーション対策についてイ代表は、「抑制に向けた設計を高度化した」と説明。キーワード検索とベクトルベース検索を組み合わせたハイブリッド検索により、「Solar」に関連性の高い最新情報を渡しているとした。
AI要約の処理に必要な計算資源について、ペク・ジュンホ代表は「3ノードで1日当たり5億トークンを処理している」と述べた。
さらに、「AIモデルをアクセラレータに適切にマッピングするコンパイラや、最適なサービングのためのエンジンを含め、ハードウェアとソフトウェアを一体設計することで、H200と同等の性能を実現している」と説明した。FuriosaAIのNPUを導入した場合、推論コストの削減効果は50%以上だという。
ペク代表は「国際情勢を踏まえると、戦略面でもソブリンAIに向けた半導体、モデル、サービスの結合が必要だ」と強調した。
キム代表は、Solarの競争力として、小型モデル設計で確保したグローバルフロンティア級の性能と、韓国語に特化した能力を挙げた。
その上で「海外ビッグテックのモデルに対抗できる国産LLMの性能をさらに高めていく」と述べ、「独自のAIファウンデーションモデル・プロジェクトなどを通じて、近く公開するUpstageの次世代モデルにも注目してほしい」と語った。