写真=Cafe24

Cafe24は6月23日、ChatGPTやClaude、Geminiなど120以上のAIモデルを単一のAPIで利用できる「LLM Router」の提供を開始したと発表した。ユーザーのリクエスト内容に応じて最適なAIモデルを自動で選び、振り分けや切り替えを行うサービスとして展開する。

韓国の科学技術情報通信部が今月3日に公表した「2025年付加通信事業実態調査」によると、生成AI利用者の53.2%が2つ以上のAIプラットフォームを併用している。コーディング、翻訳、要約、コンテンツ制作など、用途ごとにサービスを使い分けるケースが広がる一方で、各サービスのアカウントやコスト、設定を個別に管理する負担も増しているという。

LLM Routerは、入力された指示の内容を分析し、コーディング、推論、翻訳、創作などの用途に適したモデルへ自動でルーティングする。利用対象をあらかじめ指定しておけば、その範囲内でのみ自動接続することもできる。

同じモデルを扱う複数の事業者がある場合は、コスト、応答速度、処理量を基準に最適な提供元を自動で選択する。特定の提供元を許可または除外できるホワイトリスト、ブラックリスト機能も備えた。

メインモデルが応答しない場合に備えた自動切り替え機能「Auto Fallback」も搭載する。メインモデルで応答に失敗した際は、あらかじめ設定した代替モデルが自動でリクエストを引き継ぐ。

管理画面では、モデルごとのコスト構成や、リクエストの成功率・失敗率をリアルタイムで確認できる。ユーザーが保有するGPT、Claude、GeminiのAPIキーをそのまま接続して使える「BYOK(Bring Your Own Key)」モードも用意した。

Cafe24のイ・ジェソク代表取締役は「AIモデルの種類が急速に増える中、効率的に接続・運用することが新たな課題になっている」とした上で、「利用者が多様なAIをより便利に活用できるよう、関連インフラとしての役割を着実に担っていく」と述べた。

料金体系は、チャージしたクレジットを利用量に応じて消費する従量課金制。登録直後には無料クレジットを付与する。

キーワード

#Cafe24 #AI #生成AI #LLM #API #ChatGPT #Claude #Gemini #BYOK #Auto Fallback
Copyright © DigitalToday. All rights reserved. Unauthorized reproduction and redistribution are prohibited.