Boundforは12日、AIデータ運用プラットフォーム「DroPai」に、AIトークンコスト管理サービス「Pareto」を追加したと発表した。予算上限を超えるAI APIリクエストを実行前に抑止し、チーム別の利用状況や予測支出をリアルタイムで可視化する。
Paretoでは、管理者が設定した予算上限を超えるAI APIリクエストを事前にブロックできる。チームごとの利用状況と予測支出をリアルタイムで把握できるようにし、コスト発生後ではなく、発生前の段階から予算管理を支援する。
同サービスは、利用後に費用を確認する可視化中心の運用ではなく、超過そのものを未然に防ぐ事前制御の仕組みを採用した。企業が定めた予算やポリシーをAPI呼び出し時に適用し、不要なコストの発生を抑える。AIエージェントや自動化システムを、設定した予算の範囲内で運用できるようにする狙いもある。
月次の利用データを分析し、無駄な支出につながる主要パターンも自動で特定する。例えば、失敗した呼び出しの再試行が繰り返されてコストが積み上がるケース、実質的に同一のリクエストが重複して処理されるケース、軽量モデルで対応可能な処理に高性能モデルを使うケースなどを検知し、削減可能な領域をレポートとして示す。
Boundforのファン・イノ代表は「Paretoは、フィジカルAIの現場で当社が直接直面した課題を解決する過程で生まれたサービスだ」とコメントした。
その上で、「ロボットやデバイスが24時間AIを呼び出す環境では、事後的なコスト分析だけでは限界があった。今後も現場で検証した運用経験を基にサービスを高度化し、AIデータ管理からコスト統制まで、企業のAI運用全般を支援していく」と述べた。
著者について
Chi-gyu Hwang
delight@d-today.co.kr