AI & Enterprise

企業のAIコスト上昇、小型モデル活用に軸足　大規模モデル一辺倒から変化

企業のAI導入拡大で推論コストの負担が増し、先端の大規模モデル中心だった活用戦略に見直しの動きが広がっている。Coinbaseは業務の8割が低価格モデルに移ると予測し、HarveyやLindyも小型モデルの活用でコスト削減を進めている。

AI & Enterprise

Coinbase、低価格モデル活用でAIコスト抑制　高性能モデルは限定活用

Coinbaseのブライアン・アームストロングCEOは、用途に応じて低価格モデルへ振り分けることで、AIのトークンコストをほぼ増やさず運用していると明らかにした。先端モデルは高度推論など一部業務に絞る考えも示した。