AI推論基盤を手がけるスタートアップのGimlet Labsが、シリーズAで8000万ドルを調達した。TechCrunchが23日(現地時間)に報じた。
同社は、複数の半導体を組み合わせてAIワークロードを実行する「マルチシリコン推論クラウド」を開発している。
このサービスは、CPUに加え、AI向けGPUや大容量メモリシステムを組み合わせることで、AI推論性能の最適化を図るものだ。
リード投資家を務めたMenlo Venturesのティム・トゥーリー氏は、「AI処理を単一のチップだけでまかなうのは難しいが、Gimlet Labsのソフトウェアは多様なハードウェアを接続し、性能を最適化する」と評価した。
McKinseyによると、現在のデータセンターにおけるハードウェアの稼働率は15〜30%にとどまる。稼働率が改善すれば、数千億ドル規模のコスト削減余地があるという。Gimlet Labsは、自社ソリューションによってAI推論を3〜10倍高速化しつつ、コストや消費電力を増やさずに運用できると訴えている。
製品はソフトウェアとして提供するほか、クラウドAPIとしても展開する。NVIDIA、AMD、Intel、ARMなど主要チップメーカーとも協業している。
著者について