推論最適化のオープンソースプロジェクト「vLLM」の開発陣が、スタートアップのInferactを設立し、事業化に乗り出した。
TechCrunchが1月22日(現地時間)に報じたところによると、Inferactはシードラウンドで1億5000万ドル(約225億円)を調達した。評価額は8億ドル(約1200億円)。調達はAndreessen Horowitz(a16z)とLightspeed Venture Partnersが共同で主導した。
同様の動きは、最近商用化が進んだSGLangでも見られる。SGLangは直近で、Accel主導により、企業価値4億ドル(約600億円)で資金を調達した。
TechCrunchは、AI業界で関心がモデル学習から実運用段階の推論へ移る中、vLLMやSGLangのような技術に投資家の注目が集まっていると伝えている。
InferactのCEO、サイモン・モ氏はBloombergのインタビューで、「Amazon Web ServicesやショッピングアプリでvLLMが使われている」と述べた。
著者について