Rebellions于6月30日宣布,已收购AI推理优化公司SqueezeBits。
Rebellions表示,此次收购将使公司在NPU硬件基础上,进一步完善软件优化和推理服务能力,并通过统一平台提供相关能力,从而加快向一体化AI基础设施平台转型。
推理服务是指AI模型在实际业务场景中的运行与交付过程,涵盖请求接收、模型执行以及结果返回等完整流程。
SqueezeBits具备模型优化与轻量化技术,可在不同硬件环境中提升AI模型运行速度,并降低运维成本。
此前,双方已在推理优化领域展开合作,并自2024年起基于Rebellions的NPU共同开发模型轻量化技术和配套软件。
Rebellions计划整合SqueezeBits的相关能力,帮助企业更快、更高效地部署AI服务。
记者信息