Rebelllion công bố mua lại Squeezebits để mở rộng năng lực tối ưu suy luận AI.

Ngày 30/6, Rebelllion công bố mua lại Squeezebits, công ty chuyên về tối ưu suy luận AI, trong bước đi nhằm đẩy nhanh quá trình chuyển đổi thành doanh nghiệp hạ tầng AI tích hợp.

Theo Rebelllion, thương vụ này sẽ giúp công ty hoàn thiện nền tảng cung cấp đồng thời phần cứng NPU, phần mềm tối ưu và năng lực serving suy luận trên một hệ thống thống nhất.

Serving suy luận là quy trình đưa mô hình AI vào vận hành trong dịch vụ thực tế, bao gồm tiếp nhận yêu cầu, chạy mô hình và trả kết quả cho người dùng.

Squeezebits sở hữu công nghệ tối ưu và nén mô hình, giúp tăng tốc xử lý AI trên nhiều môi trường phần cứng khác nhau, đồng thời giảm chi phí vận hành.

Trước thương vụ này, hai bên đã duy trì quan hệ hợp tác trong mảng tối ưu suy luận. Từ năm 2024, Rebelllion và Squeezebits cùng phát triển công nghệ nén mô hình và phần mềm chuyên dụng dựa trên NPU của Rebelllion.

Rebelllion cho biết sẽ tích hợp năng lực của Squeezebits để cung cấp môi trường giúp các tổ chức triển khai dịch vụ AI nhanh hơn và hiệu quả hơn.

Từ khóa

#Rebelllion #Squeezebits #AI #suy luận AI #tối ưu suy luận #NPU #hạ tầng AI #serving suy luận
Copyright © DigitalToday. All rights reserved. Unauthorized reproduction and redistribution are prohibited.