TechCrunch ngày 23/3 (giờ địa phương) đưa tin startup Gimlet Labs, công ty chuyên xử lý điểm nghẽn trong suy luận AI, đã huy động 80 triệu USD ở vòng gọi vốn Series A.

Công ty đang phát triển một nền tảng “đám mây suy luận đa silicon”, cho phép phân bổ các tác vụ AI đồng thời trên nhiều loại phần cứng khác nhau.

Theo giới thiệu, nền tảng này kết hợp CPU truyền thống, GPU dùng cho AI và hệ thống bộ nhớ dung lượng lớn để tối ưu hiệu năng xử lý AI.

Tim Tully, đối tác đầu tư cấp cao tại Menlo Ventures, cho rằng không một con chip đơn lẻ nào có thể xử lý toàn bộ các tác vụ AI. Theo ông, phần mềm của Gimlet Labs giúp kết nối nhiều loại phần cứng để đạt hiệu năng tối ưu.

Dẫn số liệu của McKinsey, Gimlet Labs cho biết tỷ lệ sử dụng phần cứng tại các trung tâm dữ liệu hiện chỉ ở mức 15-30%. Nếu cải thiện được mức này, doanh nghiệp có thể tiết kiệm hàng trăm tỷ USD chi phí. Công ty cũng khẳng định giải pháp của mình có thể tăng tốc suy luận AI gấp 3-10 lần mà không làm tăng chi phí và điện năng tiêu thụ.

Gimlet Labs cung cấp sản phẩm dưới dạng phần mềm hoặc API triển khai trên đám mây riêng. Công ty đồng thời hợp tác với các nhà sản xuất chip lớn như Nvidia, AMD, Intel và ARM.