Nvidia đã tham gia rót vốn vào SimplySmart, startup Ấn Độ phát triển phần mềm giúp doanh nghiệp cắt giảm chi phí vận hành AI và nâng hiệu quả sử dụng GPU. Động thái này diễn ra trong bối cảnh nhu cầu suy luận AI tăng nhanh, kéo theo sự quan tâm lớn đối với các công nghệ phần mềm có thể tối ưu việc khai thác hạ tầng GPU vốn đắt đỏ.

Theo TechCrunch ngày 27/10 (giờ địa phương), SimplySmart đã huy động 14 triệu USD trong vòng Series B. Vòng gọi vốn do Dallas Venture Capital dẫn dắt, với sự tham gia của Nvidia, Accel, Shastra VC và Micromax. Sau vòng gọi vốn này, công ty được định giá khoảng 100 triệu USD. SimplySmart được thành lập năm 2022 và đặt trụ sở tại Bengaluru, Ấn Độ.

SimplySmart phát triển phần mềm phục vụ giai đoạn suy luận của mô hình AI khi triển khai trong môi trường thực tế. Khi đưa dịch vụ AI vào vận hành, doanh nghiệp không chỉ phải đầu tư vào GPU giá cao mà còn phải cân đối giữa độ trễ phản hồi, thông lượng xử lý và chi phí. Do yêu cầu hiệu năng khác nhau giữa từng dịch vụ, doanh nghiệp cũng cần tinh chỉnh cách triển khai mô hình và phân bổ tài nguyên tính toán.

Giải pháp của công ty tập trung tối ưu sự phối hợp giữa mô hình AI và hạ tầng tính toán. Phần mềm cho phép điều chỉnh độ trễ, thông lượng xử lý và mức tiêu thụ tài nguyên theo nhu cầu của khách hàng, từ đó nâng mức sử dụng GPU hiện có. Nền tảng này cũng hỗ trợ tinh chỉnh mô hình, tự động mở rộng theo biến động nhu cầu và giám sát hiệu năng; đồng thời có thể triển khai trên cả môi trường đám mây lẫn hạ tầng on-premise. Ngoài ra, SimplySmart còn cung cấp tính năng giúp các nhà cung cấp đám mây xây dựng và vận hành dịch vụ suy luận AI dựa trên hạ tầng GPU riêng.

Amritanshu Jain, CEO của SimplySmart, cho biết nhu cầu về hiệu năng suy luận AI cũng như mức chi phí chấp nhận được là khác nhau ở từng doanh nghiệp. Theo ông, lợi thế cạnh tranh của công ty không nằm ở việc cung cấp dịch vụ nhanh nhất hay rẻ nhất, mà ở khả năng tìm ra phương án vận hành phù hợp với yêu cầu SLA và ngưỡng tổng chi phí sở hữu (TCO) của từng khách hàng.

Hiệu quả tiết kiệm chi phí đã được ghi nhận ở một số khách hàng. Nền tảng video AI InVideo cho biết đã giảm 56% chi phí vận hành GPU sau khi áp dụng phần mềm của SimplySmart. Công ty hiện cũng đang hợp tác với HeyGen, Higgsfield và Ema. Trong khi đó, nhà cung cấp đám mây Ấn Độ Yotta đã tích hợp công nghệ của SimplySmart vào dịch vụ suy luận AI serverless trên nền tảng Shakti Studio.

Doanh thu của SimplySmart cũng tăng nhanh. Theo Jain, run-rate doanh thu quy đổi theo năm của công ty đã tăng gấp 14 lần trong 6 tháng gần đây, lên quy mô hàng chục triệu USD. Tuy nhiên, đây không phải doanh thu định kỳ đã được chốt theo hợp đồng, mà được tính dựa trên mức sử dụng gần đây của khách hàng. Phần doanh thu thuộc về các nhà cung cấp hạ tầng cũng không được ghi nhận trong số liệu này, và công ty không công bố con số cụ thể.

Hơn một nửa doanh thu hiện đến từ thị trường Mỹ, dù số lượng khách hàng tại Ấn Độ nhiều hơn. SimplySmart cho biết sẽ dùng nguồn vốn mới để mở rộng hoạt động tại Mỹ, tuyển thêm nhân sự và nâng cấp phần mềm suy luận.

Theo Jain, hợp tác với Nvidia có ý nghĩa không chỉ ở khoản đầu tư tài chính. Hai bên hiện đang triển khai tích hợp công nghệ xoay quanh phần mềm suy luận Dynamo của Nvidia. Kỹ sư của hai công ty cùng bộ phận thiết kế giải pháp của Nvidia đang phối hợp trong dự án này, đồng thời Nvidia cũng hỗ trợ kết nối SimplySmart với các khách hàng và đối tác tiềm năng.

Việc Nvidia đầu tư vào một công ty sở hữu công nghệ giúp giảm chi phí vận hành GPU cũng thu hút sự chú ý của thị trường. Khi hiệu suất GPU được cải thiện, cùng một hạ tầng phần cứng có thể phục vụ nhiều dịch vụ AI hơn, qua đó kéo giảm chi phí tính toán cho từng tác vụ. Ngược lại, nếu chi phí giảm đủ mạnh để thúc đẩy thêm nhiều doanh nghiệp và ứng dụng triển khai AI, tổng nhu cầu đối với hạ tầng GPU cũng có thể tiếp tục mở rộng.

Dù vậy, môi trường cạnh tranh của SimplySmart không hề dễ dàng. Công ty không chỉ phải cạnh tranh với các sản phẩm nội bộ của Nvidia, mà còn đối đầu với những nhà cung cấp đám mây lớn như Amazon Web Services, Google Cloud và Microsoft Azure. Khi dịch vụ AI ngày càng phổ biến, cuộc đua giữa các công ty phần mềm trong việc cải thiện chi phí suy luận và hiệu quả vận hành cũng đang nóng lên.

Trong khi đó, nhật báo kinh tế Ấn Độ Economic Times gần đây đưa tin SimplySmart đang thảo luận khả năng huy động thêm 40-50 triệu USD với mức định giá 300-400 triệu USD. Tuy nhiên, Jain cho biết công ty không chủ động thúc đẩy một vòng gọi vốn mới. Theo ông, vòng Series B hiện đã hoàn tất và SimplySmart không có kế hoạch mở rộng quy mô khoản đầu tư này.