Startup Israel Reve AI, có Nvidia trong nhóm nhà đầu tư, chuẩn bị ra mắt một mô hình AI mới nhằm giúp doanh nghiệp cắt giảm chi phí tính toán. Thông tin được The Wall Street Journal (WSJ) đăng tải ngày 19/10 theo giờ địa phương.

Theo WSJ, Reve AI được thành lập bởi CEO Amnon Shashua, đồng sáng lập công ty xe tự lái Mobileye. Startup này đã huy động 220 triệu USD từ Lightspeed Venture Partners, Bessemer Venture Partners, Nvidia, Dell và một số nhà đầu tư khác.

Reve AI gọi công nghệ của mình là Code Execution Model (CEM), một dạng mô hình AI mới. Khác với mô hình ngôn ngữ lớn, CEM có thể hoạt động trực tiếp trong quá trình thực thi của phần mềm mà không cần con người can thiệp, đồng thời tự tìm cách tối ưu việc thực thi mã, theo WSJ.

Sản phẩm đầu tiên của công ty có tên Maxwell, được thiết kế để nâng hiệu quả sử dụng GPU và CPU, qua đó giúp doanh nghiệp ứng phó với chi phí tính toán ngày càng tăng. Dẫn dữ liệu từ hãng phân tích SemiAnalysis, WSJ cho biết chi phí thuê chip Nvidia H100 theo hợp đồng một năm tính theo giờ đã tăng 60% trong vòng một năm qua.

CEO Amnon Shashua cho biết việc khai thác phần cứng hiệu quả hơn có thể mang lại mức tiết kiệm đáng kể cho doanh nghiệp. Reve AI áp dụng mô hình thu phí dựa trên phần chi phí mà khách hàng tiết kiệm được. Công ty nói một khách hàng giai đoạn đầu đã cắt giảm 67% chi phí tính toán.

WSJ cũng cho biết công ty AI LTX nói rằng Maxwell đã giúp tăng gấp đôi tốc độ suy luận mô hình. Reve AI dự kiến triển khai rộng rãi Maxwell từ cuối tháng 10.

Theo ông Shashua, các doanh nghiệp nghiên cứu và phát triển AI quy mô lớn như OpenAI và Anthropic sẽ là nhóm được hưởng lợi lớn nhất. Ông cho rằng chỉ cần giảm 10% chi phí tính toán, các công ty này đã có thể tiết kiệm hàng trăm triệu USD.

Reve AI cho biết đã dùng khoảng một nửa số vốn huy động để mua trực tiếp 1.000 chip Nvidia B300. Ông Shashua nhận định giá chip đang tăng, vì vậy công ty không thể chỉ phụ thuộc vào dịch vụ thuê năng lực tính toán.