OpenAI đang xem xét công khai một lớp phần mềm trừu tượng hóa nhằm giúp các mô hình AI của hãng vận hành trên nhiều loại chip khác nhau, theo The Information ngày 1/6. Nếu được triển khai, động thái này có thể làm suy giảm mức độ phụ thuộc của thị trường AI vào Nvidia và hệ sinh thái CUDA.

The Information cho biết Sateen Katti, lãnh đạo mảng Compute & Infrastructure của OpenAI, nói rằng nhóm nghiên cứu và đội ngũ sản phẩm của công ty đang phát triển một lớp trừu tượng hóa để người dùng không phải quan tâm đến tác vụ đang chạy trên máy chủ nào. Ông mô tả đây là một “tính năng tối ưu hóa theo tác nhân” và cho biết OpenAI muốn công nghệ này được sử dụng rộng rãi.

Trong nhiều năm, OpenAI chủ yếu dựa vào chip Nvidia. Tuy nhiên gần đây, công ty đã ký các thỏa thuận sử dụng chip của Amazon, Cerebras và AMD, đồng thời tự phát triển chip AI riêng.

Nvidia hiện giữ vị thế thống trị trên thị trường AI không chỉ nhờ phần cứng, mà còn nhờ hệ sinh thái phần mềm CUDA. Đây là bộ công cụ phần mềm độc quyền được tối ưu cho chip Nvidia, khiến nhiều nhà phát triển gần như buộc phải sử dụng phần cứng của hãng.

Theo The Information, Katti cho rằng nếu AI có thể tự tạo ra đoạn mã được tối ưu để chạy trên nhiều loại chip, mức độ ràng buộc với CUDA sẽ suy yếu.

Katti cũng cho biết OpenAI đã có trong tay mẫu chip thế hệ tiếp theo Vera Rubin của Nvidia và dự kiến sẽ đưa vào huấn luyện AI cuối năm nay. Theo ông, nút thắt lớn nhất trong việc mở rộng năng lực tính toán hiện nay không nằm ở chip, mà ở nguồn điện và khả năng kỹ thuật để triển khai, vận hành phần cứng mới.