Logo của Nutanix. Ảnh: Nutanix

Techzine ngày 23/9 đưa tin Nutanix sẽ mua lại Ryax Technologies, công ty Pháp phát triển công nghệ điều phối cho khối lượng công việc AI. Thương vụ nhằm tăng hiệu quả sử dụng GPU trong doanh nghiệp, đồng thời tự động bố trí tác vụ AI lên hạ tầng có chi phí thấp hơn hoặc hiệu quả năng lượng tốt hơn.

Theo Techzine, Nutanix dự kiến tích hợp công nghệ điều phối và lập lịch của Ryax vào thế hệ tiếp theo của Nutanix Kubernetes Platform (NKP) và Nutanix Enterprise AI (NAI).

Với NKP, các tính năng từ Ryax sẽ tập trung vào phân tích lịch sử sử dụng tài nguyên. Hệ thống sẽ học từ dữ liệu vận hành trước đó để điều chỉnh hạn mức phân bổ GPU theo từng phiên chạy tác vụ.

Khi xảy ra sự cố thiếu bộ nhớ trong quá trình vận hành, hệ thống có thể cấp thêm bộ nhớ GPU và tự động khởi động lại tác vụ. Nền tảng cũng hỗ trợ chia nhỏ GPU để nhiều container cùng sử dụng một GPU, đồng thời bổ sung mô hình GPU serverless, chỉ cấp phát tài nguyên khi tác vụ thực sự chạy.

Nutanix cho biết trong thử nghiệm nội bộ của Ryax, việc điều chỉnh tài nguyên theo từng phiên chạy giúp thời lượng sử dụng node cho 30 tác vụ học sâu giảm 62%, trong khi tốc độ hoàn thành được cải thiện 5,7%.

Đối với NAI, Nutanix dự kiến triển khai một lớp meta-scheduling toàn cục để điều phối toàn bộ tác vụ. Lớp này sẽ phân bổ các tác vụ huấn luyện, batch và suy luận theo mục tiêu về hiệu năng, chi phí và năng lượng, rồi chuyển chúng tới thiết bị Nvidia hoặc AMD, đám mây công cộng hoặc các cụm HPC chạy trên Slurm.

Techzine cho biết hệ thống sẽ đánh giá từng cụm dựa trên mô hình tiêu thụ điện của phần cứng, từ đó xếp lịch tác vụ tới nơi được dự báo tiêu thụ ít năng lượng nhất.

Từ khóa

#Nutanix #Ryax Technologies #GPU #Kubernetes #Nutanix Kubernetes Platform #Nutanix Enterprise AI #điều phối tác vụ AI #lập lịch tài nguyên #tối ưu GPU
Copyright © DigitalToday. All rights reserved. Unauthorized reproduction and redistribution are prohibited.