Mô hình Claude của Anthropic. Ảnh: Shutterstock

Anthropic cho biết đã ký một thỏa thuận trị giá nhiều tỷ USD với AMD nhằm đảm bảo công suất GPU lên tới 2 gigawatt.

Theo SiliconAngle ngày 22/7 (giờ địa phương), AMD cũng dự kiến đầu tư tối đa 5 tỷ USD vào Anthropic, đồng thời lên kế hoạch ứng dụng mô hình AI Claude vào hoạt động phát triển phần mềm của hãng.

Theo thỏa thuận, Anthropic sẽ lựa chọn GPU dòng MI450 của AMD và triển khai trên hệ thống rack Helios. Hai bên dự kiến bắt đầu đưa phần cứng này vào vận hành từ nửa đầu năm 2027.

Mỗi hệ thống Helios gồm 72 GPU, đạt hiệu năng tối đa 1,4 exaflops ở chuẩn FP8. Hệ thống này cũng được trang bị 31 TB bộ nhớ HBM4, cao hơn 50% so với hệ thống Vera Rubin chủ lực của Nvidia. Helios hỗ trợ băng thông scale-out 43 terabit/giây.

Ngoài GPU, Helios còn sử dụng CPU và DPU của Pensando. Các chip của Pensando đảm nhiệm việc giám sát các chỉ số vận hành và độ tin cậy của phần cứng, trong đó có độ trễ, đồng thời xử lý hơn 12 tác vụ quản trị hạ tầng như cân bằng tải và mã hóa lưu lượng.

Hai bên cũng sẽ hợp tác trong nhiều năm nhằm cải thiện hiệu quả phát triển phần mềm của AMD. Trọng tâm là đẩy nhanh tiến độ phát triển ROCm, nền tảng phần mềm đi kèm Helios. ROCm bao gồm trình biên dịch giúp chuyển đổi mô hình AI của khách hàng sang định dạng tương thích với AMD, cùng các công cụ tối ưu hiệu năng huấn luyện và suy luận.

Thỏa thuận với Anthropic là hợp đồng phần cứng AI lớn mới nhất mà AMD giành được từ đầu năm đến nay. Đầu tuần này, Microsoft cho biết đang triển khai Helios tại các trung tâm dữ liệu đám mây của hãng. Trước đó, vào tháng 2, Meta công bố kế hoạch mua GPU của AMD với quy mô tối đa 6 gigawatt; đơn hàng ban đầu là các GPU tùy biến dựa trên dòng MI450, tương tự cấu hình mà Anthropic lựa chọn.

Từ khóa

#Anthropic #AMD #GPU #Claude #Helios #MI450 #ROCm #Microsoft #Meta
Copyright © DigitalToday. All rights reserved. Unauthorized reproduction and redistribution are prohibited.