Ảnh: Shutterstock

Nvidia vừa công bố chi tiết CPU Vera dành cho trung tâm dữ liệu AI, đồng thời cho biết hãng đã bắt đầu giao chip từ tháng 6 tới OpenAI, Anthropic, SpaceX và một số khách hàng khác.

Động thái này cho thấy Nvidia đang mở rộng hiện diện trong thị trường máy chủ AI bằng cách tự phát triển cả CPU, bên cạnh dòng GPU vốn là thế mạnh cốt lõi của hãng.

Vera là CPU máy chủ đầu tiên do Nvidia tự thiết kế từ đầu. Theo CNBC ngày 21/7 (giờ địa phương), Nvidia cho biết con chip này được phát triển để giảm các điểm nghẽn trong môi trường AI agent, với hiệu năng xử lý tác vụ AI agent cao hơn 50% so với chip x86 của Intel và AMD.

Về kiến trúc, Vera ưu tiên hiệu năng đơn nhân thay vì chạy theo số lượng lõi. Hannah Kutang, phụ trách marketing sản phẩm Vera tại Nvidia, cho biết con chip được tối ưu để nâng hiệu quả khai thác GPU nhờ tốc độ trên mỗi lõi cao, băng thông bộ nhớ lớn và độ trễ thấp.

Nvidia cũng đang đẩy mạnh bán các hệ thống hoàn chỉnh theo dạng rack, thay vì chỉ cung cấp chip đơn lẻ. Vera sẽ được bán dưới dạng chip rời hoặc cấu hình tích hợp với GPU. Theo hãng, một rack làm mát bằng nước có thể triển khai tối đa 256 CPU Vera, đồng thời Nvidia cũng cung cấp cấu hình máy chủ dùng 2 CPU Vera. Ngoài ra, sản phẩm còn có phiên bản hệ thống “Vera Rubin” kết hợp cùng GPU.

Nvidia cho biết vào thời điểm ChatGPT ra mắt năm 2022, các máy chủ AI thế hệ đầu thường được thiết kế theo cấu trúc một CPU kết nối với tối đa 8 GPU. Tuy nhiên, khi các AI agent ngày càng vận hành tự động hơn và cần ít sự can thiệp của con người hơn, vai trò của CPU trong việc cung cấp dữ liệu và xử lý tác vụ cũng trở nên quan trọng hơn.

Hiện việc triển khai Vera vẫn mới ở giai đoạn đầu. Trong danh sách đối tác, Nvidia mới chỉ công bố Oracle là nhà cung cấp dịch vụ đám mây quy mô lớn. OpenAI được cho là sẽ triển khai Vera trên quy mô lớn từ quý này.

Về thông số vận hành, Vera có mức tiêu thụ điện từ 250 đến 450 watt và hỗ trợ tối đa 1,5 terabyte bộ nhớ tiết kiệm điện trên mỗi chip.

Từ khóa

#Nvidia #CPU Vera #trung tâm dữ liệu AI #AI agent #OpenAI #Anthropic #SpaceX #Oracle
Copyright © DigitalToday. All rights reserved. Unauthorized reproduction and redistribution are prohibited.