Meta Llama. Ảnh: Shutterstock

Theo The Register, Meta đã phát triển Vistara, một công nghệ cho phép tái sử dụng các thanh RAM DDR4 từ máy chủ cũ trên hệ thống máy chủ mới thông qua chip CXL (Compute Express Link) do Meta tự thiết kế.

Trong nghiên cứu do Meta công bố, khoảng 40% số máy chủ của hãng, tương đương hàng triệu thiết bị, không thể mở rộng thêm bộ nhớ, khiến một số khối lượng công việc bị giới hạn. Trong khi vòng đời của máy chủ thường chỉ kéo dài 3-5 năm, bộ nhớ lại có thể sử dụng tới 7-10 năm.

Để giải quyết bài toán này, Meta tháo RAM DDR4 từ các máy chủ cũ và tái sử dụng trên các máy chủ mới chạy DDR5, đồng thời xây dựng một bể (pool) bộ nhớ dùng chung.

Tuy nhiên, việc kết hợp nhiều chuẩn bộ nhớ khác nhau có thể làm giảm băng thông, tăng độ trễ và khiến công tác vận hành phức tạp hơn. Theo The Register, các sản phẩm CXL hiện có trên thị trường cũng không phù hợp vì không hỗ trợ hiệu quả việc tái sử dụng mô-đun RAM hiện có, không tương thích với DDR4, đồng thời tiêu thụ nhiều điện năng và có chi phí cao.

Vì vậy, Meta đã tự thiết kế ASIC Vistara để kết nối RAM DDR4 với bộ xử lý chủ thông qua giao diện CXL 2.0.

Meta cho biết công nghệ này đã được triển khai cho các tác vụ suy luận AI, xử lý dữ liệu lớn, cơ sở dữ liệu và bộ nhớ đệm phân tán. Nhờ đó, số sự cố khiến tác vụ bị dừng do thiếu bộ nhớ đã giảm 33%.

The Register cho biết thêm, trong các tác vụ suy luận phân tán, Meta có thể cắt giảm tới 25% số máy chủ, qua đó nâng hiệu quả chi phí trong bối cảnh giá bộ nhớ tăng mạnh.

Từ khóa

#Meta #Vistara #CXL 2.0 #DDR4 #DDR5 #ASIC #máy chủ #suy luận AI
Copyright © DigitalToday. All rights reserved. Unauthorized reproduction and redistribution are prohibited.