Microsoft đang nghiên cứu công nghệ composable memory để xử lý bài toán thiếu bộ nhớ tại các trung tâm dữ liệu AI. Hướng tiếp cận này nhằm hợp nhất phần bộ nhớ đang bị cố định trên từng máy chủ, qua đó cho phép phân bổ tài nguyên linh hoạt hơn theo nhu cầu của các tác vụ AI trên Azure. Thông tin được SiliconANGLE đăng tải vào ngày 14/10 (giờ địa phương).

Theo bài viết, Samir Rajadhnya, kiến trúc sư trưởng của Microsoft, đã đề cập vấn đề này tại AI Data Pipeline Forum. Nhóm thăm dò công nghệ do ông phụ trách đang tìm cách biến phần bộ nhớ vốn được sử dụng riêng rẽ trên từng máy chủ thành nguồn tài nguyên dùng chung, có thể điều phối linh hoạt trong hạ tầng Azure.

Tại các trung tâm dữ liệu AI, tình trạng GPU phải chờ dữ liệu diễn ra khá phổ biến do bộ nhớ và hệ thống lưu trữ không đáp ứng kịp.

Nhu cầu AI tăng mạnh cũng khiến nguồn cung bộ nhớ ngày càng trở nên căng thẳng hơn. Theo Rajadhnya, mảng suy luận AI hiện đồng thời vấp phải hai giới hạn lớn là điện năng và bộ nhớ.

Rajadhnya cho biết thị trường hiện thiếu bộ nhớ, trong khi việc để tài nguyên này bị “trói” vào những tác vụ không còn sử dụng là một sự lãng phí. Ông nhấn mạnh rằng trước đây bộ nhớ thường chỉ được xem là thành phần đi kèm CPU hoặc GPU, nhưng nay đã trở thành một tài nguyên trọng yếu.

Ông cũng lưu ý rằng đổi mới hiện diễn ra đồng thời ở cả bộ nhớ lẫn bộ xử lý. Tuy nhiên, vấn đề then chốt vẫn là cách kết nối hai thành phần này. Theo ông, công nghệ kết nối quang có thể hỗ trợ việc triển khai composable memory.