SK hynix ngày 20/4 cho biết đã bắt đầu sản xuất hàng loạt mô-đun nhớ SOCAMM2 dung lượng 192GB dành cho máy chủ trí tuệ nhân tạo (AI). Sản phẩm sử dụng DRAM LPDDR5X tiết kiệm điện, sản xuất trên tiến trình 1c (10 nm) thế hệ thứ sáu.

Theo doanh nghiệp, SOCAMM2 là chuẩn mô-đun được phát triển từ dòng bộ nhớ tiết kiệm điện vốn phổ biến trên thiết bị di động như smartphone, sau đó tối ưu lại cho môi trường máy chủ. Thiết kế đầu nối kiểu nén giúp cải thiện độ toàn vẹn tín hiệu, đồng thời thuận tiện hơn khi thay thế mô-đun.

SK hynix cho biết SOCAMM2 192GB đạt băng thông cao gấp hơn hai lần và hiệu quả năng lượng cải thiện trên 75% so với RDIMM. Kết quả này đến từ việc áp dụng tiến trình 1c, qua đó hỗ trợ triển khai DRAM mật độ cao hơn.

RDIMM là mô-đun DRAM thường dùng cho máy chủ và máy trạm, tích hợp thêm chip thanh ghi để trung chuyển tín hiệu. SK hynix cho biết SOCAMM2 192GB được thiết kế để phù hợp với Vera Rubin, nền tảng thế hệ tiếp theo của Nvidia.

Vera Rubin là nền tảng mới của Nvidia, được tối ưu cho agentic AI và các tác vụ suy luận. Nền tảng này hướng tới xử lý các bài toán nhiều bước và khối lượng công việc có ngữ cảnh dài ở quy mô lớn, đồng thời giảm các điểm nghẽn trong di chuyển bộ nhớ và giao tiếp để nâng thông lượng xử lý token trên mỗi watt so với kiến trúc Blackwell thế hệ trước.

SK hynix kỳ vọng sản phẩm mới sẽ giúp giảm tình trạng nghẽn bộ nhớ trong quá trình huấn luyện và suy luận các mô hình AI siêu lớn với hàng trăm tỷ tham số. Tình trạng này xảy ra khi tốc độ xử lý của GPU vượt quá khả năng cấp dữ liệu từ bộ nhớ, kéo hiệu năng của toàn bộ hệ thống đi xuống.

Công ty cho biết khi thị trường AI chuyển trọng tâm từ huấn luyện sang suy luận, SOCAMM2 đang được chú ý như một giải pháp bộ nhớ thế hệ mới nhờ khả năng vận hành mô hình ngôn ngữ lớn (LLM) với mức tiêu thụ điện thấp. Doanh nghiệp cũng nhấn mạnh đã sớm ổn định hệ thống sản xuất hàng loạt để đáp ứng nhu cầu từ các nhà cung cấp dịch vụ đám mây (CSP) toàn cầu.

Ông Kim Ju-seon, Chủ tịch AI Infra kiêm CMO của SK hynix, cho biết: “Việc cung cấp SOCAMM2 192GB đã thiết lập một tiêu chuẩn mới cho hiệu năng bộ nhớ AI”. Ông nói thêm SK hynix sẽ tiếp tục tăng cường hợp tác với các khách hàng AI toàn cầu, hướng tới trở thành nhà cung cấp giải pháp bộ nhớ AI đáng tin cậy nhất.