XCENA, công ty fabless phát triển hạ tầng bộ nhớ thế hệ mới, cho biết đã tham dự OCP Global Summit 2026 và trình diễn các công nghệ bộ nhớ nhằm nâng hiệu quả cho tác vụ suy luận AI.

Sự kiện diễn ra từ ngày 12 đến 15/10 theo giờ địa phương tại Trung tâm Hội nghị San Jose, Mỹ. Tại đây, XCENA giới thiệu hai bản demo suy luận AI sử dụng MX1, giải pháp bộ nhớ dựa trên chuẩn CXL (Compute Express Link).

Ở bản demo đầu tiên, nhiều máy chủ phục vụ suy luận AI cùng chia sẻ KV cache thông qua CXL memory pool. KV cache là phần dữ liệu lưu lại ngữ cảnh mà mô hình đã xử lý để tái sử dụng khi tạo phản hồi. Theo XCENA, thay vì lưu riêng KV cache trên từng máy chủ, việc đưa dữ liệu này vào CXL memory pool để dùng chung có thể giảm trùng lặp lưu trữ và cắt giảm lượng dữ liệu cần dịch chuyển giữa các máy chủ.

Bên cạnh đó, công ty cũng trình diễn bản demo tăng tốc tìm kiếm vector, một khâu cốt lõi trong RAG (retrieval-augmented generation), bằng cách tận dụng tính năng Near-Data Processing (NDP) của MX1.

XCENA cho biết hiện công ty đang hợp tác kỹ thuật với SK hynix để ứng dụng kiến trúc CXL hybrid cho các workload AI.

CEO Kim Jin-young cho rằng để nâng hiệu năng và hiệu quả của hạ tầng AI, năng lực tính toán thôi là chưa đủ, mà còn cần tối ưu cách sử dụng bộ nhớ và giảm dịch chuyển dữ liệu. Theo ông, các bản demo tại sự kiện lần này cho thấy MX1 có thể được ứng dụng như thế nào trong những workload AI thực tế. XCENA cũng sẽ tiếp tục hợp tác với các đối tác trong hệ sinh thái để phát triển hạ tầng bộ nhớ AI thế hệ mới.