SK hynix ngày 20/8 cho biết đã cùng một nhóm nghiên cứu quốc tế công bố trên tạp chí Nature Electronics một nghiên cứu về công nghệ CPO (Co-Packaged Optics), nhằm giải quyết bài toán nghẽn băng thông trong hạ tầng trí tuệ nhân tạo (AI).

Theo SK hynix, HBM đã góp phần xử lý điểm nghẽn bộ nhớ bên trong gói của các bộ tăng tốc AI. Tuy nhiên, khi các cụm AI siêu quy mô xuất hiện và kết nối hàng nghìn GPU cùng HBM, băng thông cho việc truyền dữ liệu giữa các hệ thống lại trở thành điểm nghẽn mới. Công ty cho biết trong khi hiệu năng tính toán tăng khoảng ba lần sau mỗi hai năm, băng thông chỉ tăng 1,4 lần, khiến khoảng cách này ngày càng nới rộng.

Nghiên cứu do Hong Seung-hoon, trưởng nhóm tại SK hynix, và giáo sư Lee Kyu-sang thuộc Khoa Kỹ thuật Điện và Máy tính, Đại học Virginia, đồng chủ trì với vai trò đồng tác giả liên hệ. Tham gia nghiên cứu còn có các nhóm từ Đại học Illinois Urbana-Champaign, Đại học Công nghệ Nanyang, Viện Công nghệ Massachusetts (MIT) và Đại học Yonsei. Bài báo đưa ra lộ trình công nghệ tổng thể cho sự hội tụ giữa bộ nhớ, công nghệ đóng gói và kết nối quang.

Giáo sư Lee Kyu-sang nhận định rằng ngay cả khi hiệu năng của chip tính toán tiếp tục tăng, hiệu quả toàn hệ thống vẫn khó cải thiện nếu năng lực truyền dữ liệu giữa các chip không theo kịp. Theo ông, truyền dữ liệu bằng ánh sáng thay cho dây đồng, vốn bị giới hạn bởi các rào cản vật lý, là hướng mở rộng khả thi nhất. Hong Seung-hoon cho biết CPO là công nghệ tích hợp bộ thu phát quang vào cùng gói với bộ xử lý, cho phép các chip trao đổi dữ liệu bằng ánh sáng thay vì qua các đường truyền điện dài.

Trong bài báo, nhóm nghiên cứu đặt ra các mục tiêu kỹ thuật cho hạ tầng AI thế hệ mới, gồm băng thông trên 100 Tb/s cho mỗi nút, điện năng tiêu thụ dưới 1 pJ/bit và độ trễ giữa các chip dưới 10 ns. Lộ trình công nghệ được mô tả theo từng bước, từ đóng gói 2D sang interposer 2.5D, sau đó là tích hợp dị thể 3D, đồng thời chỉ ra những bài toán then chốt cần giải quyết để thương mại hóa. Về dài hạn, nhóm hướng tới kiến trúc quang học làm trung tâm, trong đó interposer quang kết nối trực tiếp bộ nhớ với bộ xử lý để tối ưu hiệu quả truyền dữ liệu.

Giáo sư Lee Kyu-sang cho rằng kết nối quang nhiều khả năng sẽ trở thành công nghệ kết nối chủ chốt của hạ tầng AI trong tương lai. Ông cho biết các công nghệ liên quan đã vượt ra khỏi phạm vi phòng thí nghiệm và bước vào giai đoạn đầu của tiến trình công nghiệp hóa. Theo ông, trọng tâm hiện nay là đồng thiết kế bộ nhớ, bộ điều khiển, linh kiện quang và công nghệ đóng gói như một hệ thống thống nhất, và đây cũng là điểm hợp tác có ý nghĩa lớn với SK hynix.

Hong Seung-hoon nói điểm đáng chú ý của nghiên cứu là đã kết nối được chuyên môn học thuật với kinh nghiệm thực tiễn của ngành để cùng đề xuất hướng đi cho hạ tầng AI. Ông cho biết SK hynix sẽ tiếp tục mở rộng hợp tác mở nhằm tạo ra giá trị thực chất cho khách hàng và toàn bộ hệ sinh thái công nghiệp.