Chính phủ Hàn Quốc đang tăng tốc xây dựng hệ sinh thái AI mở, theo hướng giảm phụ thuộc vào hạ tầng lấy GPU làm trung tâm và mở rộng vai trò của NPU nội địa. Mục tiêu là hình thành một hệ thống AI full-stack kết hợp phần cứng, phần mềm và hiệu quả năng lượng, qua đó nâng sức cạnh tranh cho doanh nghiệp bán dẫn AI trong nước.

Ngày 20/8, Bộ Khoa học và CNTT Hàn Quốc tổ chức tọa đàm về xây dựng hệ sinh thái hạ tầng AI mở với sự tham gia của các doanh nghiệp bán dẫn AI trong nước tại HJ Business Center ở Gwanghwamun, Seoul. Sự kiện diễn ra sau thỏa thuận hợp tác mà bộ này ký với AMD hồi tháng 7.

Một trong những trọng tâm được nhấn mạnh tại tọa đàm là sự thay đổi nhanh của thị trường AI. Khi các dịch vụ AI tạo sinh mở rộng, nhu cầu thị trường đang dịch chuyển từ giai đoạn huấn luyện mô hình lớn sang suy luận, tức giai đoạn triển khai mô hình vào vận hành thực tế. Trong bối cảnh đó, tối ưu điện năng và chi phí vận hành trở thành yếu tố then chốt quyết định năng lực cạnh tranh của hạ tầng AI.

Theo đó, mô hình phụ thuộc vào một loại chip duy nhất đang dần bộc lộ giới hạn. Mỗi dịch vụ AI có yêu cầu khác nhau về hiệu năng, chi phí và điện năng tiêu thụ, khiến nhu cầu về kiến trúc dị thể ngày càng tăng. Đây là mô hình phối hợp CPU, GPU, NPU cùng bộ nhớ, mạng và phần mềm để tối ưu theo từng đặc tính dịch vụ.

Phó thủ tướng kiêm Bộ trưởng Khoa học và CNTT Hàn Quốc Bae Kyung-hoon nhấn mạnh năng lực triển khai thực tế các chipset và hạ tầng dị thể sẽ trở thành yếu tố cốt lõi. Theo ông, chính phủ sẽ tăng cường các chính sách chiến lược nhằm tối ưu AI và chuẩn bị cho “kỷ nguyên token”.

Trong chiến lược này, hạ tầng AI mở được xem là cơ hội để các doanh nghiệp NPU Hàn Quốc mở rộng hiện diện trong thị trường hiện do GPU của Nvidia chi phối. Nhờ kiến trúc được tối ưu cho tác vụ AI, NPU có thể đạt hiệu quả cao hơn về điện năng và chi phí, đặc biệt ở giai đoạn suy luận. Tuy nhiên, để mở rộng thị trường, chỉ hiệu năng của từng con chip là chưa đủ; điều quan trọng là phải xây dựng được hệ sinh thái đồng bộ từ máy chủ, mạng đến phần mềm.

Chính phủ Hàn Quốc coi hợp tác với AMD là một mắt xích quan trọng trong quá trình mở rộng hệ sinh thái NPU nội địa. Thay vì chỉ tập trung thay thế GPU của một nhà cung cấp cụ thể, định hướng của Seoul là xây dựng môi trường nơi CPU, GPU và NPU có thể được sử dụng đồng thời, đồng thời đưa doanh nghiệp Hàn Quốc trở thành một trụ cột trong hệ sinh thái AI computing toàn cầu.

AMD dự kiến thành lập “AI Center of Excellence” tại Hàn Quốc trước cuối năm nay. Hãng cũng sẽ tăng số lượng kỹ sư thường trú đến cuối năm 2027 nhằm củng cố năng lực hỗ trợ kỹ thuật.

Moon Kyung-seon, Giám đốc điều hành AMD Korea, cho biết công ty sẽ thúc đẩy hợp tác trong 4 lĩnh vực cốt lõi đến cuối năm 2027 thông qua chiến lược “kim cương”, kết nối Bộ Khoa học và CNTT Hàn Quốc, AMD, các nhà phát triển NPU nội địa và các doanh nghiệp phần mềm tích hợp.

Tại tọa đàm, nhiều doanh nghiệp NPU bày tỏ sự ủng hộ với định hướng này. FuriosaAI cho rằng càng sớm định hình được hạ tầng AI mở, doanh nghiệp Hàn Quốc càng có cơ hội đẩy nhanh mở rộng ra thị trường quốc tế. Theo hãng, kiến trúc AI dị thể kết hợp NPU nội địa với CPU và GPU của AMD có thể trở thành phương án giúp giảm phụ thuộc vào một nhà cung cấp duy nhất.

Kim Han-joon, CTO của FuriosaAI, cho biết các tập đoàn công nghệ lớn đang tích cực áp dụng kiến trúc dị thể để giải quyết tình trạng chi phí leo thang và rủi ro chuỗi cung ứng phát sinh từ việc phụ thuộc vào một nhà cung cấp.

Phạm vi của kiến trúc dị thể được dự báo sẽ tiếp tục mở rộng. Các doanh nghiệp tham dự tọa đàm cho rằng cuộc cạnh tranh trên thị trường chip AI không còn dừng ở hiệu năng của từng con chip, mà đang chuyển sang cuộc đua về hệ thống và nền tảng, nơi phần cứng và phần mềm phải được tích hợp đồng bộ.

Nhu cầu về hạ tầng AI mở ứng dụng các công nghệ thế hệ mới cũng được nhấn mạnh. Trong đó có Compute Express Link (CXL), công nghệ kết nối tốc độ cao giữa thiết bị tăng tốc như CPU, GPU và bộ nhớ, cùng với DPU - bộ xử lý chuyên trách dữ liệu cho mạng và thiết bị lưu trữ.

Tọa đàm cũng đề cập đến yêu cầu phải bám sát nhu cầu hạ tầng hiện hữu. Shin Jeong-gyu, CEO của Rableup, cho rằng điểm nghẽn lớn nhất trong thời gian tới có thể không nằm ở GPU mà ở CPU. Ông dự báo tình trạng thiếu nguồn cung CPU có thể xuất hiện vào nửa cuối năm nay hoặc nửa đầu năm sau.

Một bài toán lớn khác là năng lực AI full-stack, bao trùm cả phần cứng lẫn phần mềm. Đại diện các doanh nghiệp đề xuất chính phủ mở rộng giao diện mở để kết nối nhiều loại thiết bị và phần mềm khác nhau, đồng thời thúc đẩy tiêu chuẩn quốc tế, công nghệ mã nguồn mở và xây dựng hạ tầng thử nghiệm cấp quốc gia để kiểm chứng trong môi trường thực tế.

Để NPU nội địa vượt qua giai đoạn R&D và bước vào thị trường, yếu tố then chốt là phải có các ca sử dụng thực tế trong trung tâm dữ liệu và dịch vụ AI. Không chỉ hiệu năng tính toán của chip, mà cả khả năng tích hợp với CPU và GPU hiện có, cấu hình máy chủ và mức độ tương thích phần mềm cũng cần được kiểm chứng để đủ sức cạnh tranh trên thị trường toàn cầu.

Kết luận tọa đàm, Bae Kyung-hoon cho biết khi thị trường AI toàn cầu chuyển từ huấn luyện sang suy luận, cạnh tranh cũng đang dịch chuyển từ hiệu năng chip đơn lẻ sang hệ sinh thái AI mở với trọng tâm là tối ưu điện năng và chi phí. Ông nói chính phủ sẽ đẩy mạnh hỗ trợ thử nghiệm full-stack để NPU nội địa sớm tạo ra các trường hợp thành công trong trung tâm dữ liệu và dịch vụ AI, đồng thời tăng tốc xây dựng hệ sinh thái liên quan.