CEO Moreh Cho Kang-won cho rằng việc phát triển mô hình trí tuệ nhân tạo nội địa thôi là chưa đủ để hình thành sovereign AI đúng nghĩa. Theo ông, để xây dựng một hệ sinh thái full-stack sovereign AI, Hàn Quốc cần đồng thời nâng năng lực ở chip AI, trung tâm dữ liệu và phần mềm hạ tầng nhằm kết nối, điều phối hiệu quả nhiều loại bán dẫn.

Trao đổi với phóng viên gần đây, ông Cho nhận định nếu không tính Mỹ và Trung Quốc, Hàn Quốc là quốc gia tiến gần nhất tới mục tiêu triển khai sovereign AI. Tuy nhiên, điều kiện tiên quyết không chỉ nằm ở mô hình hay bán dẫn, mà còn ở khả năng làm chủ trung tâm dữ liệu và lớp phần mềm vận hành hạ tầng.

Moreh là doanh nghiệp phát triển phần mềm hạ tầng giúp khai thác hiệu quả chip AI của nhiều nhà sản xuất trong cùng một trung tâm dữ liệu. Công ty xây dựng công nghệ cho phép vận hành mô hình AI không chỉ trên GPU của Nvidia mà còn trên chip của AMD và Tenstorrent, qua đó tối ưu khối lượng tính toán và giảm chi phí vận hành.

Ông Cho đánh giá tích cực định hướng của chính phủ Hàn Quốc trong việc phát triển mô hình nền tảng AI nội địa và thúc đẩy ngành chip AI trong nước. Theo ông, ngoài Mỹ và Trung Quốc, rất ít quốc gia có đồng thời nhiều doanh nghiệp cạnh tranh ở cả hai mảng này. Đây là nền tảng để Hàn Quốc tiến tới full-stack sovereign AI.

Dù vậy, ông nhấn mạnh phát triển mô hình AI nội địa vẫn là yêu cầu bắt buộc. Theo ông, không thể mặc định các công ty nước ngoài sẽ tiếp tục công khai những mô hình tiên tiến nhất trong dài hạn.

CEO Moreh cho rằng nếu doanh nghiệp trong nước có thể duy trì khoảng cách chỉ chậm hơn 3-6 tháng so với các mô hình dẫn đầu toàn cầu, năng lực cạnh tranh vẫn sẽ được bảo toàn ở mức đáng kể. Ông lấy ví dụ các tập đoàn như Samsung Electronics cần có khả năng xử lý dữ liệu công nghiệp nhạy cảm trong trung tâm dữ liệu riêng, đồng thời vẫn tiếp cận được các mô hình AI có năng lực gần với nhóm dẫn đầu thế giới.

Từ đó, ông kêu gọi mở rộng phạm vi tự chủ công nghệ từ mô hình AI sang toàn bộ chuỗi cung ứng. Theo ông, Hàn Quốc cần tích lũy năng lực ở các lớp nền tảng như bán dẫn và phần mềm hạ tầng để hiện thực hóa mục tiêu full-stack sovereign AI.

Một trong những bài toán then chốt là giảm phụ thuộc vào chip nước ngoài ngay từ khâu huấn luyện mô hình. Hiện nay, hoạt động huấn luyện AI tại Hàn Quốc vẫn chủ yếu dựa vào GPU nhập khẩu như Nvidia, trong khi các công ty thiết kế NPU nội địa như Rebellions và FuriosaAI mới tập trung phần lớn vào thị trường suy luận thay vì huấn luyện quy mô lớn.

Theo ông Cho, xét về mặt kỹ thuật, việc dùng NPU nội địa để huấn luyện mô hình AI không phải là điều bất khả thi. Ông cho rằng việc các doanh nghiệp bán dẫn trong nước dồn trọng tâm sang suy luận chủ yếu là quyết định kinh doanh, nhằm ưu tiên phân khúc đã có nhu cầu rõ ràng trên thị trường, chứ không phải vì bị giới hạn về công nghệ.

“Không có lý do gì NPU nội địa lại không thể dùng cho huấn luyện”, ông nói. Tuy nhiên, với các startup, việc ưu tiên thị trường có đầu ra rõ ràng là lựa chọn thực tế hơn, và đó là lý do họ đang tập trung vào suy luận.

Ông cũng lưu ý huấn luyện và suy luận có tiêu chí lựa chọn hạ tầng rất khác nhau. Với các mô hình quy mô lớn, một lần huấn luyện thất bại có thể khiến tiến độ chậm đi nhiều tháng, nên doanh nghiệp thường ưu tiên hạ tầng đã được kiểm chứng. Trong khi đó, ở mảng suy luận, yếu tố cốt lõi là giảm chi phí trên mỗi token, nên động lực áp dụng nhiều loại bán dẫn khác nhau cũng lớn hơn.

Để NPU nội địa tham gia vào huấn luyện quy mô lớn, thị trường vẫn cần thêm thời gian để phát triển và kiểm chứng công nghệ. Trong quá trình huấn luyện, nhiều chip phải cùng chia sẻ khối lượng tính toán và liên tục trao đổi dữ liệu, vì vậy ngoài hiệu năng của từng chip, hệ thống còn đòi hỏi năng lực kết nối giữa các bán dẫn và mức độ hoàn thiện của phần mềm huấn luyện phân tán.

Ông Cho thừa nhận phần mềm phục vụ huấn luyện phức tạp hơn suy luận và còn nhiều vấn đề kỹ thuật phải giải quyết. Tuy nhiên, ông dự báo rào cản gia nhập hệ sinh thái CUDA của Nvidia sẽ dần hạ xuống. Theo ông, Moreh đã sở hữu năng lực nội bộ về phần mềm huấn luyện cho bộ tăng tốc của Tenstorrent, nhưng hiện công ty vẫn đi theo nhu cầu thị trường suy luận và chưa triển khai kiểm chứng huấn luyện ở quy mô lớn.

Một nội dung khác được ông Cho nhấn mạnh là “clustering” – tức kết nối nhiều loại bán dẫn thành một hệ thống tính toán quy mô lớn. Theo ông, đây là mắt xích then chốt để hiện thực hóa full-stack sovereign AI. Mô hình AI càng lớn thì càng cần nhiều chip cùng chia tải; nếu việc truyền dữ liệu và điều phối tác vụ không trơn tru, hiệu năng toàn hệ thống sẽ suy giảm đáng kể.

Ông phân tích lợi thế cạnh tranh của Nvidia hiện không chỉ nằm ở GPU mà còn mở rộng sang công nghệ kết nối như NVLink và NVSwitch. Nếu Nvidia tập trung tăng khả năng liên kết giữa các bán dẫn bằng phần cứng, Moreh lại theo đuổi cách tiếp cận dựa trên phần mềm để vận hành hiệu quả chip từ nhiều nhà sản xuất trên cùng một hạ tầng.

Moreh cho biết đã phát triển công nghệ suy luận phân tán trên hạ tầng bán dẫn dị chủng, cho phép chia tác vụ AI giữa Nvidia H100 và AMD MI300X. Trong thử nghiệm nội bộ, ở một số điều kiện tải cao, cấu hình này đạt thông lượng cao hơn tối đa 1,67 lần so với phương án chỉ sử dụng MI300X. Công ty cũng đang xem xét mở rộng năng lực hỗ trợ bán dẫn dị chủng sang các NPU nội địa.

Theo ông Cho, điều cần phá bỏ trước tiên là quan niệm cho rằng chỉ Nvidia mới có thể làm được điều này. Ông nói việc đưa thêm các dòng chip như AMD vào ứng dụng thực tế và chứng minh hiệu quả vận hành cũng có thể tạo nền tảng dài hạn cho NPU nội địa.

Ông nhấn mạnh không có một loại bán dẫn nào có thể làm tốt mọi tác vụ. Nếu NPU nội địa tạo được lợi thế ở một số bài toán cụ thể, chỉ cần đảm nhận 5-10% tổng khối lượng công việc của toàn bộ trung tâm dữ liệu thì quy mô thị trường đó cũng đã đủ lớn.

Về chính sách, CEO Moreh cho rằng cách hỗ trợ doanh nghiệp của chính phủ cũng cần thay đổi. Theo ông, thay vì áp tỷ lệ bắt buộc sử dụng bán dẫn nội địa, chính sách nên tập trung vào việc kích cầu số lượng token AI được sản xuất trong nước. Một trong những phương án được ông đề xuất là cung cấp “voucher token” cho các doanh nghiệp có nhu cầu.

Lý do, theo ông, là bên mua token AI thường quan tâm nhiều hơn đến giá thành và hiệu năng, thay vì loại bán dẫn nào được sử dụng, phía sau. Khi thị trường xuất hiện nhu cầu mua thực, phía cung sẽ tự tối ưu bằng cách kết hợp nhiều loại chip và phần mềm để hạ chi phí.

“Nếu tạo được đầu ra, các công ty sẽ tự kiểm chứng công nghệ và tự hợp tác với nhau”, ông Cho nói. Ông lấy ví dụ, nếu phần mềm giúp nâng hiệu suất tính toán thêm 30% và nhờ đó tạo ra nhiều token hơn để tăng doanh thu, doanh nghiệp sẽ chủ động phối hợp mà không cần chính phủ áp đặt.