Trong kỷ nguyên agentic AI, thước đo hiệu quả kinh tế không còn nằm ở đơn giá token mà ở chi phí hoàn thành một nhiệm vụ. Theo các chuyên gia, mô hình càng mạnh thì số lần thử lại càng giảm, từ đó có thể rút ngắn thời gian xử lý và tiết kiệm chi phí. Xu hướng này cũng kéo theo nhu cầu nâng cấp hạ tầng AI theo hướng ưu tiên bộ nhớ và NPU, thay vì chỉ mở rộng GPU.

Nhận định trên được đưa ra tại “Diễn đàn ăn sáng về agentic AI ở Quốc hội”, tổ chức ngày 28/7 tại tòa nhà Quốc hội ở Yeouido. Phát biểu tại sự kiện, Lee Dong-su, CEO AtoSys, cho biết với AI tạo sinh trước đây, trọng tâm là tạo token với chi phí thấp và điện năng tiêu thụ ít. Tuy nhiên, với agentic AI, điều quan trọng hơn là hệ thống phải mất bao nhiêu vòng xử lý để hoàn thành công việc.

Theo ông Lee, khác với chatbot chỉ phản hồi một lần, AI agent có thể tự lập kế hoạch để đạt mục tiêu, đồng thời gọi công cụ hoặc phối hợp với các agent khác. Khi kết quả thực thi không đạt yêu cầu, hệ thống sẽ quay lại các bước trước để xử lý lại.

Ông phân tích cấu trúc này có thể khiến lượng token mà AI agent sử dụng cao gấp 136 lần so với AI tạo sinh hiện nay. Nguyên nhân là nhiều agent phải liên tục trao đổi ngữ cảnh và kết quả công việc, trong khi các tác vụ thất bại cần được lặp lại, khiến cả lượng token lẫn nhu cầu tính toán cùng tăng mạnh.

### Phải tính tổng chi phí, không chỉ nhìn vào giá token

Từ góc độ vận hành, ông Lee cho rằng doanh nghiệp cần đánh giá tổng chi phí theo từng nhiệm vụ, thay vì chỉ so sánh giá token.

Trong bài kiểm tra do ông thực hiện với các bài toán lập trình có độ khó cao, mô hình có đơn giá token thấp nhất lại là mô hình mất nhiều thời gian nhất và tốn kém nhất để hoàn thành công việc. Theo ông, nguyên nhân nằm ở hiệu năng mô hình thấp, dẫn tới nhiều lỗi hơn và phải chạy lại nhiều lần.

“Mô hình mạnh hiểu tốt hơn các tác vụ phức tạp, giúp giảm số lần gọi lặp và số lần thử lại, nên có thể vừa nhanh hơn vừa rẻ hơn”, ông nói. “Trong thời đại agentic AI, yếu tố quan trọng là hoàn thành công việc với số vòng xử lý ít nhất, chứ không phải đơn giá token.”

Chính phủ Hàn Quốc cũng đang định hướng nâng cao năng lực agentic cho các mô hình AI nội địa. Mục tiêu là vượt ra ngoài khả năng hỏi đáp đơn thuần, hướng tới các mô hình có thể lập kế hoạch và thực thi tác vụ phức tạp thông qua công cụ.

Baek Byung-su, Vụ trưởng phụ trách đào tạo nhân lực số thuộc Bộ Khoa học và ICT Hàn Quốc, cho biết AI agent có thể tiêu thụ lượng token rất lớn, vì vậy công nghệ thực thi dựa trên hiệu quả token giữ vai trò đặc biệt quan trọng. Ông cũng nói thêm rằng các mô hình nền tảng do Hàn Quốc tự phát triển sẽ được thúc đẩy theo hướng tăng cường năng lực agentic.

Baek đồng thời giới thiệu “Sáng kiến agentic AI”, được công bố ngày 23/7, với ba trụ cột gồm xây dựng nền tảng an toàn và đáng tin cậy, hình thành hệ sinh thái thực thi, và thúc đẩy người dân cùng doanh nghiệp ứng dụng công nghệ này.

Cụ thể, trong năm nay, Hàn Quốc sẽ xây dựng bộ hướng dẫn về an toàn, độ tin cậy và hệ thống đánh giá hiệu năng. Từ năm 2027, nước này sẽ bắt đầu phát triển các công nghệ lõi cho nền tảng AI dựa trên hiệu quả token. Sang năm 2028, Hàn Quốc dự kiến phát triển công nghệ cốt lõi cho hệ điều hành AI nhằm vận hành tích hợp nhiều mô hình, nhiều agent và các công cụ bên ngoài.

### Không chỉ tăng GPU, vai trò của bộ nhớ và NPU sẽ lớn hơn

Khi agentic AI được triển khai rộng hơn, bài toán hạ tầng không còn chỉ xoay quanh năng lực tính toán. Theo các diễn giả, hệ thống sẽ phải được thiết kế đồng thời theo các tiêu chí về xử lý dữ liệu, di chuyển dữ liệu, khai thác bộ nhớ và hiệu quả điện năng.

Ông Lee cho rằng trong môi trường agentic AI, sẽ có những trường hợp GPU không phải thành phần hoạt động nhiều nhất, trong khi bộ nhớ lại gánh phần lớn khối lượng xử lý. Theo ông, nếu Hàn Quốc kết hợp được thế mạnh về bộ nhớ với các dịch vụ agent AI, nước này có thể tạo ra lợi thế cạnh tranh mới.

Đại diện ngành bán dẫn AI Hàn Quốc cũng nhấn mạnh rằng điều quan trọng không phải chỉ là tăng nguồn cung GPU, mà là xây dựng cấu hình hệ thống có thể tối ưu chi phí và điện năng theo từng nhiệm vụ.

Shin Dong-ju, CEO Mobilint, nhận định hệ thống agent được hình thành từ nhiều chủ thể như doanh nghiệp phát triển mô hình, đơn vị hệ thống, công ty tối ưu hóa, phía khách hàng và doanh nghiệp bán dẫn. Ông đề xuất cần có các dự án thí điểm để kiểm chứng khả năng cắt giảm chi phí ở cấp độ hệ thống thông qua hợp tác đa bên.

Trong khi đó, Kim Young-shin, phụ trách đối ngoại tại Rebellions, cho biết tại các dự án công, yêu cầu đưa bộ gia tốc AI vào hệ thống thường chỉ giới hạn ở GPU, khiến NPU nội địa khó có cơ hội tham gia. Theo ông, cần xây dựng một cơ chế để ngay từ khâu thiết kế chính sách, các doanh nghiệp mô hình, dịch vụ và bán dẫn trong nước có thể cùng tham gia tạo lập thị trường.

Liên quan đến chính sách hỗ trợ, Cho In-chul, nghị sĩ Đảng Dân chủ Hàn Quốc và là thành viên Ủy ban Đặc biệt về Ngân sách và Quyết toán của Quốc hội, cho biết ông sẽ xem xét các biện pháp hỗ trợ ngành agent AI trong quá trình xây dựng dự toán ngân sách năm sau. Ông kêu gọi doanh nghiệp chủ động đề xuất nếu có nhu cầu về ngân sách hoặc cải cách thể chế, đồng thời nhấn mạnh Quốc hội sẽ xây dựng phương án hỗ trợ dựa trên ý kiến từ thực tế thị trường.