“Việc sử dụng kết hợp nhiều mô hình nay đã trở thành chuyện bình thường, chỉ là người dùng không nhận ra.”

Trao đổi với phóng viên, Lee Jun-beom, nhà nghiên cứu của Rableup, cho biết bên trong các dịch vụ AI tạo sinh hiện nay, nhiều mô hình với quy mô khác nhau đã được phân công theo từng vai trò. Những tác vụ tương đối đơn giản như tìm kiếm, thu thập thông tin hay tóm tắt thường do mô hình nhỏ đảm nhiệm, trong khi các quyết định quan trọng và khâu tạo đầu ra được giao cho mô hình frontier.

Theo ông, ví dụ điển hình là các AI agent hỗ trợ lập trình. Những việc như đọc tệp hay tìm kiếm trên Internet thường do mô hình nhỏ nhất xử lý. Trong khi đó, các bước cần suy luận sâu hơn dựa trên thông tin thu thập được hoặc viết những đoạn mã quan trọng sẽ do mô hình lớn phụ trách.

Lee Jun-beom nhận định khi AI agent được triển khai rộng hơn, nhu cầu phân chia vai trò giữa các mô hình cũng sẽ tăng lên. Trong quá trình tìm kiếm, đọc, đánh giá và thực thi hành động, AI phải liên tục gọi mô hình nhiều lần. Nếu toàn bộ tác vụ đều dùng mô hình có hiệu năng cao nhất, chi phí suy luận sẽ tăng rất nhanh.

Lee Jun-beom là nhà nghiên cứu kiêm lập trình viên chuyên về xử lý ngôn ngữ tự nhiên tiếng Hàn và các mô hình ngôn ngữ mở. Ông từng phát triển các mô hình mở dựa trên tiếng Hàn như KoAlpaca, Gemma-KO và gần đây mở rộng sang nghiên cứu mô hình nhỏ, AI agent cùng các phương án tối ưu hiệu quả suy luận.

Theo ông, “mô hình nhỏ” và “mô hình mở” là hai khái niệm khác nhau. Mô hình nhỏ được phân loại theo quy mô và lượng tính toán, còn mô hình mở là mô hình công khai để bên ngoài có thể khai thác, chẳng hạn công khai trọng số. Trong nhóm mô hình mở vẫn có cả mô hình nhỏ lẫn mô hình lớn.

Ông cũng cho rằng hướng phát triển của mô hình nhỏ đã thay đổi. Nhu cầu gần đây đang chuyển từ đào tạo thiên về tri thức sang đào tạo thiên về năng lực suy luận. Vì vậy, mô hình nhỏ cũng tiến hóa theo hướng có thể tìm kiếm trên web, đọc tài liệu được cung cấp và đưa ra câu trả lời dựa trên những dữ liệu đó khi cần.

Tuy nhiên, mô hình nhỏ vẫn kém mô hình lớn ở khả năng thích nghi với công cụ hoặc tác vụ mới mà không cần huấn luyện bổ sung. Để khắc phục điểm này, năm ngoái ông đã nghiên cứu “MCP Sidecar sLM”. Ở thời điểm đó, các mô hình mở cỡ nhỏ chưa sử dụng thành thạo Model Context Protocol (MCP), nên nhóm nghiên cứu gắn thêm một mô hình nhỏ riêng đã được huấn luyện để dùng MCP, qua đó hỗ trợ việc khai thác công cụ.

Theo Lee Jun-beom, mục tiêu của hướng tiếp cận này là bổ sung một mô hình còn nhỏ hơn nhưng có thể “hiểu” MCP và đóng vai trò trợ thủ cho mô hình chính.

Sau đó, nhiều mô hình mở mới ra mắt đã được tích hợp sẵn khả năng sử dụng MCP hoặc công cụ, khiến nhu cầu đối với nghiên cứu nói trên giảm đi. Dù vậy, ông cho rằng khi xuất hiện công cụ hoặc giao diện mới, cách gắn thêm một mô hình phụ cỡ nhỏ để phản ứng nhanh vẫn có thể hữu ích hơn so với huấn luyện lại toàn bộ mô hình hiện có.

Lee Jun-beom cũng bác bỏ quan điểm cho rằng mô hình nhỏ sẽ thay thế mô hình frontier. Theo ông, quy luật scaling hình thành từ sau năm 2018 đến nay vẫn chưa bị phá vỡ, và nhìn chung mô hình càng lớn vẫn càng thông minh.

Ông cho biết dù các mô hình có cùng quy mô hiện nay có thể đạt hiệu năng cao hơn so với vài năm trước nhờ dữ liệu và kỹ thuật huấn luyện được cải thiện, nhưng nếu so các mô hình mới nhất trong cùng một thời điểm, mô hình lớn vẫn có mức độ thông minh cao hơn.

Xu hướng mở rộng quy mô cũng đang thể hiện rõ trong hệ sinh thái mô hình mở. Trước đây, mô hình 100-200 tỷ tham số đã được xem là lớn, nhưng gần đây thị trường đã xuất hiện cả những mô hình ở quy mô nghìn tỷ tham số. Ông dự báo khi mô hình frontier tiếp tục phình to, cách vận hành nhiều mô hình với kích cỡ khác nhau theo từng vai trò sẽ càng phổ biến hơn.

Sự thay đổi này cũng phản ánh vào nhu cầu hạ tầng AI của doanh nghiệp. Lee Jun-beom cho biết trước đây nhu cầu chủ yếu tập trung vào tiền huấn luyện và huấn luyện, nhưng gần đây nhu cầu về suy luận và học tăng cường đang tăng lên. Ngày càng nhiều doanh nghiệp không chỉ tính đến việc xây dựng hạ tầng GPU, mà còn xem trên hạ tầng đó có thể vận hành mô hình nào, phục vụ bao nhiêu người dùng và đạt tốc độ ra sao.

Trong môi trường doanh nghiệp, tiêu chuẩn về “mô hình nhỏ” cũng khác so với thiết bị cá nhân. Trên PC hoặc smartphone, mô hình vài tỷ tham số đã được xem là nhỏ. Nhưng trong doanh nghiệp, ngay cả các mô hình mở quy mô vài chục đến vài trăm tỷ tham số cũng có thể được xem là “tương đối nhỏ”. Ông lấy DGX Spark, dòng máy tính siêu AI cá nhân của Nvidia, làm một mốc tham chiếu khi đánh giá quy mô mô hình có thể vận hành trong môi trường cục bộ.

Lee Jun-beom cho biết nếu ở giai đoạn huấn luyện, kết nối tốc độ cao giữa nhiều GPU và máy chủ là yếu tố then chốt, thì ở giai đoạn suy luận, năng lực quản lý bộ nhớ và bộ đệm key-value (KV) để xử lý đồng thời yêu cầu từ nhiều người dùng mới là vấn đề ngày càng quan trọng. Gần đây, ông cũng nghiên cứu các mô hình ngôn ngữ dựa trên diffusion nhằm tạo nhiều token cùng lúc để tăng tốc suy luận.