Ngày 6/8, SK Telecom cho biết đang hợp tác với Viện Công nghệ Massachusetts (MIT) để phát triển công nghệ Test-Time Training (TTT), nhằm nâng hiệu suất suy luận và tối ưu hiệu quả tính toán cho mô hình AI nội bộ. Kết quả nghiên cứu dự kiến sẽ được ứng dụng cho A.X K2, mô hình nền tảng AI mà công ty vừa công bố gần đây.

Trao đổi với SKT Newsroom, giáo sư Kim Yoon-hyung thuộc Khoa Điện - Điện tử và Khoa học máy tính của MIT, người tham gia nghiên cứu cùng SK Telecom, nhận định yếu tố cốt lõi của năng lực sovereign AI không chỉ nằm ở hạ tầng, mà còn ở đội ngũ nhân lực và kinh nghiệm vận hành các hệ thống quy mô lớn.

Theo ông, tài nguyên tính toán có thể được mua bằng vốn đầu tư, còn trung tâm dữ liệu cũng có thể xây dựng trong thời gian nhất định. Tuy nhiên, năng lực tự phát triển và vận hành hệ thống AI quy mô lớn là quá trình đòi hỏi thời gian tích lũy dài hơn nhiều.

Giáo sư Kim cho rằng trong bối cảnh hiệu năng AI hiện nay phụ thuộc đáng kể vào khả năng mở rộng các thuật toán lên quy mô lớn, việc xây dựng đội ngũ nhà nghiên cứu và kỹ sư có thể trực tiếp xử lý hệ thống lớn là điều đặc biệt quan trọng.

Ông cũng đánh giá khi AI đã trở thành một yếu tố gắn với an ninh quốc gia, việc các nước phát triển hệ sinh thái AI riêng là xu hướng tự nhiên. Dù vậy, nếu khái niệm sovereign AI bị nhấn mạnh quá mức theo hướng chủ quyền khép kín, điều đó có thể làm gia tăng cạnh tranh thay vì thúc đẩy hợp tác.

Từ góc độ này, dự án hợp tác giữa SK Telecom và MIT được xem là nỗ lực đồng thời nhằm nâng sức cạnh tranh công nghệ và tăng năng lực vận hành cho mô hình AI nội bộ. Trong đó, TTT là kỹ thuật cho phép mô hình đã được triển khai thực hiện thêm một phiên học ngắn dựa trên tài liệu liên quan ngay trước khi trả lời một bài toán cụ thể.

Thông thường, sau giai đoạn tiền huấn luyện, mô hình ngôn ngữ sẽ được đưa vào sử dụng ở trạng thái cố định. Với TTT, mô hình có thể tận dụng thêm một phần tài nguyên tính toán trong giai đoạn suy luận để tự điều chỉnh và cải thiện kết quả đầu ra trước khi tạo câu trả lời.

Giải thích về xu hướng này, giáo sư Kim cho biết phần lớn tiến bộ của AI trong vài năm qua đến từ việc mở rộng quy mô tiền huấn luyện. Gần đây, giới nghiên cứu cũng xác nhận rằng hiệu năng vẫn có thể được cải thiện nếu tăng thêm tài nguyên tính toán ở giai đoạn suy luận.

Theo ông, TTT xuất phát từ ý tưởng tận dụng một phần tài nguyên ở thời điểm suy luận để mô hình tự xử lý tốt hơn bài toán đang đối mặt. Đây là cách tiếp cận có thể giúp nâng năng lực thực tế của mô hình mà không chỉ phụ thuộc vào việc mở rộng huấn luyện từ đầu.

Một trọng tâm khác của nghiên cứu là giúp AI agent hiểu chính xác ngữ cảnh dài với chi phí thấp hơn. Giáo sư Kim chia năng lực xử lý ngữ cảnh dài thành hai phần: “tìm kiếm”, tức xác định thông tin cần thiết trong khối lượng văn bản lớn, và “tích hợp”, tức nắm được logic và mối liên hệ xuyên suốt toàn bộ tài liệu.

Theo ông, các mô hình AI hiện nay đã xử lý khá tốt bài toán tìm kiếm thông tin liên quan trong văn bản dài, nhưng vẫn còn hạn chế ở khả năng hiểu tổng thể, chẳng hạn phát hiện mâu thuẫn giữa phần đầu và phần cuối của một tài liệu.

Ông nhấn mạnh rằng, về mặt lý thuyết, ngay cả mô hình có thể xử lý 1 triệu token vẫn chưa chắc hiểu sâu ngữ cảnh dài theo nghĩa tổng thể. Vì vậy, để phát triển AI agent thực sự hữu ích, cần xây dựng hệ thống có khả năng nắm bắt ngữ cảnh dài một cách sâu và nhất quán hơn.

SK Telecom kỳ vọng có thể tận dụng kết quả từ dự án chung với MIT để nâng hiệu suất suy luận cho A.X K2. Theo công ty, các nghiên cứu gần đây cho thấy khi tăng lượng tính toán ở giai đoạn suy luận, hiệu năng của mô hình ngôn ngữ lớn trong các tác vụ lập luận, như giải toán, vẫn có thể tiếp tục cải thiện.

Khi áp dụng TTT, mô hình có thể đạt hiệu năng cao hơn với cùng lượng tài nguyên suy luận, hoặc đạt mức hiệu năng tương đương nhưng với chi phí thấp hơn. Giáo sư Kim nhận định công nghệ TTT được phát triển trong dự án lần này có thể tạo ra bước cải thiện đáng kể về tương quan giữa hiệu năng và lượng tài nguyên suy luận mà mô hình AI nội bộ của SK Telecom sử dụng.

Ông nói thêm rằng để AI tạo ra bước tiến lớn, cần kết hợp năng lực khám phá của giới học thuật với khả năng triển khai thực tế của doanh nghiệp. Theo ông, quan hệ hợp tác giữa SK Telecom và MIT có thể trở thành một hình mẫu tiêu biểu cho hướng đi này.

Liên quan đến dự án mô hình nền tảng AI của Hàn Quốc, giáo sư Kim cho rằng ưu tiên trước mắt nên là đánh giá mức độ thu hẹp khoảng cách hiệu năng với các mô hình dẫn đầu toàn cầu, thay vì quá tập trung vào tính mới của ý tưởng.

Ông nhận định ở vòng đánh giá thứ hai, việc đặt trọng tâm lớn hơn vào mức độ rút ngắn khoảng cách theo các bộ benchmark cốt lõi mà các công ty phát triển mô hình toàn cầu đang sử dụng là hướng tiếp cận phù hợp. Theo ông, nếu có thể thu hẹp khoảng cách với các mô hình frontier hiện nay, điều đó cũng đồng nghĩa các kỹ thuật và phương pháp phát triển đã được triển khai đúng cách trong môi trường quy mô lớn.