SK Telecom ngày 4/8 công bố mô hình AI nền tảng tự phát triển A.X K2, qua đó tăng tốc mở rộng sang thị trường AI công nghiệp. Theo doanh nghiệp, A.X K2 không chỉ dừng ở việc trả lời câu hỏi mà còn có thể hiểu ngữ cảnh dài, sử dụng công cụ bên ngoài và tự lập kế hoạch để thực hiện tác vụ.

Trong cuộc phỏng vấn đăng trên SKT Newsroom cùng ngày, Kim Tae-yoon, người phụ trách mảng mô hình nền tảng của SK Telecom, cho biết thay đổi lớn nhất của A.X K2 là chuyển trọng tâm từ AI trả lời sang AI có khả năng tự lên kế hoạch và thực thi. Ông cũng công bố các đặc điểm chính cùng chiến lược ứng dụng mô hình này trong lĩnh vực công nghiệp.

A.X K2 là mô hình ngôn ngữ cực lớn với tổng cộng 688 tỷ tham số. So với phiên bản tiền nhiệm A.X K1, mô hình được nâng cấp về năng lực suy luận toán học và khoa học, hiểu biết tiếng Hàn, khả năng xử lý văn bản dài cũng như năng lực vận hành theo hướng AI agent.

Theo SK Telecom, điểm trung bình trên 14 bộ đánh giá trong và ngoài nước của A.X K2 tăng 32,2 điểm phần trăm so với A.X K1. Riêng ở các bài kiểm tra liên quan đến xử lý ngữ cảnh dài và AI agent, mức cải thiện đạt khoảng 83,9 điểm phần trăm.

Ở bài đánh giá toán siêu khó Apex, điểm số của A.X K2 tăng từ 1,0 lên 45,8. Tại AIME26, mô hình đạt 97,1 điểm. Trong các bài đánh giá về tri thức tiếng Hàn như KMMLU-Pro và mức độ hiểu văn hóa Hàn Quốc CLIcK, A.X K2 lần lượt ghi nhận 80,5 và 91,6 điểm.

SK Telecom cho biết dù mở rộng quy mô tổng thể của mô hình, số tham số thực sự được kích hoạt trong quá trình suy luận vẫn được giữ ở mức 33 tỷ. Mục tiêu là tăng năng lực suy luận nhưng vẫn kiểm soát chi phí tính toán để phục vụ triển khai thực tế.

Lý giải về mức cải thiện hiệu năng, Kim Tae-yoon cho biết A.X K2 được xây dựng trên nền dữ liệu chất lượng cao, kiến trúc độc quyền và quy trình học tăng cường nhiều giai đoạn. Thay vì chỉ tăng khối lượng huấn luyện, nhóm phát triển tập trung chọn lọc và tinh chỉnh dữ liệu chuyên sâu theo từng lĩnh vực nhằm nâng cao khả năng suy luận.

Một công nghệ cốt lõi khác của A.X K2 là Sparse Gate Attention (SGA), do SK Telecom tự phát triển. Theo công ty, công nghệ này được thiết kế để xử lý ngữ cảnh nhanh và ổn định trong môi trường AI agent, nơi liên tục diễn ra nhiều vòng hội thoại, gọi công cụ và tham chiếu tài liệu dài.

SK Telecom cho hay khi độ dài đầu vào vượt 32.000 token, lợi thế về thông lượng và độ trễ của mô hình bắt đầu thể hiện rõ. Với đầu vào 120.000 token, thông lượng xử lý token tổng thể tăng 67,7% so với A.X K1.

Doanh nghiệp cho rằng lợi thế này giúp cải thiện tốc độ phản hồi và độ ổn định dịch vụ trong các tác vụ như hội thoại kéo dài hoặc phân tích đồng thời nhiều biên bản cuộc họp và báo cáo.

Bên cạnh mô hình văn bản, SK Telecom cũng phát triển các mô hình dẫn xuất có khả năng xử lý hình ảnh và giọng nói. Trong đó, mô hình thị giác - ngôn ngữ A.X K2 VL Lite Preview sử dụng bộ mã hóa thị giác do công ty tự phát triển để phân tích và cấu trúc hóa bản vẽ sản xuất, tài liệu và biểu đồ.

Ở mảng giọng nói, SK Telecom đã xây dựng mô hình ngôn ngữ âm thanh A.X K2 ALM, đồng thời phát triển A.X K2 Raon Speech cùng Krafton. Chiến lược của công ty là phân chia vai trò giữa các mô hình: mô hình lớn đảm nhiệm các tác vụ suy luận phức tạp, còn mô hình nhẹ xử lý các công việc chi tiết trong môi trường sản xuất.

SK Telecom cho biết sẽ đẩy mạnh thử nghiệm AI agent chuyên cho sản xuất với KG Steel và Konec, công ty sản xuất linh kiện ôtô. Hướng triển khai là cho mô hình học lại các trường hợp lỗi từng xảy ra trên dây chuyền sản xuất, từ đó khi phát sinh sự cố có thể phân tích nguyên nhân và đưa ra hướng xử lý.

Với công cụ AI nội bộ LLM Chat của SK hynix, SK Telecom sẽ kết hợp các mô hình nhẹ để hỗ trợ tra cứu tri thức về chất bán dẫn và tổng hợp thông tin.

Trong các lĩnh vực đòi hỏi bảo mật cao như quốc phòng và khu vực công, SK Telecom áp dụng môi trường on-premise tách biệt với bên ngoài. Theo công ty, dữ liệu mật của cơ quan và doanh nghiệp sẽ không bị đưa ra ngoài hoặc dùng để huấn luyện mô hình dùng chung; toàn bộ quá trình huấn luyện chuyên biệt được thực hiện trong mạng nội bộ.

SK Telecom cho biết sau khi cung cấp phiên bản rút gọn của A.X K1 cho Bộ Quốc phòng, công ty đang chuẩn bị triển khai A.X K2. Doanh nghiệp cũng thúc đẩy ứng dụng các dịch vụ bảo mật như phát hiện lừa đảo giọng nói theo thời gian thực và chặn phishing dựa trên mô hình ngôn ngữ âm thanh.

Bộ trọng số mô hình và mã phục vụ suy luận của A.X K2 sẽ được công bố theo giấy phép Apache 2.0. SK Telecom cho biết vẫn duy trì chính sách cấp phép miễn phí để nhà phát triển và startup có thể sử dụng cho mục đích thương mại, đồng thời hỗ trợ API và tối ưu mô hình.

Trong thời gian tới, SK Telecom dự kiến mở rộng các mô hình tiếp theo lên quy mô tham số ở mức nghìn tỷ. Công ty cũng sẽ tăng cường học tăng cường cho AI agent, nâng cao năng lực an ninh mạng và nghiên cứu kiến trúc mô hình thế hệ mới cùng Đại học Quốc gia Seoul, KAIST và Krafton.

Ngoài ra, SK Telecom đang hợp tác với Rebellions để thúc đẩy việc vận hành mô hình trên bộ xử lý thần kinh nội địa (NPU) và thử nghiệm các dịch vụ thương mại.

Kim Tae-yoon nhấn mạnh A.X K2 là mô hình được thiết kế để hiểu tốt tiếng Hàn và môi trường công nghiệp trong nước, đồng thời đáp ứng yêu cầu về chủ quyền dữ liệu, bảo mật và tính mở. Theo ông, mục tiêu của SK Telecom là đưa AI vượt ra khỏi vai trò chỉ trả lời câu hỏi để trở thành công cụ có thể tự thực hiện công việc, tạo ra giá trị rõ ràng trong sản xuất và đời sống thường nhật.