Kakao ngày 28/7 công bố mã nguồn mở 4 mô hình ngôn ngữ nhẹ (SLM) thuộc dòng Kanana-2 trên nền tảng Hugging Face, động thái cho thấy hãng đẩy mạnh chiến lược AI on-device và mở rộng hệ sinh thái phát triển xoay quanh mô hình tiếng Hàn.

Theo Kakao, 4 mô hình mới được tối ưu để chạy trực tiếp trên các thiết bị có tài nguyên hạn chế như smartphone, gồm Kanana-2-1.3B-base, Kanana-2-1.3B-instruct, Kanana-2-3B-base và Kanana-2-3B-instruct.

Công ty cho biết dù có quy mô nhỏ, các mô hình này vẫn đạt năng lực cạnh tranh ở cả tiếng Hàn lẫn tiếng Anh. So với các mô hình mã nguồn mở mới nhất cùng quy mô, Kanana-2 đạt kết quả cao trên nhiều bộ đánh giá chuẩn phổ biến, bao gồm tiếng Hàn, tiếng Anh, tri thức, toán học và mã nguồn.

Kakao cũng cho biết Kanana-2-1.3B-instruct và mô hình nhỏ hơn là Kanana-2-0.9B-instruct do hãng phát triển thể hiện kết quả cạnh tranh với các mô hình toàn cầu cùng phân khúc như Qwen và Gemma ở các tác vụ thực tiễn như hội thoại, tri thức, mã nguồn, toán học, tuân thủ chỉ dẫn và gọi công cụ.

Một điểm đáng chú ý là Kakao đã tích hợp bộ tokenizer tiếng Hàn do hãng tự phát triển vào toàn bộ các mô hình lần này. Theo công ty, công nghệ này giúp nâng hiệu quả xử lý tiếng Hàn thêm hơn 30% so với trước.

Tokenizer là công nghệ cốt lõi dùng để xác định đơn vị tách văn bản khi mô hình AI xử lý ngôn ngữ. Khi được tối ưu cho tiếng Hàn, số lượng token cần tính toán cho cùng một câu có thể giảm xuống, từ đó cải thiện tốc độ xử lý và giảm chi phí vận hành. Kakao cho biết bộ tokenizer này đã được hoàn thiện từ năm ngoái.

Dòng Kanana-2 lần này được thiết kế cho môi trường on-device, nơi tài nguyên bộ nhớ và năng lực tính toán đều hạn chế. Để giảm tình trạng tiêu tốn bộ nhớ trong các cuộc hội thoại dài, Kakao áp dụng kiến trúc “sliding window attention”, qua đó duy trì hiệu năng ổn định và cắt giảm tối đa 72,7% mức sử dụng bộ nhớ khi xử lý hội thoại dài tới 32.000, tương đương 32.000 token, khoảng 24.000 từ.

Kakao phát hành các mô hình theo “Kanana Open License”, cho phép sử dụng cho cả mục đích thương mại. Công ty kỳ vọng động thái này sẽ mở rộng khả năng khai thác các mô hình AI tiếng Hàn hiệu năng cao, đồng thời thúc đẩy phát triển dịch vụ mới khi nhà phát triển, viện nghiên cứu và doanh nghiệp có thể ứng dụng công nghệ với ít ràng buộc hơn.

Ở mảng dịch vụ nội bộ, Kakao cho biết các kỹ thuật tích lũy trong quá trình phát triển đã được đưa vào những sản phẩm như Kanana in KakaoTalk, tính năng tóm tắt hội thoại, tóm tắt cuộc gọi trên KakaoTalk và AI Kookmin Secretary.

Ông Noh Byeong-seok, Performance Leader của bộ phận Unified Foundation Model tại Kakao, cho biết công ty đang chuẩn bị cho kỷ nguyên agentic AI và đánh giá cao vai trò của cả AI quy mô lớn trên đám mây lẫn AI nhẹ chạy trực tiếp trên thiết bị. Theo ông, Kakao đang tăng sức cạnh tranh ở cả hai hướng phát triển và kỳ vọng đợt mã nguồn mở lần này sẽ thúc đẩy cộng đồng phát triển cũng như doanh nghiệp tạo ra thêm nhiều dịch vụ AI mới, qua đó góp phần kích hoạt hệ sinh thái AI trong nước.