Krafton ngày 21/10 công bố bản preview của Raon-1 Mini, mô hình ngôn ngữ lớn (LLM) 30 tỷ tham số do công ty tự phát triển. Mô hình hiện được phát hành trước trên Hugging Face theo giấy phép Apache 2.0, hỗ trợ tiếng Hàn và tiếng Anh.

Theo Krafton, Raon-1 Mini là mô hình do công ty tự phát triển toàn bộ, từ khâu thiết kế kiến trúc đến huấn luyện từ đầu. Đây là bản preview được đưa lên Hugging Face trước khi phát hành chính thức.

Raon-1 Mini được cấp phép theo Apache 2.0, cho phép người dùng tải về miễn phí để phục vụ nghiên cứu cũng như phát triển dịch vụ và sản phẩm thương mại.

Về công nghệ, mô hình sử dụng kiến trúc mixture of experts (MoE), trong đó chỉ kích hoạt 4 tỷ tham số cần thiết trong tổng số 30 tỷ tham số. Krafton cũng tích hợp công nghệ linear attention do công ty phát triển nhằm rút ngắn thời gian phản hồi và nâng hiệu quả chi phí suy luận.

Krafton cho biết theo đánh giá nội bộ, Raon-1 Mini cho hiệu năng cao hơn một số mô hình nước ngoài cùng quy mô, đồng thời ở một vài chỉ số đạt mức tiệm cận các mô hình lớn trong nước. Công ty nhấn mạnh thế mạnh của mô hình nằm ở hội thoại tiếng Hàn, khả năng làm theo chỉ dẫn và tốc độ phản hồi.

Công ty cho rằng khả năng làm theo chỉ dẫn không chỉ dừng ở việc kiểm soát định dạng đầu ra hay thiết lập persona, mà còn liên quan đến khả năng hỗ trợ AI agent xử lý các tác vụ nhiều bước. Trong quá trình phát triển, Krafton đặt trọng tâm vào hiệu năng trên chi phí trong môi trường sử dụng thực tế, thay vì chỉ tập trung vào điểm số benchmark.

Raon-1 Mini cũng là LLM chủ lực trong dòng mô hình AI Raon mà Krafton ra mắt hồi tháng 4. Trước đó, công ty đã công bố mã nguồn mở 4 mô hình gồm mô hình ngôn ngữ giọng nói Raon-Speech, mô hình hội thoại giọng nói thời gian thực Raon-SpeechChat, mô hình chuyển văn bản thành giọng nói Raon-OpenTTS và bộ mã hóa thị giác Raon-VisionEncoder.

Krafton cho biết sẽ tiếp tục hoàn thiện Raon-1 Mini trước khi phát hành bản chính thức. Khi đó, công ty cũng sẽ công bố báo cáo kỹ thuật về quá trình huấn luyện và hiệu năng cuối cùng của mô hình.

Lee Kang-wook, Giám đốc AI (CAIO) của Krafton, cho biết công ty đã tự phát triển một mô hình ngôn ngữ có sức cạnh tranh dựa trên năng lực R&D AI được tích lũy trong hơn 5 năm. Theo ông, mục tiêu của Krafton là mở rộng ứng dụng AI sang nhiều ngành thông qua LLM có hiệu năng cao nhưng giúp giảm gánh nặng chi phí.

Đến nay, tổ chức nghiên cứu AI của Krafton đã công bố 54 bài báo tại các hội nghị AI quốc tế lớn như NeurIPS, ICML và ICLR. Riêng tại NeurIPS 2026, công ty có 9 bài thuộc main track được chấp nhận.