Motif Technologies ngày 13/8 cho biết mô hình nền tảng trí tuệ nhân tạo do hãng tự phát triển, Motif 3, đã đạt 47 điểm trên Chỉ số trí tuệ tổng hợp (AAII) của tổ chức đánh giá AI toàn cầu Artificial Analysis. Với kết quả này, Motif 3 dẫn đầu trong nhóm mô hình do doanh nghiệp Hàn Quốc phát triển, đồng thời đứng thứ 9 trong bảng xếp hạng LLM toàn cầu.
Cùng với việc công bố kết quả, công ty cũng phát hành công khai trọng số mô hình, mã huấn luyện và các thành phần liên quan của Motif 3 trên Hugging Face.
Theo Motif Technologies, AAII hiện là chỉ số đánh giá bên ngoài có trọng số cao nhất trong giai đoạn 2 của dự án “mô hình nền tảng AI độc lập” do Chính phủ triển khai. Trong tổng thang điểm 100 của vòng đánh giá này, nhóm benchmark chiếm 40 điểm, riêng AAII chiếm 25 điểm.
Công ty cho biết mức 47 điểm AAII đưa Motif 3 lên vị trí thứ 9 trong bảng xếp hạng các LLM toàn cầu và đứng thứ 4 trong nhóm mô hình open-weight.
Motif 3 là mô hình ngôn ngữ lớn theo kiến trúc hỗn hợp chuyên gia (MoE), với 13,2 tỷ tham số hoạt động trên tổng số 314 tỷ tham số. Motif Technologies cho biết đã tự phát triển mô hình này từ đầu trong khoảng 5 tháng, bao trùm toàn bộ quy trình từ tiền huấn luyện đến hậu xử lý.
Theo báo cáo kỹ thuật do công ty công bố, Motif 3 sử dụng cấu trúc attention tự phát triển mang tên Grouped Differential Latent Attention (GDLA) và được tiền huấn luyện trên khoảng 1.250 tỷ token.
Motif Technologies cho biết mô hình cũng cho thấy năng lực cạnh tranh với các mô hình open-weight quy mô lớn ở nước ngoài trong nhiều bài đánh giá thiên về ứng dụng doanh nghiệp.
Cụ thể, ở tau³-Banking (bài đánh giá khả năng thực thi tác vụ của AI agent trong môi trường nghiệp vụ tài chính), Motif 3 đạt 35,3 điểm. Tại Terminal-Bench 2.1, thước đo năng lực lập trình và xử lý tác vụ hệ thống trong môi trường terminal, mô hình ghi nhận 74,9 điểm.
Với SWE-bench Verified, bài đánh giá năng lực kỹ thuật phần mềm, Motif 3 đạt 76,2 điểm. Ở Humanity's Last Exam, bài kiểm tra kiến thức có độ khó cao, mô hình đạt 37,0 điểm.
Motif Technologies cho biết hãng phát hành theo giấy phép MIT không chỉ trọng số của Motif 3 mà cả mã huấn luyện và thư viện liên quan. Theo đó, doanh nghiệp, viện nghiên cứu và các lập trình viên có thể sử dụng mô hình này cho mục đích thương mại.
Ngoài mô hình ngôn ngữ, công ty còn phát triển các mô-đun gồm thị giác 7 tỷ tham số, âm thanh 700 triệu tham số và video VAE 1,2 tỷ tham số. Motif Technologies cho biết sẽ kết hợp các mô-đun này với mô hình ngôn ngữ để mở rộng sang mô hình đa phương thức.
CEO Lim Jeong-hwan của Motif Technologies nói Motif 3 là “điểm khởi đầu cho thấy ngay cả với nguồn lực hạn chế và trong thời gian ngắn, một kiến trúc do chính chúng tôi phát triển vẫn có thể đạt sức cạnh tranh toàn cầu”. Ông cho rằng chặng đường tiếp theo sẽ là chứng minh mô hình này có thể tiến xa đến đâu nếu được đặt trong cùng điều kiện cạnh tranh.