Nota, công ty phát triển công nghệ tinh gọn và tối ưu hóa mô hình AI, ngày 24/4 cho biết đã giành giải nhất trong số 20 đội tham dự hackathon Nemotron của Nvidia nhờ công nghệ tạo dữ liệu tổng hợp tối ưu cho lượng tử hóa mô hình Mixture of Experts (MoE).
Nota cho biết sự kiện được tổ chức nhằm chia sẻ kết quả nghiên cứu liên quan đến mô hình AI mã nguồn mở Nemotron của Nvidia, đồng thời hỗ trợ các nhà phát triển mở rộng khả năng ứng dụng thực tế. Hackathon gồm ba hạng mục: phát triển AI agent, nâng cấp mô hình theo lĩnh vực và thiết kế pipeline dữ liệu tổng hợp.
Tại cuộc thi, Nota sử dụng agent dựa trên Nemotron 3 Super 120B của Nvidia để xây dựng bộ dữ liệu tối ưu cho quá trình lượng tử hóa các mô hình MoE.
Công ty cho biết các phương pháp lượng tử hóa trước đây chủ yếu tập trung vào tối ưu thuật toán. Trong khi đó, Nota tiếp cận theo hướng data-centric, nâng hiệu năng bằng cách thiết kế bộ dữ liệu phù hợp hơn về cấu trúc, chất lượng và mục tiêu sử dụng.
CEO Chae Myeong-su của Nota cho rằng giải thưởng cho thấy việc thiết kế và khai thác dữ liệu đúng mục tiêu có thể tạo thêm hướng tiếp cận mới trong tối ưu hóa AI. Ông cho biết công ty sẽ tiếp tục nâng cấp công nghệ tối ưu hóa AI theo hướng data-centric thông qua hợp tác với Nvidia.