Thinking Machines Lab, startup AI do cựu lãnh đạo OpenAI Mira Murati dẫn dắt, vừa công bố Inkling - mô hình AI đầu tiên do công ty tự phát triển. Đây là mô hình open-weights, cho phép nhà phát triển và doanh nghiệp tải về để tùy chỉnh theo nhu cầu riêng.

Theo TechCrunch ngày 15/7 (giờ địa phương), đây cũng là lần đầu tiên Thinking Machines Lab công khai công nghệ AI mà công ty đã phát triển nội bộ trong khoảng 1,5 năm qua. Cách tiếp cận này khác với chiến lược tập trung vào mô hình đóng của OpenAI, Anthropic và Google.

Inkling được xây dựng theo kiến trúc mixture-of-experts, với tổng cộng 975 tỷ tham số. Trong mỗi lần suy luận, số tham số thực tế được kích hoạt vào khoảng 41 tỷ.

Mô hình được huấn luyện trên bộ dữ liệu quy mô 45 nghìn tỷ token, bao gồm văn bản, hình ảnh, âm thanh và video. Theo công ty, Inkling có thể xử lý và suy luận trên cả bốn loại dữ liệu này.

Thinking Machines Lab cho biết họ không đặt mục tiêu chạy đua theo hiệu năng đỉnh, mà tập trung vào chiến lược AI tùy biến cho doanh nghiệp. Theo công ty, mô hình được từng tổ chức tự tinh chỉnh có thể mang lại kết quả tốt hơn so với việc mọi khách hàng cùng dùng một mô hình chung.

Vì vậy, Inkling được định vị như một nền tảng khởi đầu hơn là một sản phẩm hoàn chỉnh. Doanh nghiệp có thể tiếp tục huấn luyện bổ sung và tinh chỉnh (fine-tune) thông qua nền tảng tùy biến mô hình mang tên Tinker.

Đổi lại, doanh nghiệp cũng phải tự đảm nhận các yêu cầu về quản trị và an toàn, trong khi quá trình fine-tune đòi hỏi năng lực machine learning ở mức cao.

Inkling còn có khả năng tự đánh dấu khi gặp tình huống thiếu chắc chắn, đồng thời cho phép người dùng điều chỉnh mức độ suy luận để cân bằng giữa tốc độ và khối lượng suy luận.

Thinking Machines Lab thừa nhận Inkling hiện chưa phải là mô hình mạnh nhất trên thị trường, kể cả trong nhóm mô hình công khai lẫn mô hình đóng. Tuy nhiên, công ty cho biết trong một bài benchmark, Inkling đạt hiệu năng lập trình tương đương Nvidia Nemotron 3 Ultra nhưng mức tiêu thụ token chỉ bằng 1/3.

Công ty cho biết Inkling được pre-train hoàn toàn bằng hệ thống nội bộ. Dù vậy, ở giai đoạn tạo một phần dữ liệu hậu huấn luyện ban đầu, trước khi bước vào reinforcement learning quy mô lớn, Thinking Machines Lab có sử dụng thêm một số mô hình open-weights khác, trong đó có Moonshot AI Kimi K2.5.

Theo công ty, từ mô hình tiếp theo, cả khâu hậu huấn luyện cũng sẽ được triển khai hoàn toàn trên hệ thống nội bộ.

Mô hình doanh thu của Thinking Machines Lab hiện chưa được công bố rõ. Theo TechCrunch, công ty nhiều khả năng không tập trung vào việc bán mô hình, mà sẽ thu phí từ hệ sinh thái huấn luyện, fine-tune và hosting thông qua Tinker. Hiện startup này có khoảng 200 nhân sự.