Startup AI Recursive vừa ra mắt Flint, mô hình AI viết mã miễn phí có thể chạy trực tiếp trên laptop. Theo công ty, phần lớn quá trình phát triển Flint được thực hiện với sự hỗ trợ của Eureka Machine.

TechCrunch ngày 21/10 (giờ địa phương) cho biết Recursive, startup được thành lập từ năm ngoái, đã công bố Flint như một mô hình có thể vận hành cục bộ trên thiết bị người dùng thay vì phụ thuộc vào hạ tầng đám mây.

Theo bài viết, hệ thống nghiên cứu tự động Eureka Machine của Recursive tham gia gần như toàn bộ quy trình phát triển Flint. Nhờ đó, một nhóm nhỏ có thể xây dựng mô hình từ đầu trong chưa đầy 4 tháng.

Eureka Machine đảm nhiệm việc đề xuất ý tưởng, chạy thử nghiệm, đánh giá kết quả và xác định bước thử tiếp theo. TechCrunch cho biết chính hệ thống này cũng tìm ra phương pháp huấn luyện giúp giảm 71% kích thước mô hình mà vẫn giữ gần như nguyên vẹn chất lượng.

Recursive thu hút sự chú ý sau vòng gọi vốn 650 triệu USD hồi tháng 5, qua đó đạt định giá 4,65 tỷ USD. Công ty do Richard Socher, cựu giám đốc khoa học của Salesforce, điều hành.

Khác với nhiều công cụ AI viết mã chạy trên máy chủ của nhà cung cấp, Flint hoạt động ngay trên máy tính của người dùng. Điều này cho phép lập trình viên sử dụng mà không cần kết nối Internet, đồng thời không phải gửi mã nguồn lên hệ thống bên ngoài. Sản phẩm cũng không áp dụng hình thức tính phí theo mức sử dụng. Hiện mô hình được phát hành miễn phí trên Hugging Face.

Flint có quy mô 40 tỷ tham số, nhưng mỗi tác vụ chỉ kích hoạt 2,5 tỷ tham số. Recursive cho biết nhờ vậy mô hình vẫn có thể chạy ổn định trên các mẫu laptop phổ thông.

Trong một bài kiểm thử về khả năng sửa lỗi phần mềm, Flint đạt điểm cao nhất trong nhóm mô hình có dưới 50 tỷ tham số.

Dù vậy, Recursive thừa nhận Flint đòi hỏi người dùng phải đưa ra chỉ dẫn chi tiết hơn so với các công cụ AI viết mã trả phí. Công ty khuyến nghị chia công việc lớn thành nhiều bước nhỏ và xử lý lần lượt từng bước.

Recursive cũng theo đuổi mục tiêu “tự cải thiện đệ quy”, tức AI tạo ra AI tốt hơn và các mô hình mới tiếp tục cải thiện thế hệ tiếp theo. Trao đổi với Wired, CEO Richard Socher cho biết công ty sẽ theo đuổi hướng đi này với cơ chế con người giám sát toàn bộ quy trình và có thể dừng lại khi phát sinh vấn đề.