Các nhà nghiên cứu AI cảnh báo việc tự động hóa hoạt động nghiên cứu và phát triển tại những công ty AI hàng đầu có thể đẩy nhanh đáng kể tốc độ tiến bộ của công nghệ, thậm chí dẫn tới một “bùng nổ trí tuệ”.

Ngày 1/10 (giờ địa phương), Business Insider dẫn lời Alan Chan, nhà nghiên cứu tại tổ chức tư vấn GovAI, cho biết nếu AI có thể tự động hóa quá trình phát triển các mô hình AI thế hệ tiếp theo, kết quả tạo ra sẽ tiếp tục thúc đẩy chu kỳ nghiên cứu kế tiếp, hình thành một vòng lặp phản hồi tăng tốc.

Theo Chan, có thể hình dung kịch bản không phải mỗi năm mà mỗi tháng lại xuất hiện một “khoảnh khắc Mythos” trong một lĩnh vực mới. Ông dùng khái niệm “bùng nổ trí tuệ” thay cho “tự cải tiến đệ quy”, nhằm tách biệt nỗ lực tự động hóa nghiên cứu AI với câu hỏi liệu quá trình đó có thực sự dẫn tới bước nhảy vọt về năng lực AI hay không.

Chan cùng các đồng tác giả, gồm Jack Clark, đồng sáng lập Anthropic; Jakub Pachocki, Giám đốc Khoa học của OpenAI; Eric Horvitz, Giám đốc Khoa học của Microsoft; và Geoffrey Hinton, nhà khoa học đoạt giải Nobel, đã công bố một bài báo về chủ đề này.

Trong bài báo, nhóm tác giả cho rằng các nhà hoạch định chính sách cần hiểu rõ hơn cách Anthropic, OpenAI và những doanh nghiệp tương tự đang tự động hóa quá trình phát triển AI. Nhóm cũng đề xuất thiết lập các cơ chế giám sát như yêu cầu sử dụng “embedded auditor”.

Trong một thỏa thuận được ký tại Nhà Trắng hôm thứ Ba, lãnh đạo Anthropic, Google, OpenAI, SpaceXAI và Nvidia nhất trí “hợp tác với các kiểm toán viên độc lập bên ngoài hoặc tổ chức đánh giá”. Tuy nhiên, theo Business Insider, cam kết này vẫn chưa cụ thể như những gì nhóm đồng tác giả đề xuất. Tổng thống Donald Trump cho biết thỏa thuận mang tính ràng buộc “về mặt đạo đức”.

Nhóm nghiên cứu dự báo trong vài năm tới, mức độ tự động hóa R&D AI sẽ còn tiến xa đáng kể. Đồng thời, họ cho rằng khả năng tự động hóa hoàn toàn quá trình này cần được xem xét một cách nghiêm túc ngay trong giai đoạn đó.

Anthropic cho biết đến tháng 5, hơn 80% lượng mã được phê duyệt trong công ty do hệ thống AI tạo ra. Trong khi đó, vào tháng 1/2025, tỷ lệ mã do Claude tạo ra vẫn chỉ ở ngưỡng một chữ số thấp.

Chan nhấn mạnh tự động hóa nghiên cứu tự thân không hẳn là tích cực hay tiêu cực. Công nghệ này có thể rút ngắn thời gian tạo ra các phát hiện mới trong những lĩnh vực như y học, nhưng nếu tốc độ ra đời của công nghệ mới tăng lên quá nhanh, các rủi ro cần ứng phó cũng có thể gia tăng với nhịp độ tương ứng.