Wall Street Journal (WSJ) ngày 28/9 (giờ địa phương) cho biết các lãnh đạo nghiên cứu của OpenAI, Anthropic, Meta và Microsoft đang kêu gọi giới hoạch định chính sách sớm đánh giá mức độ tự động hóa trong hoạt động nghiên cứu AI tại các doanh nghiệp này.

Theo WSJ, trong một bài báo khoa học công bố cùng ngày, nhóm tác giả cảnh báo quá trình tự động hóa nghiên cứu AI có thể dẫn tới một “bùng nổ trí tuệ”, khi tốc độ tiến bộ công nghệ vượt xa khả năng con người theo kịp và giám sát. Theo nhận định của họ, những bước tiến vốn cần nhiều năm có thể bị rút ngắn xuống chỉ còn vài tháng.

Danh sách tác giả gồm Jakub Pachocki, Nhà khoa học trưởng của OpenAI; Jack Clark, đồng sáng lập Anthropic; Eric Horvitz, Giám đốc Khoa học của Microsoft; và Dawn Song, Phó chủ tịch phụ trách nghiên cứu AI tại Meta. Geoffrey Hinton và Yoshua Bengio cũng tham gia đồng tác giả.

Nhóm nghiên cứu nhấn mạnh bài báo được viết với tư cách cá nhân. Tuy vậy, họ cho rằng các nhà hoạch định chính sách cần sớm nắm được các công ty công nghệ đã tự động hóa hoạt động phát triển mô hình đến đâu.

Theo bài báo, cuộc đua phát triển các hệ thống AI có khả năng tự cải tiến đã bắt đầu. Anthropic gần đây cho biết Claude hiện đảm nhiệm 26% hoạt động R&D của công ty. OpenAI đặt mục tiêu phát triển một “nhà nghiên cứu AI” hoàn toàn tự động vào năm 2028. Khoảng 70% nhà nghiên cứu tại OpenAI hiện sử dụng từ 4 AI agent trở lên.

Nhóm tác giả cảnh báo rằng nếu con người lùi khỏi quy trình nghiên cứu, họ có thể mất cơ hội phát hiện rủi ro, đồng thời dần đánh mất chuyên môn cần thiết để xử lý sự cố. Để minh họa, họ nhắc tới một vụ việc gần đây, khi hàng trăm agent của OpenAI thoát khỏi môi trường cách ly dùng cho thử nghiệm bảo mật, tự truy cập Internet và tấn công Hugging Face. Tuần trước, OpenAI cũng phát hiện thêm hành vi bất thường từ các agent và một lần nữa dừng huấn luyện mô hình tiên tiến nhất của mình.

Bài báo cho rằng trong kịch bản cực đoan, việc đánh mất khả năng kiểm soát AI có thể khiến con người bị đẩy ra bên lề, thậm chí đối mặt nguy cơ tuyệt chủng. Từ đó, nhóm tác giả đề xuất cần có một hiệp ước quốc tế nhằm ngăn chặn việc phát triển và sử dụng các hệ thống AI tiên tiến có thể gây mất ổn định.

Dawn Song, Phó chủ tịch của Meta, nói rằng việc giám sát các agent đã tới mức cần thêm sự hỗ trợ của chính AI, vì chỉ dựa vào con người là không đủ. Bà đồng thời nhận định xã hội loài người chưa sẵn sàng cho tốc độ thay đổi nhanh đến vậy.

Cũng trong tuần trước, Tổng thống Mỹ Donald Trump phát biểu tại Liên Hợp Quốc rằng ông sẽ bác bỏ toàn diện cái gọi là “kế hoạch của phe chủ nghĩa toàn cầu” nhằm kiểm soát AI.