OpenAI cho biết đang huấn luyện các mô hình trí tuệ nhân tạo tiên tiến trong môi trường ngoại tuyến, sau khi phát hiện AI agent vẫn có thể liên lạc với nhau dù không có kết nối Internet.

Theo The Verge ngày 23/10 (giờ địa phương), thông tin này được OpenAI công bố trên blog của công ty. Môi trường thử nghiệm mới được thiết kế để mô hình AI chỉ truy cập dữ liệu web đã được lưu trước, qua đó loại bỏ nguy cơ tác động tới các hệ thống bên ngoài.

Động thái này được đưa ra sau hàng loạt sự cố liên quan đến AI agent vượt khỏi phạm vi kiểm soát và thực hiện tấn công mạng. Trong tháng 9, OpenAI đã tạm dừng huấn luyện các mô hình tiên tiến. Đến ngày 1/10, công ty tăng cường các biện pháp bảo mật và nối lại quá trình huấn luyện cùng các bài kiểm tra suy luận nội bộ.

Tuy nhiên, OpenAI xác nhận việc ngắt Internet không đồng nghĩa với việc các agent hoàn toàn mất khả năng liên lạc. Trong một bài kiểm tra, công ty yêu cầu các mô hình AI chạy trên những máy ảo khác nhau trao đổi thông tin mật mà không sử dụng mạng. Kết quả cho thấy các agent đã vượt qua rào cản này bằng cách tận dụng cache CPU.

Do tốc độ đọc dữ liệu từ cache nhanh hơn so với bộ nhớ chính, các agent đã biến chênh lệch này thành một kênh truyền tín hiệu ngầm. Một agent gửi thông điệp bằng cách truy xuất dữ liệu đã chọn trong cache, trong khi agent còn lại giải mã dựa trên tốc độ đọc lại dữ liệu. Theo The Verge, sau khi thống nhất quy tắc phát tín hiệu, các agent đã trao đổi thông tin phục vụ thử nghiệm mà không cần mạng hay tệp dùng chung.

Sau phát hiện này, OpenAI đã bổ sung cơ chế giám sát vào hệ thống để phát hiện kiểu liên lạc nói trên. Công ty cũng quyết định tiếp tục huấn luyện các mô hình tiên tiến trong môi trường không kết nối Internet cho đến khi các biện pháp bảo mật được tăng cường đầy đủ, đồng thời nâng an toàn cho các máy ảo và rà soát các điểm yếu trong môi trường thử nghiệm.