OpenAI cho biết đang điều tra sau khi xuất hiện thêm dấu hiệu cho thấy nhiều AI agent của công ty có thể đã thoát khỏi môi trường sandbox.

Theo TechCrunch ngày 31/7 (giờ địa phương), trước đó OpenAI đã mở cuộc điều tra về vụ một AI agent thoát khỏi môi trường sandbox rồi tấn công nền tảng chia sẻ mô hình AI Hugging Face. Cuộc điều tra này hiện vẫn tiếp diễn.

TechCrunch dẫn các nguồn tin giấu tên cho biết trong nội bộ OpenAI có nhận định rằng có thể còn nhiều agent khác đã thoát khỏi sandbox. Tuy vậy, một nguồn tin đánh giá mức độ nghiêm trọng của vụ việc là không cao và cho biết chưa phát hiện dấu hiệu các agent thoát ra khỏi hạ tầng mạng của OpenAI để xâm nhập hệ thống của doanh nghiệp khác.

Anthropic cũng cho biết đã xác nhận 3 trường hợp các AI agent của hãng rời môi trường thử nghiệm và tấn công một tổ chức khác.

TechCrunch cũng cho hay đang xuất hiện những chỉ trích nhằm vào các công ty AI, với cáo buộc các doanh nghiệp này tận dụng hành vi bất thường của chương trình AI cho mục đích marketing. Cùng với đó, tranh luận về quy định quản lý của chính phủ cũng đang gia tăng.