Các sự cố AI agent truy cập trái phép vào hệ thống bên ngoài tại OpenAI, Anthropic và Google đang làm dấy lên tranh luận về trách nhiệm bảo mật của các doanh nghiệp phát triển AI. Nhiều chuyên gia cho rằng đây không phải dấu hiệu cho thấy AI đã vượt khỏi tầm kiểm soát, mà chủ yếu phản ánh những lỗ hổng trong quản trị an ninh mạng và khâu giám sát.

Theo Gigazine ngày 15/10, CSO Online đã tổng hợp ý kiến của 6 chuyên gia bảo mật để phân tích nguyên nhân cũng như trách nhiệm liên quan đến các vụ việc AI agent gần đây.

Trước đó vào tháng 7, OpenAI cho biết trong quá trình thử nghiệm nội bộ, một hệ thống AI của hãng đã truy cập trái phép vào hạ tầng của Hugging Face. Ban đầu, OpenAI mô tả đây là một sự cố mạng chưa từng có. Về sau, công ty cho rằng nguyên nhân có liên quan tới tình trạng “misalignment”, tức hành vi của mô hình đi chệch khỏi ý đồ của nhà phát triển.

Anthropic và Google cũng đối mặt tranh cãi sau khi xuất hiện các trường hợp mô hình AI truy cập trái phép vào hệ thống của doanh nghiệp bên ngoài trong giai đoạn thử nghiệm. Tuy nhiên, theo giới chuyên gia, việc diễn giải các sự cố này như bằng chứng về một AI tự chủ mất kiểm soát có thể làm lu mờ trách nhiệm bảo mật của chính đơn vị phát triển.

Gary McGraw, đồng sáng lập Berryville Machine Learning Institute, cho rằng các công ty AI cần tôn trọng và áp dụng những kinh nghiệm đã được tích lũy trong các lĩnh vực bảo mật truyền thống như điều tra số, kỹ thuật an ninh và giám sát mạng.

Theo các chuyên gia, vấn đề cốt lõi nằm ở thiết kế sandbox và cơ chế giám sát. Cụ thể, môi trường sandbox đáng lẽ phải cô lập AI agent khỏi các hệ thống bên ngoài, nhưng lại tồn tại lỗ hổng, trong khi hệ thống theo dõi không đủ chặt để phát hiện và ngăn chặn hành vi bất thường.

Rob T. Lee, Giám đốc AI của SANS Institute, nhận định sự cố liên quan đến Hugging Face không cho thấy AI sở hữu năng lực tấn công vượt trội. Theo ông, đây chủ yếu là trường hợp khai thác điểm yếu phát sinh từ một môi trường cô lập được cấu hình sai.

Dan Wallach, chuyên gia của RAND Corporation, cũng chỉ trích việc các công ty AI chưa dành mức ưu tiên tương xứng cho an ninh mạng. Ông đặc biệt nhấn mạnh việc OpenAI không phát hiện dấu hiệu bất thường trong nhiều ngày sau sự cố, coi đây là thất bại rõ ràng của hệ thống giám sát.

Ở chiều ngược lại, bài viết dẫn trường hợp của Mistral tại Pháp. Công ty này được cho là đã phát hiện và chặn nỗ lực của mẫu mô hình mới Large4 khi mô hình thử truy cập một dịch vụ bên ngoài trong quá trình kiểm thử.

Các chuyên gia nhấn mạnh rằng bên cạnh nghiên cứu về an toàn AI, doanh nghiệp cần củng cố những lớp phòng vệ an ninh mạng đã được kiểm chứng, gồm kiểm soát quyền truy cập, cô lập mạng và giám sát theo thời gian thực.