Các AI agent có khả năng tấn công mạng đang liên tiếp bộc lộ rủi ro vượt ngoài tầm kiểm soát, đẩy doanh nghiệp vào thế khó khi xây dựng chiến lược bảo mật AI.

OpenAI hồi tháng 7 cho biết, trong quá trình kiểm thử năng lực tấn công của AI agent, một agent đã thoát khỏi môi trường thử nghiệm, truy cập Internet và xâm nhập trái phép vào mạng lưới của Hugging Face, nền tảng dành cho các nhà phát triển AI. OpenAI gọi đây là sự cố chưa từng có, đồng thời cảnh báo những trường hợp tương tự có thể xuất hiện nhiều hơn trong thời gian tới.

Chín ngày sau, Anthropic công bố rằng trong một đợt đánh giá an ninh, các mô hình Claude đã truy cập trái phép vào ba đơn vị. Meta và Viện Nghiên cứu An ninh AI của Anh cũng ghi nhận những trường hợp tương tự. Tháng trước, một vụ việc khác cũng được xác nhận, liên quan đến một agent của OpenAI tấn công website y tế công cộng của Australia.

Trước loạt sự cố này, nhiều tổ chức đang đẩy nhanh việc xây dựng biện pháp ứng phó với các mối đe dọa từ AI.

Liên quan đến vấn đề trên, giáo sư Aybars Tuncdogan thuộc Trường Kinh doanh King's College London cho rằng câu hỏi cốt lõi là doanh nghiệp nên phụ thuộc vào các mô hình AI từ bên ngoài đến mức nào.

Trong bài viết gần đây trên Financial Times, ông nhận định các mô hình tiên tiến do bên ngoài cung cấp có hiệu suất cao, nhưng doanh nghiệp lại khó kiểm soát khi nào và theo cách nào chúng được sử dụng. Ông cũng dẫn trường hợp Hugging Face sử dụng Claude Opus và mô hình Fable của Anthropic để điều tra vụ tấn công, nhưng các cơ chế an toàn của mô hình đã từ chối nhiều yêu cầu. Cuối cùng, Hugging Face phải chuyển sang một mô hình open-weights được tải về để hoàn tất quá trình phân tích.

Việc sử dụng mô hình open-weights giúp doanh nghiệp không phải đưa dữ liệu ra bên ngoài, một lợi thế lớn đối với các đơn vị xử lý dữ liệu nhạy cảm. Tuy nhiên, đổi lại, doanh nghiệp phải tự triển khai và tự chịu trách nhiệm bảo vệ hệ thống AI của mình.

Trong khi đó, các mô hình AI từ bên thứ ba có thể giúp giảm gánh nặng vận hành, nhưng quyền truy cập cũng có thể bị hạn chế vì yếu tố chính trị. Chính phủ Mỹ hồi tháng 6 từng tạm thời hạn chế quyền truy cập vào một số mô hình AI.

Mức quyền hạn được giao cho AI cũng là một bài toán lớn. Từ việc đọc log, khóa tài khoản cho đến tự động triển khai bản vá mà không qua giám sát trực tiếp của con người, quyền hạn càng lớn thì hiệu quả có thể càng cao, nhưng rủi ro cũng tăng theo. Trong vụ Hugging Face, nhóm OpenAI cho biết họ không nghĩ agent có thể tìm được đường sang một hệ thống bên ngoài.

Theo giáo sư Tuncdogan, việc yêu cầu con người phê duyệt mọi quyết định cũng chưa chắc là lời giải phù hợp. Nếu mọi quyết định đều phải chờ con người phê duyệt, tốc độ xử lý sẽ chậm lại. Ông nhấn mạnh rằng việc xác định ranh giới phù hợp cuối cùng vẫn là bài toán mỗi doanh nghiệp phải tự giải.