Ngày 9/6, Gartner cảnh báo 4 mối đe dọa an ninh mạng nổi bật liên quan đến AI gồm deepfake, tấn công ứng dụng AI, prompt injection và rủi ro trong chuỗi cung ứng phần mềm. Theo hãng nghiên cứu này, đây là những nguy cơ có thể tạo lợi thế lớn cho tin tặc khi khai thác các điểm yếu trong hệ thống của tổ chức.

Gartner cho biết các mối đe dọa được đánh giá dựa trên hai tiêu chí chính: “chỉ dấu đe dọa”, tức khối lượng và chất lượng thông tin hiện có về rủi ro, và “năng lực ứng phó của tổ chức”, tức mức độ hiệu quả trong quản trị và phòng vệ. Từ đó, hãng phân loại các rủi ro thành 6 nhóm.

Với deepfake, Gartner nhận định AI tạo sinh đang làm gia tăng mạnh quy mô, mức độ tinh vi và khả năng tiếp cận của nội dung giả mạo dưới dạng giọng nói, video và hình ảnh. Khi deepfake không còn dừng ở nội dung dựng sẵn mà chuyển sang tạo theo thời gian thực, nguy cơ giả mạo danh tính trên nhiều kênh cũng tăng lên đáng kể.

Deepfake có thể bị lợi dụng để vượt qua các quy trình xác thực sinh trắc học, thực hiện các cuộc tấn công kỹ nghệ xã hội theo thời gian thực nhằm vào nhân viên, hoặc làm gián đoạn quy trình tuyển dụng.

Bên cạnh đó, tấn công ứng dụng AI đang nổi lên như một rủi ro trọng yếu khi tin tặc nhắm vào các công cụ AI nội bộ và AI doanh nghiệp đã được triển khai trong môi trường vận hành. Bề mặt tấn công ngày càng mở rộng do sự xuất hiện của các AI agent do doanh nghiệp tự phát triển, các tích hợp bên thứ ba và những ứng dụng được xây dựng riêng cho nhân viên. Nếu lớp bảo mật không đủ chặt chẽ, dữ liệu nhạy cảm và thông tin xác thực có thể bị lộ.

Prompt injection cũng được Gartner xếp vào nhóm rủi ro đáng chú ý, đặc biệt với các hệ thống AI sử dụng mô hình ngôn ngữ lớn (LLM). Trong kịch bản này, kẻ tấn công chèn prompt độc hại để điều hướng sai hành vi của mô hình, từ đó làm rò rỉ dữ liệu nhạy cảm, buộc hệ thống thực hiện tác vụ trái phép hoặc vượt qua các cơ chế kiểm soát bảo mật hiện có.

Gartner lưu ý rằng khi doanh nghiệp mở rộng triển khai AI tạo sinh, nguy cơ prompt injection cũng tăng theo và trở thành một ưu tiên đối với các đội ngũ an ninh mạng.

Đối với chuỗi cung ứng phần mềm, Gartner cho rằng sự phát triển của các giải pháp AI tạo sinh sẽ thúc đẩy xu hướng tấn công vào các lỗ hổng trong phần mềm mã nguồn mở. Hãng khuyến nghị doanh nghiệp xây dựng kho thành phần đáng tin cậy, tăng cường bảo mật cho pipeline CI/CD, đồng thời thiết lập năng lực phát hiện bất thường trong vận hành và nâng cao khả năng ứng phó sự cố.

John Watts, Phó chủ tịch kiêm chuyên gia phân tích của Gartner, nhận định việc doanh nghiệp đưa AI vào các sáng kiến bảo mật đang khiến bức tranh đe dọa vốn đã phức tạp càng trở nên khó lường hơn. Theo ông, các lãnh đạo an ninh mạng cần sớm nhận diện tín hiệu rủi ro và duy trì khả năng ứng phó linh hoạt trước những biến động của môi trường đe dọa.