Khảo sát mới của Gartner cho thấy các cuộc tấn công xã hội sử dụng deepfake đang gia tăng rõ rệt. Trong 12 tháng qua, 41% giám đốc an ninh thông tin (CISO) cho biết đã ghi nhận các vụ tấn công dạng này qua cuộc gọi thoại nhắm vào nhân viên, trong khi tỷ lệ qua video là 36%.

Theo Gartner, khảo sát được thực hiện từ tháng 3 đến tháng 5 năm nay với 297 lãnh đạo cấp cao phụ trách an ninh mạng, gồm CISO và các vị trí tương đương. Kết quả cho thấy AI đang làm gia tăng tần suất, mức độ cá nhân hóa và độ thuyết phục của các cuộc tấn công xã hội, đồng thời làm suy giảm hiệu quả của những dấu hiệu nhận diện truyền thống.

Craig Porter, Giám đốc phân tích của Gartner, cho biết tin tặc đang kết hợp phishing, xâm nhập email doanh nghiệp, nội dung giả mạo do AI tạo ra cùng dữ liệu cá nhân thu thập được để triển khai các cuộc tấn công đa kênh.

Ông nhấn mạnh phần lớn các cuộc tấn công trong thời gian tới vẫn sẽ xoay quanh người dùng, thông tin xác thực bị đánh cắp, quy trình khôi phục lỏng lẻo và các kỹ thuật quen thuộc. Theo ông, CISO cần xem các mối đe dọa từ tấn công xã hội dựa trên AI như một phần trong đánh giá rủi ro về danh tính và quyền truy cập.

Trong nhóm CISO tham gia khảo sát, 79% cho biết doanh nghiệp của họ đã gặp ít nhất một sự cố liên quan đến email phishing, spear phishing hoặc xâm nhập email doanh nghiệp trong 12 tháng qua. Tỷ lệ ghi nhận các vụ vishing và smishing là 58%.

Gartner đưa ra ba ưu tiên mà CISO cần thúc đẩy để ứng phó hiệu quả hơn với các cuộc tấn công xã hội dựa trên AI.

Thứ nhất, doanh nghiệp cần chuyển từ các chương trình đào tạo rập khuôn sang mô hình xây dựng hành vi và văn hóa an ninh có khả năng thích ứng. Thay vì chỉ tập trung hướng dẫn nhân viên cách nhận biết giả mạo, doanh nghiệp nên biến việc tuân thủ quy trình xác minh an toàn đối với các yêu cầu quan trọng thành một chuẩn mực hành vi.

Nhân viên và những người có thẩm quyền phê duyệt cần được huấn luyện để dừng lại, xác minh rồi mới báo cáo khi gặp các yêu cầu rủi ro cao, bất kể yêu cầu đó đến từ email, cuộc gọi thoại, video, công cụ cộng tác hay ứng dụng AI. Doanh nghiệp cũng cần tổ chức diễn tập để kiểm tra xem quy trình xác minh và báo cáo các dấu hiệu nghi ngờ liên quan đến AI có vận hành thông suốt hay không.

Thứ hai, Gartner khuyến nghị tăng cường hệ thống danh tính nhân viên và cơ chế khôi phục tài khoản nhằm giảm nguy cơ bị mạo danh. Các quy trình có mức độ quan trọng cao như khôi phục tài khoản, cấp quyền truy cập đặc quyền và phê duyệt thanh toán cần được bảo vệ bằng cơ chế xác thực chống phishing, kiểm soát danh tính dựa trên rủi ro và các kênh đáng tin cậy. Đồng thời, doanh nghiệp cần bổ sung các biện pháp kiểm soát để phát hiện hành vi lạm dụng danh tính ngay cả sau khi đã đăng nhập hợp lệ hoặc đặt lại mật khẩu.

Thứ ba, doanh nghiệp cần hoàn thiện năng lực phát hiện và ứng phó trước các mối đe dọa có sự hỗ trợ của AI. Gartner cho rằng cần nâng cao khả năng phát hiện bằng cách liên kết và phân tích các báo cáo về tương tác đáng ngờ hoặc hành vi mạo danh với lịch sử khôi phục tài khoản, đăng nhập từ thiết bị mới, thay đổi quyền truy cập và dữ liệu giao dịch tài chính.

Bên cạnh đó, sổ tay ứng phó sự cố cũng cần được cập nhật để xử lý các tình huống mạo danh đa phương thức, các khuyến nghị do AI tạo ra nhưng đã bị thao túng, AI agent bị xâm nhập hoặc bị lạm dụng, cũng như các agent hoạt động vượt ra ngoài phạm vi được cho phép.