Gartner dự báo đến năm 2029, phần lớn sự cố xâm phạm quyền riêng tư sẽ không còn bắt nguồn từ việc rò rỉ trực tiếp thông tin định danh cá nhân (PII), mà chủ yếu đến từ các suy luận do AI tạo ra về từng cá nhân.

Theo Gartner, khi doanh nghiệp cắt giảm lượng dữ liệu cá nhân lưu giữ vì áp lực tuân thủ quy định và chi phí vận hành, các tác nhân đe dọa sẽ có thêm cơ hội triển khai những cuộc tấn công dựa trên suy luận AI. Với sự phát triển của AI tạo sinh và học máy, ngay cả dữ liệu đã được ẩn danh hoặc dữ liệu ở dạng tổng hợp cũng có thể bị phân tích để suy ra thông tin nhạy cảm như tình trạng sức khỏe hoặc hành vi cá nhân.

Bart Willemsen, nhà phân tích cấp cao tại Gartner, cho biết mô hình xâm phạm quyền riêng tư đang dịch chuyển từ “rò rỉ dữ liệu” sang “rò rỉ các suy luận về cá nhân”. Theo ông, lâu nay doanh nghiệp chủ yếu tập trung bảo vệ dữ liệu cá nhân, nhưng AI hiện có thể tái dựng những kết luận sâu hơn về một cá nhân, vượt ra ngoài phạm vi kiểm soát của các cơ chế bảo vệ dữ liệu truyền thống. Vì vậy, rủi ro quyền riêng tư ngày càng đến từ những gì AI suy luận về một người, thay vì chỉ từ việc dữ liệu bị lộ.

Ông cũng nhấn mạnh các cuộc tấn công dựa trên suy luận nguy hiểm hơn vì thường khó bị các hệ thống giám sát truyền thống phát hiện. Ngay cả khi hồ sơ gốc không bị rò rỉ, những kết luận do AI tạo ra vẫn có thể làm lộ thông tin nhạy cảm, ảnh hưởng đến tính toàn vẹn dữ liệu và tạo ra rủi ro xâm phạm quyền riêng tư khó phát hiện, giải thích và kiểm soát.

Gartner cho rằng doanh nghiệp cần xem lại chiến lược bảo vệ quyền riêng tư. Lãnh đạo phụ trách an ninh không chỉ phải bảo vệ dữ liệu cá nhân, mà còn phải quản trị cách các hệ thống AI tạo ra, sử dụng các suy luận về cá nhân và cách chúng hành động dựa trên những suy luận đó.

Hãng nghiên cứu này đồng thời dự báo đến năm 2028, chi tiêu cho bảo vệ tính toàn vẹn dữ liệu sẽ ngang bằng với chi tiêu cho bảo mật, khi doanh nghiệp tăng cường ứng phó với rủi ro sai lệch, thiên lệch và việc lập hồ sơ cá nhân trái phép bằng AI.

Theo Willemsen, những doanh nghiệp chỉ xem quyền riêng tư là bài toán bảo vệ dữ liệu sẽ ngày càng dễ tổn thương trước các sự cố xâm phạm quyền riêng tư bắt nguồn từ suy luận AI. Ông cho rằng trong tương lai, rủi ro quyền riêng tư sẽ phụ thuộc nhiều hơn vào cách AI diễn giải dữ liệu, thay vì cách doanh nghiệp lưu trữ dữ liệu.