Fasoo AI ngày 28/10 công bố báo cáo về thực trạng sử dụng Shadow AI tại các doanh nghiệp Hàn Quốc, dựa trên khảo sát 151 người phụ trách bảo mật. Kết quả cho thấy việc chỉ cấm sử dụng AI tạo sinh khó ngăn được rủi ro, trong khi doanh nghiệp cần đồng thời xây dựng chính sách rõ ràng, cung cấp công cụ AI nội bộ an toàn và tăng khả năng hiển thị đối với hoạt động sử dụng AI.

Theo báo cáo, cách thức sử dụng AI phổ biến nhất hiện nay là cho phép sử dụng tự do mà không có quy định riêng, chiếm 29,1%. Xếp sau là mô hình chỉ cho phép một số dịch vụ AI tạo sinh được chỉ định, với 22,5%, và mô hình tự xây dựng, vận hành AI nội bộ, với 17,9%.

Tỷ lệ tổ chức về nguyên tắc cấm sử dụng AI là 14,6%. Tuy nhiên, 88,7% người tham gia khảo sát cho biết họ vẫn sử dụng các dịch vụ AI tạo sinh bằng tài khoản cá nhân cho công việc.

Fasoo AI nhận định việc cấm AI tạo sinh trong nội bộ không thể ngăn hoàn toàn nhân viên dùng tài khoản cá nhân. Ngay cả trong nhóm trả lời rằng tổ chức của họ về nguyên tắc cấm sử dụng, tỷ lệ dùng Shadow AI vẫn ở mức 77,3%.

Báo cáo cũng chỉ ra những lỗ hổng bảo mật phát sinh từ Shadow AI. Chỉ 19,2% tổ chức cho biết có thể theo dõi và kiểm soát việc nhân viên sử dụng AI bằng tài khoản cá nhân. Mối lo lớn nhất là dữ liệu nội bộ quan trọng bị sử dụng để huấn luyện mô hình của bên thứ ba, chiếm 28,3%. Tiếp đến là nguy cơ vi phạm các quy định như luật bảo vệ thông tin cá nhân và GDPR, với 24,0%, cùng khó khăn trong ứng phó sự cố do không thể truy vết lịch sử sử dụng, ở mức 23,7%.

Về giải pháp giảm rủi ro Shadow AI, phương án được ưu tiên nhiều nhất là cung cấp công cụ AI nội bộ để nhân viên có thể sử dụng an toàn, chiếm 25,7%. Các lựa chọn tiếp theo gồm bảo đảm khả năng hiển thị để nắm bắt tình trạng sử dụng AI, với 20,6%; thiết lập chính sách và hướng dẫn sử dụng AI rõ ràng, với 18,9%; và áp dụng công nghệ kiểm soát thông tin nhạy cảm ngay từ khâu nhập prompt, với 17,7%.

Ông Son Jong-gon, giám đốc điều hành Fasoo AI, cho biết kết quả khảo sát cho thấy Shadow AI rất khó kiểm soát nếu chỉ dựa vào lệnh cấm. Theo ông, trọng tâm hiện nay là xây dựng chính sách rõ ràng, cung cấp phương án thay thế an toàn và bảo đảm khả năng hiển thị đối với toàn bộ hoạt động sử dụng AI. Ông cũng cho biết Fasoo AI sẽ sớm ra mắt một nền tảng bảo mật AI có khả năng quản lý tổng thể nhiều kênh rò rỉ và cung cấp khả năng hiển thị trên toàn bộ hiện trạng sử dụng AI.