Nhiều ý kiến trong giới công nghệ cho rằng nhân viên không nên đưa tài liệu nội bộ hoặc thông tin mật của công ty vào các dịch vụ AI sử dụng bằng tài khoản cá nhân. Nguyên nhân là dữ liệu này có thể bị dùng để huấn luyện mô hình, trong khi doanh nghiệp gần như không thể kiểm soát hoặc truy vết nếu phát sinh sự cố.

Theo ITmedia ngày 27/8 (giờ địa phương), rủi ro lớn nhất nằm ở cách các dịch vụ AI đám mây xử lý dữ liệu đầu vào. Với những nền tảng như ChatGPT, nội dung người dùng nhập vào có thể được sử dụng để cải thiện và huấn luyện mô hình. Vì vậy, nếu tài liệu nội bộ hoặc bí mật doanh nghiệp được đưa lên các dịch vụ này, nguy cơ rò rỉ dữ liệu sẽ phát sinh. Ngay cả với gói trả phí cá nhân, thiết lập xử lý dữ liệu trong nhiều trường hợp vẫn không thay đổi.

Thực tế, điều khoản sử dụng của phiên bản ChatGPT dành cho cá nhân nêu rõ doanh nghiệp cung cấp dịch vụ có thể sử dụng “nội dung” để cung cấp, duy trì, phát triển và cải thiện dịch vụ, đồng thời phục vụ mục đích tuân thủ pháp luật, thực thi chính sách và bảo đảm an toàn. Khái niệm “nội dung” ở đây bao gồm cả dữ liệu người dùng nhập vào lẫn nội dung do AI tạo ra. Khi phạm vi xử lý đã được quy định trong điều khoản, việc đưa dữ liệu công ty vào tài khoản cá nhân rõ ràng trở thành một yếu tố rủi ro.

Ở chiều ngược lại, một số gói dành cho doanh nghiệp có thể thỏa thuận không dùng dữ liệu đầu vào cho mục đích huấn luyện, tùy theo điều kiện hợp đồng. Một số dịch vụ cá nhân cũng cho phép tắt tính năng sử dụng nội dung nhập vào để huấn luyện mô hình. Tuy nhiên, điều đó không đồng nghĩa người dùng được phép đưa thông tin công ty lên các dịch vụ AI cá nhân.

Vấn đề đặc biệt nghiêm trọng khi xảy ra sự cố bảo mật. Với các hệ thống AI do doanh nghiệp triển khai chính thức, lịch sử sử dụng thường có thể được giám sát hoặc truy vết để xác định nguyên nhân. Trong khi đó, nếu nhân viên tự đăng ký và sử dụng dịch vụ bên ngoài bằng tài khoản cá nhân, doanh nghiệp rất khó biết ai đã nhập dữ liệu gì, vào thời điểm nào và qua nền tảng nào. Điều này gây trở ngại lớn cho việc điều tra và xử lý sự cố.

Theo cách gọi trong ngành, việc tự ý sử dụng dịch vụ công nghệ bên ngoài mà không có phê duyệt của doanh nghiệp được xếp vào “shadow IT”, còn trong trường hợp AI là “shadow AI”. Từ góc độ an ninh doanh nghiệp, đây là hành vi cần được hạn chế. Dù mục đích là nâng cao hiệu suất làm việc, dữ liệu công ty một khi đi lên đám mây qua kênh không được quản trị sẽ nằm ngoài phạm vi kiểm soát.

Một phương án được nhắc tới để giảm rủi ro truyền dữ liệu là “local AI” và “local LLM”, tức vận hành mô hình AI trực tiếp trên thiết bị của người dùng hoặc trên hạ tầng do doanh nghiệp tự quản trị. Trước đây, cách tiếp cận này thường bị đánh giá thua kém AI đám mây về hiệu năng. Tuy nhiên, trong khoảng một đến hai năm gần đây, khoảng cách đã thu hẹp, khiến ngày càng nhiều doanh nghiệp cân nhắc triển khai.

Tựu trung, mức độ an toàn của AI trong công việc không phụ thuộc vào việc người dùng có trả phí hay không, mà nằm ở khả năng doanh nghiệp kiểm soát dòng dữ liệu. Nhân viên cần sử dụng các dịch vụ đã được doanh nghiệp phê duyệt và phải kiểm tra rõ loại thông tin nào được phép nhập. Về phía doanh nghiệp, cần xây dựng hướng dẫn cụ thể, tăng cường đào tạo và chuẩn bị các phương án thay thế an toàn hơn như local AI. Trong bối cảnh AI ngày càng phổ biến, xử lý rủi ro “shadow AI” trong các điểm mù quản trị được dự báo sẽ trở thành một nhiệm vụ trọng tâm của an ninh doanh nghiệp.