Darktrace vừa ra mắt Secure AI, giải pháp bảo mật mới được thiết kế để giám sát và kiểm soát việc sử dụng các công cụ AI cũng như AI agent trong doanh nghiệp. Theo SiliconAngle ngày 22/9 (giờ địa phương), sản phẩm này nhắm tới bài toán AI đang được triển khai trong nội bộ doanh nghiệp nhanh hơn khả năng quản trị của nhiều đội ngũ an ninh mạng.

Theo Darktrace, hãng đã mở rộng mô hình phát hiện dựa trên hành vi sang các môi trường AI. Hệ thống sẽ học cách thức hoạt động bình thường của từng khách hàng, từ đó nhận diện các dấu hiệu bất thường.

Dựa trên dữ liệu giám sát (telemetry) thu thập từ khoảng 8.200 môi trường triển khai, Darktrace cho biết tính đến tháng 8, hơn 80% tài khoản khách hàng nằm trong diện theo dõi đã sử dụng các dịch vụ AI tạo sinh. Trung bình mỗi tổ chức dùng 5 nhà cung cấp AI trong tháng 8.

Ngay từ các đợt triển khai ban đầu, Darktrace đã ghi nhận tình trạng sử dụng AI ngoài kiểm soát. Có tổ chức chỉ phê duyệt một trợ lý AI, nhưng trên thực tế phần lớn nhân viên lại sử dụng các dịch vụ AI không nằm trong danh mục cho phép. Một tổ chức khác tạo khoảng 90 AI agent trong môi trường phát triển low-code mà không qua quy trình phê duyệt.

Secure AI giám sát theo thời gian thực các phiên sử dụng ChatGPT Enterprise, Claude, Microsoft Copilot và Amazon Bedrock. Nền tảng này có thể phát hiện dấu hiệu jailbreak, rò rỉ thông tin nhạy cảm và các cuộc tấn công prompt injection gián tiếp, đồng thời chấm điểm rủi ro cho từng phiên để bộ phận an ninh ưu tiên xử lý.

Để phát hiện shadow AI, nền tảng cũng tận dụng khả năng tích hợp với các dịch vụ SASE (secure access service edge) như Microsoft Entra Global Secure Access.

Nhờ đó, quản trị viên có thể chặn các dịch vụ không được phép hoặc cô lập thiết bị. Doanh nghiệp cũng có thể đưa chính sách AI nội bộ vào hệ thống dưới dạng văn bản, sau đó đối chiếu với khung kiểm soát và yêu cầu tuân thủ để rà soát.

Darktrace cho biết Secure AI còn gắn từng AI agent với người dùng cụ thể để theo dõi, đồng thời kiểm soát phạm vi quyền truy cập của từng agent. Nền tảng này cũng kiểm tra cả các môi trường phát triển như Amazon Bedrock và Microsoft Copilot Studio. Qua đó, doanh nghiệp có thể phát hiện sớm tình trạng cấp quyền quá mức hoặc lỗi cấu hình ngay từ giai đoạn xây dựng agent.