Khi AI agent bắt đầu được triển khai vào các hệ thống nghiệp vụ thực tế, những cơ chế bảo mật và quản lý quyền truy cập truyền thống đang bộc lộ giới hạn. Theo SiliconANGLE ngày 5/8 (giờ địa phương), Rubrik đã công bố Rubrik Agent Identity, công cụ cho phép kiểm soát quyền truy cập của AI agent ở từng lần gọi công cụ, đồng thời nhấn mạnh rằng loại tác nhân này cần một lớp kiểm soát riêng.

Dev Rishi, phụ trách mảng AI của Rubrik, cho biết AI agent đặt ra bài toán bảo mật khác với người dùng thông thường hoặc tài khoản dịch vụ. Theo ông, do AI agent kết hợp mô hình có tính xác suất với danh tính truy cập được gắn sẵn, các giả định bảo mật vốn áp dụng cho phần mềm truyền thống không còn phù hợp nguyên vẹn.

Điểm phức tạp nằm ở chỗ từng hành động riêng lẻ của agent đều có thể diễn ra trong phạm vi quyền hợp lệ. Chẳng hạn, một agent có thể lấy dữ liệu từ Salesforce rồi chèn thông tin nhạy cảm vào email gửi ra bên ngoài. Mỗi thao tác xét riêng có thể đều được cấp phép, nhưng khi ghép lại trở thành rủi ro bảo mật.

Rubrik cho biết hãng đã sử dụng mô hình ngôn ngữ cỡ nhỏ mang tên Sage, được huấn luyện để phân biệt hành vi theo cách của một chuyên gia an ninh mạng, nhằm lấp khoảng trống này. Tuy nhiên, theo Rishi, AI agent có thể xử lý khối lượng công việc gấp 10 lần con người trong cùng một khoảng thời gian, nên việc để con người liên tục bấm nút phê duyệt là không khả thi.

Về mặt quản trị, khả năng quan sát được xem là điểm khởi đầu. Dù vậy, trong môi trường vận hành quy mô lớn, lượng dữ liệu telemetry thô lại nhanh chóng trở thành gánh nặng mới. Rubrik cho biết trong quá trình vận hành nội bộ, công ty phát sinh tới hàng nghìn tỷ token, vì vậy cần thêm một lớp trí tuệ để lọc ra các tín hiệu rủi ro cũng như những giai đoạn chi phí tăng vọt.

Theo đánh giá này, bảo mật AI agent không chỉ dừng ở quyền truy cập. Doanh nghiệp hiện phải đồng thời quản lý hành vi đơn lẻ, tổ hợp hành vi, các điểm phát sinh chi phí tập trung và mức độ hiển thị trong vận hành.

Tại Hàn Quốc, các trường hợp ứng dụng AI agent cũng đang tăng lên. Kakao hiện xây dựng một marketplace để người dùng tìm kiếm và sử dụng AI agent tại một nơi. Công ty này đặt mục tiêu hình thành hệ sinh thái tương tự App Store, nơi nhiều AI agent và công cụ được đăng ký, kiểm chứng, để người dùng có thể tìm kiếm và kết hợp các chức năng cần thiết.

Thông qua mô hình tích hợp này, người dùng được kỳ vọng có thể nhận gợi ý món ăn bằng AI, đặt hàng và thanh toán ngay trong cửa sổ chat KakaoTalk mà không cần chuyển sang ứng dụng khác. Tuy nhiên, bài toán kiểm soát bằng cơ chế bảo mật và quản lý quyền truy cập vẫn là thách thức lớn.