Microsoft đã giới thiệu Agent Control Spec, một chuẩn nguồn mở nhằm chuẩn hóa cách kiểm soát hành vi của AI agent thông qua các tệp chính sách thống nhất.

Theo TechCrunch ngày 2/6 (giờ địa phương), Agent Control Spec cho phép đội ngũ phát triển, bảo mật và tuân thủ xác định rõ agent được phép làm gì, bị cấm làm gì, khi nào cần con người phê duyệt và loại nhật ký nào phải được lưu lại để phục vụ kiểm tra sau này.

Các chính sách này được áp dụng tại nhiều điểm kiểm tra trong suốt quá trình agent thực thi tác vụ. Cụ thể, hệ thống có thể kiểm tra trước khi nhận đầu vào, trước khi gọi công cụ, sau khi công cụ trả kết quả và trước khi gửi phản hồi cuối cùng cho người dùng.

Microsoft cho biết cách làm này giúp duy trì kiểm soát xuyên suốt toàn bộ luồng xử lý, hạn chế việc agent vượt ra ngoài phạm vi đã được thiết lập.

Trước đây, doanh nghiệp thường kiểm soát AI agent bằng cách đưa hướng dẫn vào system prompt, bổ sung logic kiểm tra riêng trong mã ứng dụng hoặc sử dụng bộ phân loại để lọc đầu vào và đầu ra có vấn đề.

Tuy nhiên, nhược điểm của cách tiếp cận này là các cơ chế kiểm soát thường bị phân tán theo từng framework và hệ thống khác nhau, khiến việc kiểm toán cũng như tái sử dụng trở nên khó khăn.

Với Agent Control Spec, các cơ chế này có thể được hợp nhất vào một lớp quản trị chung. Chính sách không chỉ dùng để cho phép hoặc chặn hành vi, mà còn có thể che giấu thông tin nhạy cảm hoặc yêu cầu con người phê duyệt.

Agent Control Spec hiện được cung cấp dưới dạng SDK và hỗ trợ plugin cho LangChain, OpenAI Agents SDK, Anthropic Agents SDK, AutoGen, CrewAI, Semantic Kernel, Microsoft.Extensions.AI và các công cụ theo MCP.