Khi doanh nghiệp bắt đầu triển khai agent AI trên diện rộng, bài toán quản trị đồng thời nhiều agent đang trở thành một vấn đề lớn. AWS và Google Cloud hiện thu hút sự chú ý với hai hướng tiếp cận khác nhau.

Theo VentureBeat, Google Cloud tập trung vào quản trị ở tầng hệ thống. Trong khi đó, AWS chọn cách tiếp cận ở tầng thực thi thông qua mô hình “harness”. Theo mô hình này, nhà phát triển xác định trước nhiệm vụ của agent, mô hình sẽ sử dụng và các công cụ được phép gọi, còn hệ thống sẽ vận hành agent trong khung đã thiết lập.

Ưu tiên của AWS là rút ngắn thời gian triển khai. Sau khi nhà phát triển cấu hình vai trò của agent, mô hình và công cụ cần dùng, Bedrock AgentCore sẽ đảm nhận phần còn lại. Thay vì tự xây dựng agent từ đầu, người dùng có thể nhanh chóng đưa vào sử dụng chỉ với bước cấu hình. VentureBeat đánh giá cách làm này phù hợp với nhu cầu thử nghiệm và triển khai nhanh.

Trước đó, AWS đã cập nhật nền tảng Amazon Bedrock AgentCore và bổ sung tính năng “managed agent harness”. Trước đây, để đưa agent AI vào môi trường vận hành, nhà phát triển có thể phải mất vài ngày để tự thiết lập hạ tầng, từ tài nguyên tính toán, giao thức xác thực, lưu trữ dài hạn đến sandbox thực thi mã. Với “managed agent harness”, toàn bộ quy trình này được rút gọn xuống còn việc viết một tệp cấu hình, giúp thời gian triển khai giảm từ vài ngày xuống vài phút.

Ở chiều ngược lại, Google đẩy mạnh Gemini Enterprise như một môi trường điều phối tập trung để quản trị nhiều agent từ một đầu mối duy nhất. Hệ thống này hỗ trợ giám sát tập trung, bao gồm việc xác định ai được sử dụng agent nào, phải tuân thủ những quy tắc nào và từng agent đang thực hiện tác vụ gì. Cách tiếp cận này được ví như Kubernetes quản lý hàng trăm máy chủ từ một bảng quản trị chung.

Khi doanh nghiệp chỉ vận hành một vài agent với chức năng đơn giản, nhu cầu quản trị chưa phải vấn đề lớn. Tuy nhiên, tình hình thay đổi khi agent có thể hoạt động liên tục trong nhiều ngày, gửi email, chỉnh sửa dữ liệu và xử lý thanh toán.

Với các agent hoạt động dài ngày, hiện tượng “state drift” có thể xuất hiện theo thời gian, chẳng hạn đưa ra quyết định dựa trên thông tin đã lỗi thời hoặc tạo ra các kết quả xung đột lẫn nhau. Điều này có thể làm phát sinh sai lệch trong vận hành và bào mòn niềm tin vào AI. Vì vậy, khi quy mô triển khai ngày càng lớn, năng lực kiểm soát hiệu quả trở nên quan trọng không kém tốc độ phát triển.