Google Cloud ngày 23/10 (giờ địa phương) giới thiệu Agent Compute Engine, nền tảng hạ tầng mới được thiết kế riêng cho việc vận hành AI agent, theo SiliconANGLE.

Trong Agent Compute Engine, AI agent hoạt động trong một không gian tách biệt gọi là “sandbox”, độc lập với môi trường bên ngoài. Sandbox này chứa ứng dụng, dữ liệu và các chỉ dẫn cần thiết để agent thực thi tác vụ, đồng thời tích hợp cơ chế bảo mật nhằm ngăn chặn hành vi độc hại.

Google cho biết sandbox của Agent Compute Engine được triển khai trên nền tảng microVM. Theo hãng, kiến trúc này giúp tận dụng tài nguyên phần cứng hiệu quả như container, nhưng vẫn duy trì mức độ bảo mật tương đương các mô hình ảo hóa truyền thống.

Hãng cũng sử dụng công nghệ hypervisor để cô lập các máy ảo, qua đó hạn chế nguy cơ mã độc lan sang các môi trường khác nếu xảy ra xâm nhập.

Các microVM chạy trên một hệ thống phần cứng được cấu hình riêng. Hệ thống này sử dụng kiến trúc không trạng thái, không lưu trữ lâu dài các tệp mà AI agent của khách hàng sử dụng. Dữ liệu được đặt trong hệ thống tệp tin bất biến, không thể chỉnh sửa hoặc xóa. Google cho biết hãng xác thực tính toàn vẹn của firmware bằng chip bảo mật Titan, đồng thời bổ sung cơ chế giảm thiểu tấn công kênh kề ở cấp độ CPU.

Google dự kiến sẽ triển khai Agent Compute Engine trong vài tháng tới, cùng với phiên bản mới của Agent Gateway. Bản cập nhật này bổ sung tính năng định tuyến mô hình để điều phối từng yêu cầu tới mô hình phù hợp nhất, cùng công cụ tối ưu chi phí suy luận của agent.

Ngoài ra, tính năng quản lý token sẽ theo dõi mức sử dụng token trên toàn bộ agent và mô hình, hỗ trợ phân bổ chi tiêu và kiểm soát ngân sách.