Google trong tháng 5 đã chính thức ra mắt GKE Agent Sandbox và công bố dự án Agent Substrate, hai công cụ mới được thiết kế để hỗ trợ vận hành AI agent an toàn và hiệu quả hơn. Theo phân tích của Janakiram MSV trên The New Stack, động thái này cũng cho thấy Kubernetes chưa thực sự phù hợp để đóng vai trò lớp điều phối cho AI agent.

GKE Agent Sandbox được giới thiệu như một môi trường an toàn để chạy các đoạn mã không đáng tin cậy. Trong khi đó, Agent Substrate bổ sung một lớp lập lịch riêng cho AI agent, thay vì phụ thuộc hoàn toàn vào Kubernetes API server vốn không được thiết kế ban đầu cho mô hình agent.

Janakiram MSV cho rằng đặc tính vận hành của agent khác đáng kể so với các workload truyền thống. Phần lớn thời gian, agent ở trạng thái chờ; chỉ trong những khoảng thời gian ngắn, chúng mới được kích hoạt để thực thi mã rồi quay lại trạng thái nghỉ. Về bản chất, đây là các phiên có trạng thái.

Một vấn đề khác nằm ở chính đoạn mã mà agent thực thi. Do mã này được AI tạo ra theo thời điểm, phía máy chủ mặc định phải coi đó là mã có nguy cơ rủi ro và xử lý theo hướng phòng thủ.

Theo Janakiram MSV, Kubernetes được xây dựng để quản lý một số lượng tương đối ổn định các dịch vụ sao chép chạy dài hạn. Mô hình đó không phù hợp với AI agent, vốn liên tục phát sinh các yêu cầu lập lịch ở mức chi tiết hơn.

Ông cũng nhận định AWS, Microsoft và Google đều đã xem “phiên” là đơn vị tính toán mới. Tuy nhiên, cách tiếp cận về cô lập và vận hành giữa các hãng vẫn còn khác nhau.

Với GKE Agent Sandbox, Google mặc định cung cấp cơ chế cô lập ở cấp độ nhân dựa trên gVisor, đồng thời áp dụng chính sách mạng theo hướng “từ chối mặc định”. Nền tảng này cũng hỗ trợ giao diện dạng plug-in để có thể chuyển sang Kata Containers khi cần mức cô lập mạnh hơn.

Trong khi đó, Agent Substrate tận dụng lại runtime bảo mật của sandbox cùng tính năng snapshot, và vận hành bằng cách đặt một hệ thống điều phối gọn nhẹ chuyên cho agent bên cạnh cụm Kubernetes.

Theo phân tích của Janakiram MSV, Agent Substrate không nhằm thay thế hay cạnh tranh trực tiếp với Kubernetes. Sandbox phù hợp để chạy mã không đáng tin cậy, Substrate phù hợp để xử lý khối lượng lớn các phiên ở trạng thái chờ, còn Kubernetes vẫn thích hợp cho bài toán cấp phát hạ tầng. Trong thực tế triển khai, ba thành phần này thường được sử dụng cùng nhau.

Ông cho rằng vấn đề cốt lõi lúc này là bên nào sẽ kiểm soát lớp điều phối. Cũng như thị trường điều phối container từng hội tụ về Kubernetes, câu hỏi đặt ra là lớp điều phối cho AI agent liệu có thể tập trung vào một dự án mã nguồn mở duy nhất hay sẽ tiếp tục phân mảnh, khi mỗi hyperscaler theo đuổi một hướng đi riêng.