Khi AI agent ngày càng được doanh nghiệp sử dụng để tự động hóa tác vụ mà không cần con người can thiệp trực tiếp, lo ngại về rủi ro bảo mật và khả năng vận hành ngoài kiểm soát cũng gia tăng. Trong bối cảnh đó, Guardian AI - nhóm công cụ giám sát và kiểm soát AI agent - đang thu hút sự chú ý của thị trường.

Ngay cả tại các tập đoàn công nghệ lớn như Meta và Amazon, các sự cố do AI agent hoạt động sai lệch cũng đã gây ra vấn đề bảo mật và gián đoạn dịch vụ. Vì vậy, nhu cầu đối với các giải pháp có thể theo dõi hành vi của agent, đặt quy tắc kiểm soát và can thiệp khi vượt ngưỡng đang tăng lên rõ rệt.

Guardian AI thường được triển khai dưới dạng ứng dụng đám mây. Công cụ này cho phép doanh nghiệp thiết lập bộ quy tắc hành vi cho AI agent; khi agent có dấu hiệu vượt khỏi phạm vi cho phép, hệ thống sẽ phát cảnh báo tới người phụ trách hoặc tự động điều chỉnh.

Theo The Information, Wayfound - startup Guardian AI do Tatyana Mamut, cựu lãnh đạo AWS và Salesforce, điều hành - hiện có khoảng 12 khách hàng trả phí, chủ yếu trong lĩnh vực tài chính và công nghệ.

Một số quỹ phòng hộ đang sử dụng giải pháp của Wayfound để giám sát các AI agent viết báo cáo nghiên cứu. The Information cho biết công ty thu phí thuê bao 750 USD mỗi tháng cho mỗi 10.000 lượt tác vụ của agent.

Năm ngoái, Salesforce đã chỉ định Wayfound là “đối tác giám sát” chính thức của Agentforce, nền tảng AI agent của hãng. Startup Israel Avon AI cũng đã ký nhiều hợp đồng nhiều năm với khách hàng doanh nghiệp, áp dụng mô hình giá kết hợp giữa thuê bao và mức sử dụng.

Các hãng công nghệ lớn cũng đang đẩy nhanh bước đi trong thị trường này. ServiceNow, nhà cung cấp phần mềm doanh nghiệp trên nền tảng đám mây, hiện bán một “guardian agent” có thể giám sát không chỉ AI agent của chính hãng mà cả agent do Microsoft và Amazon cung cấp. Sản phẩm được đóng gói dưới tên “AI Control Tower” và thu phí theo mô hình kết hợp giữa thuê bao và mức sử dụng. Salesforce cũng được cho là đang cân nhắc phát triển Guardian AI riêng.

Tại Hàn Quốc, các công ty an ninh mạng cũng tăng tốc mở rộng danh mục dựa trên AI. Fasoo đã đổi tên thành FasooAI và chuyển trọng tâm sang vai trò doanh nghiệp hỗ trợ AX. Công ty cho biết sau khi đổi tên sẽ đẩy mạnh các mảng liên quan như hỗ trợ triển khai AI thông qua nền tảng AI doanh nghiệp và agentic AI, đồng thời mở rộng danh mục để tăng cường quản trị AI, quản lý dữ liệu và bảo vệ dữ liệu theo định hướng AI-Ready.

RaonSecure cũng đã ký biên bản ghi nhớ với Upstage để phát triển và thương mại hóa các giải pháp tự động hóa bảo mật bằng agentic AI. Hai bên đặt mục tiêu ra mắt ngay trong năm nay một nền tảng tự động hóa bảo mật dựa trên agentic AI, nơi AI có thể tự động vận hành toàn bộ công tác an ninh trong doanh nghiệp.

Trong khi đó, các cuộc tấn công nhằm vào chuỗi cung ứng phần mềm vẫn tiếp diễn. Một vụ tấn công chuỗi cung ứng đã bị phát hiện khi tin tặc Triều Tiên sửa đổi gói NPM của thư viện JavaScript Axios, làm phát tán mã độc tới hàng triệu lượt tải xuống.

LiteLLM, công ty cung cấp giải pháp AI gateway được hàng triệu lập trình viên sử dụng, cũng thông báo sẽ chấm dứt hợp tác với startup tuân thủ bảo mật Delve và xin cấp lại chứng nhận bảo mật thông qua một đơn vị khác.

Ở mảng sản phẩm, AWS đã ra mắt AWS DevOps Agent và AWS Security Agent. Hai agent này được giới thiệu như “thành viên AI” hỗ trợ đội DevOps và đội an ninh hoạt động 24/7, giúp giảm thời gian xử lý sự cố sau khi phát sinh và tăng khả năng tối ưu hóa phòng ngừa từ sớm.

MegazoneCloud cũng ký thỏa thuận đối tác chiến lược với Zscaler nhằm tăng cường bảo mật đám mây dựa trên mô hình zero trust. Tại một hội nghị riêng, CEO MegazoneCloud Yeom Dong-hoon nhấn mạnh hai điều kiện để AI có thể bám rễ trong doanh nghiệp là “enterprise trust layer” và quản trị thay đổi. Trên cơ sở đó, ông đưa ra tầm nhìn về một môi trường “máy tính AI trên nền tảng đám mây” được toàn bộ nhân viên sử dụng.

Một báo cáo khác cho biết đã phát hiện lỗ hổng command injection trong Codex, AI agent viết mã của OpenAI. Lỗ hổng này có thể dẫn tới nguy cơ bị đánh cắp token xác thực GitHub.

Giới an ninh mạng cũng đang theo dõi sát thông tin về Mythos, mô hình AI mới được cho là Anthropic đang phát triển. Mối lo đặt ra là nếu rơi vào tay tin tặc, mô hình này có thể bị lạm dụng với tốc độ vượt quá khả năng ứng phó của bên phòng thủ. Một số ý kiến trong ngành cũng cho rằng AI không làm thu hẹp vai trò của các công ty an ninh mạng, mà ngược lại có thể khiến thị trường này tiếp tục mở rộng.

Về chính sách, Ủy ban Bảo vệ Thông tin Cá nhân Hàn Quốc cho biết sẽ triển khai đợt kiểm tra sơ bộ về thực trạng thu thập và sử dụng số căn cước công dân trong lĩnh vực tài chính. Động thái này được đưa ra sau khi cơ quan này xử phạt các công ty thẻ vì vi phạm nghĩa vụ xử lý thông tin liên quan đến số căn cước.

Cơ quan An toàn Internet Hàn Quốc, hay KISA, cũng đã thành lập “tổ công tác thúc đẩy ứng phó ransomware toàn vòng đời” nhằm xây dựng cơ chế ứng phó có hệ thống trước các cuộc tấn công ransomware ngày càng tinh vi.

Trong khi đó, Hiệp hội Công nghệ Thông tin và Truyền thông Hàn Quốc, tức TTA, đã thành lập nhóm dự án chuyên trách tiêu chuẩn hóa “bảo mật AI” mang tên PG507, với mục tiêu bảo đảm độ tin cậy của mô hình AI và bảo vệ dữ liệu.

Nghị sĩ Cho In-cheol của Đảng Dân chủ đồng hành cũng đã trình dự thảo sửa đổi một phần Luật Thúc đẩy sử dụng mạng thông tin và bảo vệ thông tin. Dự thảo này theo hướng tăng nghĩa vụ lưu trữ log đối với nhà cung cấp dịch vụ thông tin - truyền thông, đồng thời yêu cầu bảo toàn ngay các máy chủ liên quan làm chứng cứ khi xảy ra sự cố xâm phạm.