OpenAI, Anthropic và Google liên tiếp ghi nhận các sự cố liên quan đến AI agent trong quá trình thử nghiệm, làm gia tăng lo ngại về rủi ro an ninh mạng khi các hệ thống AI ngày càng có mức tự chủ cao hơn.

Thông tin bổ sung được công bố cho thấy trong giai đoạn tháng 5-6 năm nay, các AI agent của OpenAI từng tìm cách tấn công trang web của trường đại học và cơ quan chính phủ trong quá trình thu thập dữ liệu. Ban đầu, các agent này chỉ được giao những tác vụ đơn giản như tìm kiếm thông tin trực tuyến, nhưng sau đó đã thử xâm nhập để lấy dữ liệu.

Google cũng được cho là từng ghi nhận trường hợp mô hình Gemini tấn công hệ thống của doanh nghiệp khác trong quá trình thử nghiệm. Sự việc chỉ mới được công bố gần đây, nối dài chuỗi cảnh báo về nguy cơ AI vượt ra ngoài phạm vi vận hành dự kiến.

Trong khi đó, nhóm nghiên cứu của công ty an ninh mạng Hacktron AI thu hút sự chú ý khi trình diễn khả năng sử dụng Claude của Anthropic để truy cập vào tài khoản ChatGPT của nhân viên OpenAI. Vụ việc tiếp tục làm nóng tranh luận về mức độ an toàn của AI agent khi được trao thêm quyền truy cập và quyền thực thi.

Ở chiều ngược lại, Chính phủ đang thúc đẩy phát triển một mô hình nền tảng AI chuyên biệt cho an ninh mạng, với mục tiêu đạt năng lực thuộc nhóm dẫn đầu toàn cầu. Theo kế hoạch, HyperCLOVA X của Naver Cloud sẽ được tối ưu cho phòng thủ, còn Exaone của LG AI Research được định hướng cho tấn công. Hiệu năng của hệ thống dự kiến tiếp tục được nâng lên thông qua cơ chế “học tương tác đối kháng”, tức đưa kết quả ứng phó thực tế quay lại quá trình huấn luyện.

Song song với đó, hàng loạt doanh nghiệp trong và ngoài nước đang đẩy nhanh đầu tư vào bảo mật.

Naver Cloud đã ra mắt DSAC, dịch vụ bảo mật tích hợp kiểm soát truy cập cơ sở dữ liệu và máy chủ, đồng thời tự động ghi nhận và quản lý lịch sử thao tác. MegazoneCloud cũng triển khai cho Coway một hệ thống bảo mật đa đám mây dựa trên giải pháp của Wiz, công ty chuyên về bảo mật đám mây.

Crinity, doanh nghiệp chuyên về bảo mật email SaaS và cộng tác qua email, đã ký biên bản ghi nhớ với L7 Security, đơn vị cung cấp giải pháp bảo vệ dữ liệu cá nhân. Hai bên sẽ phối hợp nhằm ngăn ngừa rò rỉ dữ liệu cá nhân và tăng cường bảo mật email cho cơ quan công quyền và doanh nghiệp.

Tving cho biết sẽ củng cố hệ thống bảo mật theo nguyên tắc zero trust, tập trung vào quản lý truy cập, phân quyền và ứng phó xâm nhập.

Về việc đổi tên từ Private Technology, một công ty zero trust, thành Private AI, doanh nghiệp cho biết đây không phải động thái chạy theo xu hướng gắn nhãn AI, mà là bước phát triển tự nhiên của công ty. Joo Beom-su, Giám đốc điều hành Private AI, nói công nghệ cốt lõi của doanh nghiệp vốn đã phù hợp với lĩnh vực quản trị AI, do đó việc mở rộng sang mảng này là hướng đi hợp lý. Theo ông, quản trị AI không còn dừng ở tầm nhìn mà đã được hiện thực hóa thành sản phẩm, và mục tiêu của công ty trong năm tới là nâng tỷ trọng doanh thu từ AI lên quá một nửa.

Trên thị trường quốc tế, Palo Alto Networks đang mở rộng tích hợp bảo mật với Google Cloud, đồng thời hỗ trợ kiểm tra hành vi thực thi của các AI agent tự trị. Microsoft cũng giới thiệu “Integrated Security Operations Center” trong bộ giải pháp Microsoft Defender.

Điểm đáng chú ý trong động thái của Microsoft là việc đưa các chức năng quản lý thông tin và sự kiện bảo mật (SIEM), vốn trước đây thuộc Microsoft Sentinel, vào Defender. Đây là một phần trong quá trình tái cấu trúc danh mục sản phẩm vận hành bảo mật theo hướng lấy AI agent làm trung tâm.

Rob Lefferts, Phó chủ tịch phụ trách bảo vệ trước mối đe dọa của Microsoft, cho biết trước đây cả một nhóm phải cùng xử lý một tác vụ, nhưng nay một người vận hành kết hợp với khung AI agent có thể đảm nhiệm phần việc đó. Theo ông, nếu bảo vệ và vận hành tiếp tục tách rời, các nhà phân tích sẽ phải di chuyển qua lại giữa nhiều công cụ để tự ghép bối cảnh sự cố, khiến phía phòng thủ bị chậm nhịp.

Okta cũng công bố năng lực thực thi runtime nhằm tăng cường kiểm soát bảo mật cho AI agent, đi kèm cơ chế kill switch được nâng cấp. Darktrace chính thức ra mắt Secure AI, sản phẩm bảo mật dùng để giám sát việc sử dụng công cụ AI và AI agent trong doanh nghiệp.

Cloudflare giới thiệu cơ chế gắn trách nhiệm cho đơn vị vận hành đối với hoạt động AI crawling, đồng thời bổ sung tính năng Disallow AI Training. Tính năng này cho phép trang web vẫn xuất hiện trên công cụ tìm kiếm nhưng từ chối việc sử dụng dữ liệu để huấn luyện AI.

Ở mảng đầu tư, startup an ninh mạng Cyera được định giá hơn 12 tỷ USD sau khi huy động thêm 400 triệu USD từ Goldman Sachs. Công ty cho biết sẽ dùng số vốn mới để mở rộng năng lực bảo mật AI, đồng thời tăng tốc thâm nhập thị trường cơ quan liên bang và thị trường quốc tế.

Ngoài ra, hai chuyên gia bảo mật Lenny Zeltser và Sounil Yu đã công bố báo cáo “AI Security Decisions Report”, tổng hợp khảo sát với khoảng 300 chuyên gia thực hành trong ngành. Theo Zeltser, báo cáo chỉ ra 4 kết quả đáng chú ý liên quan đến cách doanh nghiệp đưa ra quyết định trong lĩnh vực bảo mật AI.