Kevin Mandia, nhà sáng lập Mandiant và hiện là CEO startup an ninh AI Armadin, cho rằng các cuộc tấn công sử dụng AI đang chuyển trọng tâm từ lỗi lập trình sang lỗ hổng trong logic nghiệp vụ của ứng dụng doanh nghiệp. Ông cũng cho biết Armadin đã phát hiện hơn 90 lỗ hổng zero-day kể từ đầu năm trên các hệ thống khách hàng đang vận hành.

Chia sẻ trên kênh YouTube của quỹ đầu tư mạo hiểm Andreessen Horowitz (a16z), Mandia nói rằng AI không chủ yếu đi tìm lỗi trong mã nguồn, mà nhắm vào những điểm hở trong cách thiết kế luồng nghiệp vụ. Theo ông, khác với con người, các hệ thống này có xu hướng rà soát đến cùng mọi khả năng khai thác có thể.

Armadin phát triển các tác nhân bảo mật tự động nhằm đối phó với các cuộc tấn công sử dụng AI. Startup này tập trung hỗ trợ lực lượng phòng thủ, gồm các chuyên gia bảo mật white hat, giành lợi thế trước tin tặc. Đồng sáng lập Armadin có Travis Lanham, cựu kỹ sư bảo mật Google Cloud; Evan Pena, cựu lãnh đạo Mandiant; và David Slater, kỹ sư thuộc đội vận hành an ninh của Google.

Hồi tháng 3, Armadin huy động được 189,9 triệu USD trong vòng seed và Series A do Accel dẫn dắt. Tham gia vòng gọi vốn còn có GV, Kleiner Perkins, Menlo Ventures, 8VC, Ballistic Ventures và In-Q-Tel, tổ chức có liên hệ với Cơ quan Tình báo Trung ương Mỹ (CIA).

Mandia cho biết từ tháng 1 đến nay, công ty đã phát hiện hơn 90 lỗ hổng zero-day, tức những lỗ hổng chưa từng được công bố và chưa có bản vá, trên môi trường vận hành của khách hàng. Theo ông, các phát hiện này đều xuất hiện trong những hệ thống đang hoạt động và phần lớn thuộc về các doanh nghiệp lớn trong danh sách Fortune 500, không phải công ty quy mô nhỏ.

Mô tả quy trình xử lý sau khi phát hiện lỗ hổng, Mandia nói Armadin thường liên hệ với giám đốc an ninh thông tin (CISO) của khách hàng trong vòng 48 giờ để cảnh báo về các rủi ro nghiêm trọng, chẳng hạn lỗ hổng thực thi mã từ xa (RCE) nằm trong vùng phi quân sự mạng (DMZ). Từ điểm xâm nhập đó, kẻ tấn công có thể tiến sâu hơn vào mạng nội bộ. Ông cho biết phía khách hàng nhìn chung đều đồng tình với đánh giá này.

Theo Mandia, ngay sau khi nhận được cảnh báo, các doanh nghiệp thường kích hoạt quy trình ứng phó khẩn cấp như khi một sự cố thực sự đã xảy ra. “Đây không phải diễn tập. Nó giống hệt tình huống một kẻ tấn công thật đang tràn vào hệ thống”, ông nói.

CEO Armadin cho rằng khác biệt nằm ở cách huấn luyện mô hình AI. Theo ông, công ty đã tinh chỉnh các mô hình cùng những chuyên gia red team thực thụ, tức nhóm kiểm thử bảo mật từ góc nhìn của kẻ tấn công, bao gồm cả những người có thể tự viết mã khai thác lỗ hổng.

Mandia cũng nhấn mạnh Armadin kiểm thử trong điều kiện tương tự một tác nhân tấn công từ bên ngoài, nhưng không sử dụng bất kỳ thông tin nội bộ nào của doanh nghiệp như mã nguồn hay thông tin đăng nhập.

Bình luận về phản ứng xung quanh mô hình AI “Mythos” của Anthropic, Mandia nói nhiều người đã quá chú ý tới tuyên bố rằng công cụ này có thể quét mã nguồn và phát hiện hàng nghìn lỗ hổng. “Đó chỉ là nhiễu thông tin”, ông nhận định, đồng thời cho rằng điều quan trọng không nằm ở số lượng lỗ hổng được liệt kê, mà ở khả năng chúng có thể bị khai thác để xâm nhập thực tế hay không.