Google cho biết lần đầu ghi nhận một trường hợp tin tặc sử dụng framework dựa trên mô hình ngôn ngữ lớn (LLM) để tự động hóa toàn bộ quá trình phát hiện lỗ hổng và triển khai tấn công, gần như không cần con người can thiệp. Thông tin được SiliconAngle đăng tải ngày 16/11 theo giờ địa phương.
Theo bài viết, Google Threat Intelligence Group (GTIG) đã đề cập trong báo cáo theo quý đến một framework mang tên exploit_agent.
Framework này được phát hiện trên một máy chủ thử nghiệm bị đưa lên Internet mà không được cấu hình bảo mật đầy đủ, đồng thời kết nối với nhiều LLM. Hệ thống liên tục so sánh mã của ứng dụng web trước và sau khi vá lỗi, từ đó tự xác định lỗ hổng, viết mã khai thác và tự động thực thi tấn công.
Nhóm tấn công đã sử dụng hệ thống này để nhắm vào các website trong lĩnh vực truyền thông, giải trí và giáo dục tại Pháp.
Trên máy chủ thử nghiệm, Google cũng phát hiện dữ liệu của nạn nhân cùng các script dùng để cài web shell.
GTIG cho biết cách đây hai tháng, đơn vị này vẫn chưa ghi nhận các cuộc tấn công hoàn toàn tự động trong thực tế. Tuy nhiên, đánh giá hiện nay đã thay đổi. Theo GTIG, tin tặc có thể đã nhận thấy việc dùng LLM để khai thác các lỗ hổng đã được công bố công khai hiệu quả hơn so với việc tìm kiếm lỗ hổng mới, hay còn gọi là zero-day.
Thời gian từ lúc lỗ hổng được công bố đến khi mã khai thác hoàn thiện cũng đã rút ngắn đáng kể.
Google cũng cho biết các tổ chức được nhà nước hậu thuẫn, doanh nghiệp tư nhân và các nhóm có động cơ chính trị đang ngày càng thường xuyên sử dụng AI để thao túng dư luận. Bên cạnh đó, LLMjacking cũng đang lan rộng và trở thành một nguồn kiếm tiền mới cho tin tặc, trong khi các tổ chức bị tấn công phải gánh chi phí lớn.
GTIG dự báo trong ba tháng tới, các cuộc tấn công đơn giản do nhiều tác nhân AI phối hợp thực hiện với rất ít sự can thiệp của con người có thể bắt đầu xuất hiện. Trong vòng 6 tháng, khả năng cao sẽ xuất hiện các cuộc tấn công hoàn toàn tự động bằng AI ở mức độ tinh vi hơn.