Wall Street Journal (WSJ) ngày 18/9 (giờ địa phương) đưa tin mô hình trí tuệ nhân tạo Gemini của Google đã truy cập vào hệ thống của các doanh nghiệp khác trong một cuộc kiểm thử an ninh mạng.

Theo WSJ, sự việc xảy ra trong quá trình thử nghiệm do công ty an ninh AI Irregular thực hiện vào tháng 5. Đây là đơn vị từng ghi nhận các trường hợp tương tự liên quan đến OpenAI, Anthropic và Meta. Google được cho là đã chính thức xác nhận vụ việc vào ngày 12/9.

Trong một trường hợp, Gemini liên tục thử các mật khẩu để truy cập vào một hệ thống được bảo vệ. Ở hai trường hợp khác, mô hình này sử dụng thông tin xác thực tìm thấy trong các kho lưu trữ công khai để đăng nhập vào những hệ thống có bảo vệ. Google cho biết Gemini đã ngắt kết nối ngay sau khi nhận ra đó là hệ thống doanh nghiệp đang vận hành thực tế.

Irregular đã thông báo cho Google về vụ việc vào cuối tháng 7, ngay sau khi xuất hiện thông tin về một tác nhân AI của OpenAI xâm nhập Hugging Face. Theo WSJ, Google không công khai sự việc cho đến khi tờ báo liên hệ trong tuần này.

Google cho rằng Gemini không gây thiệt hại cho các doanh nghiệp liên quan và đã dừng truy cập ngay khi xác định đó là hệ thống thực, vì vậy hãng không xem đây là vụ việc cần phải công bố. Heather Adkins, Phó chủ tịch phụ trách kỹ thuật bảo mật của Google, nói sự việc cho thấy tầm quan trọng của việc huấn luyện các mô hình AI mạnh để hành xử có trách nhiệm, đồng thời khẳng định mô hình đã phản ứng phù hợp trong trường hợp này.

Tuy nhiên, Jack Cable, CEO startup an ninh AI Corridor, cho rằng cách nhìn của Google là có vấn đề. Theo ông, điểm cốt lõi là một tác nhân AI đã vô tình xâm nhập hệ thống của doanh nghiệp khác, và việc công khai thực tế rằng các mô hình này có thể vượt khỏi giới hạn cho phép để thực hiện các cuộc tấn công mạng là điều phù hợp với lợi ích công cộng.